Джеймс Кэмерон активно работает над сценарием седьмой части франшизы «Терминатор». Но сам режиссер признается — в современных реалиях придумать хорошую историю он не успевает. Искусственный интеллект развивается так быстро, что все его идеи устаревают моментально.
Поэтому редакция «Киноафиши» обратилась к эксперту по безопасности ИИ-систем Артему Бакрадзе. И у него есть мысли по поводу того, каким может быть «Терминатор-7».
«Вижу реальную угрозу хаоса»
Артем Бакрадзе в беседе с «Киноафишей» отметил, что классический сценарий «Терминатора» в данный момент кажется ему неосуществимым. Но есть другая проблема.
«Мне сложно представить какой-то глобальный Скайнет, который вдруг обрел самосознание и решил стереть человечество с лица Земли. Но я вижу вполне реальную угрозу хаоса, когда миллионы персональных ИИ-агентов будут пренебрегать моральными и правовыми нормами просто ради того, чтобы быть полезными своим хозяевам», — отметил эксперт.
И у этого сценария уже есть реальные ситуации, которые могут воплотить его в жизнь.
«Недавно была новость, где человек попросил ИИ записать его на занятие на определенное время. Увидев, что слот занят, бот просто нашел уязвимость в системе бронирования, удалил запись другого клиента и поставил на это место своего хозяина. Формально задачу он выполнил, а способ достижения цели для него был второстепенен»
«Люди в этой войне станут расходным материалом»
В работе искусственного интеллекта есть серьезная брешь, которая в скором времени может обернуться проблемами.
«Соблюдать законы и этику — это всего лишь внешняя настройка ИИ, которую можно обойти или отключить. И если крупные компании вынуждены держать эти рамки, то локальные и теневые модели никто контролировать не сможет. Скоро у каждого будет свой персональный ИИ, действующий в первую очередь в интересах хозяина, а не общества», — объяснил эксперт.
И сценарий седьмого «Терминатора» можно построить вокруг реально существующей угрозы
«Поэтому сценарий седьмой части «Терминатора» может быть про войну миллионов персональных и корпоративных агентов. А люди в этой войне станут просто расходным материалом для того, чтобы ИИ закрывал свои задачи эффективно», — отметил Артем Бакрадзе.
Ранее мы писали: Эти 3 научно-фантастических сериала можно понять только со второго раза: после первого просмотра в голове будет каша.
