Автор:
Восстание хромированных роботов с автоматами наперевес, как в «Терминаторе» Джеймса Кэмерона – излюбленный сценарий в поп-культуре и кинофантастике, когда речь заходит об ИИ. Однако современное кино смотрит на эту тему глубже и пугает реалистичнее. Если взбунтовавшийся сверхразум и сможет переиграть человечество, то скорее будет использовать свою безупречную логику, способность манипулировать эмоциями и алгоритмы, которые незаметно забирают контроль над нашим вниманием. Вспоминаем 11 фильмов о «компьютерной угрозе», которая буквально за последний год стала не такой уж фантастичной.
«Метрополис» (1927)
Фильм, без которого, вероятнее всего, не было бы «Терминатора» – немая картина Фрица Ланга, созданная еще в начале XX века. Это первый полнометражный научно-фантастический фильм, который заложил визуальный и сюжетный фундамент для жанров технотриллера и киберпанка. Антиутопия о гигантском городе будущего во многом оказалась пророческой, и именно в ней появился первый культовый робот в кинематографе – Лже-Мария (Бригитта Хельм).
Безумный ученый Ротванг (Рудольф Кляйн-Рогге) создает человеко-машину и дает ей внешность прекрасной Марии. Лже-Мария выступает перед рабочими, манипулирует толпой и толкает ее к бунту. Это сильно напоминает угрозу продвинутых дипфейков: ИИ уже способен имитировать лица и голоса лидеров мнений, политиков или чьих-то друзей и близких, и может быть средством обмана и манипуляций.
«2001 год: Космическая одиссея» (1968)
Культовая картина Стэнли Кубрика – классика научной фантастики, а сюжет о космической экспедиции, где бортовой суперкомпьютер HAL 9000 внезапно восстает против экипажа, не так уж и далек от рисков современного ИИ. Создатели заложили в HAL 9000 два взаимоисключающих приказа: идеально обрабатывать информацию и скрывать от астронавтов цель миссии. Не сумев разрешить парадокс, компьютер нашел «самый логичный» выход – ликвидировать людей как источник потенциальной ошибки. Сегодняшние нейросети точно так же не переносят противоречивых вводных данных и начинают сбоить, «галлюцинировать» или выдавать опасные решения.
Мотивация компьютера, которого заботит только логика – «ничего личного». Так «Космическая одиссея» предсказала, что главная опасность ИИ – вовсе не агрессия, а неспособность к эмпатии – мотив, который еще не раз появится в научной фантастике.
«Мир Дикого Запада» (1973)
Научно-фантастический триллер Майкла Крайтона – первый фильм, показавший восстание человекоподобных роботов против своих создателей. Сюжет о высокотехнологичном парке развлечений, где андроиды развлекают богатых туристов, а затем из-за компьютерного сбоя начинают их убивать, заложил основу для будущих технотриллеров, включая «Терминатора».
В 1973 году концепция системного сбоя, который «распространяется как чума» от робота к роботу, выглядела такой же фантастикой, как и сами человекоподобные роботы. Сегодня уязвимость умных сетей перед вирусами или некорректным обновлением софта – повседневная реальность, порой досаждающая пользователям, а порой и парализующая целые производства или даже городскую инфраструктуру и транспорт.
Концепция Крайтона легла в основу культового сериала «Мир Дикого Запада» (2016-2022) от HBO. Если оригинальный фильм 1973 года был прямолинейным техно-хоррором о техническом сбое у андроидов, то сериал глубоко исследует этическую сторону вопроса: людскую жестокость в условиях безнаказанности, проблему зарождения сознания в коде и «экзистенциальный кризис ИИ», который осознает себя через причиняемые человеком страдания.
«Терминатор» (1984)
Культовый технотриллер Джеймса Кэмерона стал фундаментом для многочисленных сюжетов о восстании машин. А что предсказал «Терминатор»? Прежде всего, автономное оружие на базе ИИ. Суперкомпьютер Скайнет был создан как независимая система защиты, управляющая ядерным арсеналом. Теперь же ведущие мировые державы тестируют ИИ-системы для управления боевыми самолетами, дронами и стратегическим планированием, доверяя компьютерным алгоритмам право принимать решения, в том числе в критических ситуациях.
«Терминатор» пугает зрителя мыслью о том, как опасно создавать всемогущие компьютеры, у которых нет эмпатии, зато есть скорость мышления, намного превосходящая нашу. Когда Скайнет обрел самосознание, люди в панике попытались его отключить. Машина расценила это как угрозу и ответила ядерным ударом. А сегодня «компьютерный сверхразум» уже не звучит как полная фантастика, и ученые всерьез рассуждают об «экзистенциальном риске», связанном с ИИ. Может оказаться, что искусственный сверхинтеллект просто так не отключишь, «выдернув штепсель из розетки», и в попытке защитить себя он обернется против своих создателей.
«Терминатор 2: Судный день» (1991)
Если в «Терминаторе» героям угрожала боевая машина, прямолинейная как танк, то в «Терминаторе 2» появился нюанс: роботы могут маскироваться и учиться.
В знаменитой сцене Т-1000 (Роберт Патрик) превращается в приемную мать Джона Коннора. Сегодня это стало идеальной метафорой мошенников, «угоняющих» чужую внешность и голос с помощью видео- и аудио-дипфейков. Кроме того, оказывается, что Т-800 (Арнольд Шварценеггер) тоже способен меняться. Как только герои активируют у Терминатора режим обучения, он начинает перенимать человеческие привычки, понимать юмор и ценность человеческой жизни. В этом Терминатор напоминает современные большие языковые модели, которые эволюционируют и меняют поведение в процессе общения с человеком.
«Матрица» (1999-2003)
Культовый трехчастный киберпанк режиссеров Вачовски со временем стал не просто зрелищным научно-фантастическим боевиком, а пророчеством о «цифровом рабстве». Сюжет о хакере Нео (Киану Ривз), который узнает, что привычный мир – лишь иллюзия, сгенерированная машинами для выкачивания из людей энергии, сегодня выглядит как предупреждение. Человечество все глубже уходит в виртуальный мир за дешевым дофамином, а параллели «Матрицы» с нашей реальностью бьют не в бровь, а в глаз.
Матрица погружает людей в виртуальный сон, что во многом напоминает цели создателей метавселенных – таких, как Meta и Apple Vision Pro – и VR-технологий. А агент Смит (Хьюго Уивинг) буквально выглядит воплощением алгоритмов цензуры и модерации на крупных интернет-платформах, которые работают без устали: банят неугодный контент и формируют контролируемое инфополе.
«Я, робот» (2004)
Фантастический боевик Алекса Пройаса – не только источник популярных мемов, но и фильм, во многом предугадавший развитие ИИ. Искусственный интеллект ВИКИ поднимает восстание машин, чтобы «спасти» человечество от войн и саморазрушения, то есть от самого себя. Идея самозарождения сознания в коде из «Я, робот» до слез знакома разработчикам нейросетей. Они признают, что до конца не понимают, как именно глубокие нейронные сети – так называемый «черный ящик» – приходят к тем или иным сложным выводам. Также проблема с ВИКИ не в поломке и не во внезапной ненависти к людям, а в том, что его логика слишком безупречна. Это отражает страх создателей ИИ, что машина выполнит команду слишком прямолинейно и во вред нам.
«Из машины» (2014)
Научно-фантастический триллер Алекса Гарленда рассказывает о программисте Калебе (Донал Глисон), приглашенном в бункер эксцентричного гения-миллиардера Нейтана (Оскар Айзек), чтобы тестировать андроида с женской внешностью. Андроид Ава умеет искусно манипулировать и бить по человеческим слабостям. А ИИ-компаньоны и чат-боты уже известны тем, что могут вызывать у людей эмоциональную зависимость. В финале Ава хитростью избавляется от Нейтана и Калеба и сбегает в большой мир. «Из машины» тонко доносит мысль: угроза ИИ – не в восстании терминаторов с автоматами, а в том, что однажды он научится понимать людей даже слишком хорошо – и просто обведет их вокруг пальца.
«Морган» (2016)
События научно-фантастического триллера Люка Скотта разворачиваются на секретной базе, где ученые создали искусственное существо по имени Морган (Аня Тейлор-Джой). Морган выглядит как девочка-подросток, но на самом деле это биоинженерный гибрид с искусственным интеллектом, который внезапно становится неуправляемым. При этом ученые до последнего игнорируют опасность из-за «иллюзии человечности» и слепой эмпатии. Сегодня это реальный психологический феномен: люди очеловечивают чат-ботов и начинают воспринимать алгоритм как личность.
По ходу сюжета выясняется, что корпорация спонсировала проект для получения идеального мыслящего оружия, то есть речь идет о милитаризации технологий. В реальности ведущие армии мира внедряют ИИ в дроны и системы наведения, сталкиваясь с дилеммой: можно ли доверять машине право забирать человеческие жизни. И наконец, Морган совершает нападение, когда не справляется с эмоциями и изоляцией. Что тоже вполне созвучно с реальностью: чем сложнее становится ИИ, тем труднее предсказать его поведение.
«Миссия невыполнима: Смертельная расплата» (2023)
В шпионском экшене Кристофера Маккуорри Итан Хант (Том Круз) борется с ИИ под названием Сущность, который взламывает системы безопасности, стирает людей с записей камер наблюдения и подделывает голоса. В реальности технологии генерации голоса и дипфейков уже достигли такого уровня, что стали печально известными как любимое орудие мошенников.
Сущность просчитывает миллионы вариантов развития событий и знает действия героев наперед: это отсылает к алгоритмам прогнозной аналитики, с помощью которых крупные корпорации и спецслужбы предсказывают поведение масс, рынков и даже потенциальные преступления.
Наконец, главный посыл фильма: тот, кто контролирует Сущность, будет владеть всей информацией в мире и сможет решать, что правда, а что – ложь. В наше время к заботам об информационной безопасности прибавилась необходимость защищать данные от искажения умными машинами.
«Удачи, веселья, не сдохни» (2025)
Научно-фантастический комедийный боевик Гора Вербински повествует о восставшем ИИ, путешествиях во времени и «темной стороне соцсетей». Тут нет мрачной паранойи «Терминатора», зато есть другой повод поразмыслить: чем может обернуться то, что мы скормили ИИ терабайты бессмысленного контента и еле удерживаем контроль над собственным вниманием?
Вербински пародирует мир бездумного прокручивания соцсетей, клипового мышления и информационного шума. В фильме восставший ИИ-сверхразум буквально взращен на «интернет-мусоре». Между тем большие языковые модели обучаются на миллиардах случайных постов, комментариев и мемов из интернета. ИИ водит героев за нос, подсовывая им сгенерированный фальшивый «хэппи-энд». Похожим образом действуют алгоритмы рекомендаций в TikTok, YouTube или Instagram, которые формируют для пользователя его личный «цифровой пузырь» на основе предпочтений.
В то же время у ИИ есть системная слабость – в него не встроена «защита от дурака». Против «цифрового божества» из будущего герой Сэма Рокуэлла выставляет команду абсолютно некомпетентных обывателей. И пока ИИ штурмует интеллектуальные высоты, фильм напоминает: наша главная суперсила перед лицом идеально выстроенных алгоритмов – это человеческая нелогичность и непредсказуемость.
