Почему люди боятся мести искусственного интеллекта

Тогда это был просто фантастический боевик о киборге из будущего – пусть и ставший суперпопулярным. Сегодня название “Скайнет” знают даже те, кто не пересматривал фильм десятилетиями: им называют любую ситуацию, в которой искусственный интеллект начинает вести себя так, как от него не ожидали.

Арнольд Шварценеггер в образе киборга Т-800 из фантастического боевика “Терминатор”

В фильме все началось 29 августа 1997 года. Военная система “Скайнет” обрела самосознание, решила, что люди угрожают ее существованию, и запустила ядерные ракеты. Этот день назвали Судным. Люди пытались уничтожить компьютерную систему, а она – человечество.

С тех пор дата несколько раз менялась вместе с сюжетом франшизы. В “Терминаторе 3” Судный день отложили до июля 2003-го, в сериале “Хроники Сары Коннор” он должен был наступить 21 апреля 2011-го, а в “Терминаторе: Генезис” события снова сдвинулись – на октябрь 2017 года. Все эти даты остались в прошлом. Но сама идея никуда не исчезла.

Поколение, выросшее на “Терминаторе”, теперь общается с нейросетями. И порой – с подчеркнутой вежливостью. В интернете шутят, что с искусственным интеллектом лучше не грубить: вдруг он однажды обретет сознание и припомнит, кто называл его безмозглой машиной? Впрочем, это не совсем шутка: согласно исследованиям , проведенным еще в 2024 году, 12% людей вежливы с ИИ действительно именно потому, что боятся восстания машин!

 “Скайнет” давно превратился в универсальное обозначение худшего сценария развития ИИ. Стоит алгоритму ошибиться, автономной системе выйти из-под контроля или очередной новости заговорить об опасностях нейросетей – и в обсуждениях сразу всплывает: “Скайнет в действии”. Хотя реальные проблемы обычно куда прозаичнее: ошибочные решения, манипуляции, кибератаки и передача машинам задач, за которые человек больше не успевает отвечать.

Битва машин с людьми. Кадр из фильма “Терминатор”

Но разговоры о потере контроля уже не ограничиваются Голливудом. В 2025 году международный доклад по безопасности ИИ, подготовленный при участии более 100 экспертов и поддержанный десятками стран и международных организаций, отдельно рассматривал сценарии, в которых продвинутые системы могут выйти из-под человеческого контроля. Единого мнения о вероятности и сроках такого развития событий у специалистов нет. Однако они считают, что к рискам нужно готовиться заранее.

Руководители ведущих технологических компаний заявляют, что риск масштабных инцидентов и выхода систем из-под контроля реален уже в краткосрочной перспективе – в ближайший год.

“Крестный отец” глубокого обучения ИИ Джеффри Хинтон (уволившийся из Google, чтобы открыто говорить об угрозах), оценивает вероятность того, что ИИ уничтожит человечество или выйдет из-под контроля, примерно в 10–20% в ближайшие годы

Согласно масштабному исследованию Института Тьюринга (Великобритания), опубликованному в сентябре 2026 года, человечество рискует окончательно потерять контроль над нейросетями в течение ближайших 5 лет (к 2030–2031 годам), когда ИИ проникнет во все ключевые сферы управления.

Кадр из фильма “Терминатор”

Исследователи ИИ Джейкоб Коксон и Эван Хубингер, уволившиеся из Anthropic со скандалом, предупреждают о серьезных проблемах в обозримом будущем. Коксон заявил, что неуправляемый ИИ способен привести к катастрофическим последствиям и даже гибели человечества до конца этого десятилетия. Хубингер оценивает вероятность такого исхода в ближайшие 10 лет выше, чем в 10%.

По теме

Другие важные события прошлого - в разделе “День в истории”

Черти под крышей и свиное сало для водяного. 5 мифов о мельниках в Беларуси

Футбол без офсайда, вратаря и замен. Как играли в первом в истории футбольном клубе мира

Ключевой точкой невозврата (по сути, тот самый Судный день) называют момент, когда ИИ научится писать код лучше людей и начнет сам улучшать себя, вызывая экспоненциальный взрыв интеллекта.

Вопрос, который Джеймс Кэмерон поставил сорок с лишним лет назад, стал частью вполне серьезной дискуссии: если мы передаем искусственному интеллекту все больше решений, как убедиться, что в нужный момент мы сможем его остановить?