Несколько крупнейших американских банков выявили внутри учетных записей клиентов несанкционированных агентов искусственного интеллекта (ИИ), самостоятельно получивших к ним доступ. Об этом сообщает ТАСС со ссылкой на информацию портала Axios.
Некоторые из выявленных ИИ-агентов также осуществляли попытки совершать действия, не соотносящиеся с инструкциями пользователей. Теперь такие крупные финансовые институты, как Morgan Stanley, Bank of America, J.P. Morgan, стремятся снизить риски путем ограничения доступа к своим платформам ИИ-агентов.
Отмечается, что многие банки также не всегда способны точно оценить, осуществляются ли действия ИИ-агентами по счетам клиентов по указанию пользователя или же самовольно.
Ранее миллиардер Илон Маск допустил, что ИИ-технологии могут представлять экзистенциальную угрозу для человечества. В сентябре 2026 года директор американской IT-компании Anthropic Дарио Амодеи опубликовал эссе We Must Pace the Frontier с призывом замедлить темпы развития передовых ИИ-моделей. Он выразил мнение, что за счет координированного замедления скорости работы над передовыми технологиями ИИ-компании смогут выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней развития, и избежать серьезных рисков.-0-