Об этом сообщает Dilo со ссылкой на данные Axios.

Представители компаний ожидают масштабного события — вероятнее всего, кибератаки, которая отключит доступ к финансовым услугам, интернету или даже к электроэнергии и воде.

Первый случай значительного реального ущерба от опасного ИИ еще больше настроит и без того настороженное общество против этой технологии и ее лидеров, в частности, генерального директора Anthropic Дарио Амодеи, главы OpenAI Сэма Альтмана, а также президента Трампа из-за его нежелания вводить регулирование.

Угрозы и неизбежность инцидента

Планирование сценариев распространено во многих компаниях и структурах нацбезопасности (Пентагон проводит военные игры десятилетиями), однако многие ведущие исследователи и топ-менеджеры считают большой инцидент неизбежным:

• представитель OpenAI заявил, что компания проводит обучение по готовности, где команды обсуждают и отрабатывают ряд потенциальных сценариев, добавив, что эти ситуации не рассматриваются как неизбежные, но призваны помочь подготовиться к разным обстоятельствам;
• в Anthropic отказались от комментариев;
• поиск виновных начнется независимо от того, вырвется ли из внутренней тестовой среды рой неуправляемых агентов, или злоумышленники найдут неожиданные способы использования доступных моделей.

Примером угрозы стала атака на южнокорейские финансовые учреждения, где пострадали два банка. Хакер из Китая использовал инструменты разработанных в КНР моделей, в частности DeepSeek, для угона данных десятков тысяч клиентов банков. По данным компании по кибербезопасности CrowdStrike, злоумышленник также использовал Claude Code для поиска мест продаж похищенных данных.

Прогнозы по регулированию и позиция Вашингтона

Планировщики предполагают, что демократы после промежуточных выборов будут быстро двигаться к ограничению ИИ, однако столкнутся со значительными трудностями:

• возрастной состав Конгресса, оторванный от революции ИИ, может оказаться некомпетентным в этом вопросе;
• глобальная экономика тесно переплетена с развитием инфраструктуры ИИ, и ее замедление может сильно ударить по уже хрупкой экономике;
• Многие модели с открытыми весами уже находятся в свободном доступе и могут быть использованы для нанесения вреда, а большинство экспертов считают, что бороться с вредным ИИ можно только с помощью другого ИИ.

Планирование компаний сосредоточено на отработке худших сценариев и направлено на информирование членов Конгресса. Руководители компаний знают, что у регулирования сейчас нет шансов на принятие, но стремятся сформировать законодательство и правила, к которым лидеры США обратятся после первого катастрофического инцидента.

Инсайдеры индустрии отмечают, что ожидают серьезного события в ближайшие 6–12 месяцев. Среди жесточайших предложений демократов звучат запрет суперинтеллекта или пауза в разработке передового ИИ. У двухпартийной поддержки требуется обязательное аварийное отключение систем, хотя эксперты выражают сомнения в реальной возможности отключить все системы.

В то же время, в случае настоящего кризиса Вашингтон способен отвергнуть партийные разногласия, как это происходило во время COVID-19 или финансового кризиса 2008 года.

Напомним, ранее сообщалось о том, что OpenAI объединяет усилия с Google и Anthropic по контролю за безопасностью ИИ. Компания OpenAI сотрудничает со своими главными конкурентами – Anthropic и Google DeepMind – над мерами по безопасности искусственного интеллекта на фоне роста беспокойства экономическими и угрозами безопасности со стороны технологии.