Как пишет Dilo, об этом информирует Reuters.

Политики и регуляторы Пекина активно готовятся к аналогичным вызовам, поскольку США и Китай остаются главными глобальными двигателями развития передового ИИ. Этот вопрос станет одной из ключевых тем на предстоящих двусторонних переговорах между сверхдержавами.

Разница подходов к регулированию рисков

В США дебаты сосредоточены вокруг потенциальной экзистенциальной угрозы человечеству, тогда как в Китае к передовому искусственному интеллекту относятся как к управляемой технологии. Пекин не требует введения независимых мониторов внутри компаний, как предлагала Anthropic.

Китайская модель регулирования опирается на обязательства разработчиков, государственные стандарты, внешнее тестирование и строгий государственный надзор.

Кроме того, в отличие от американских конкурентов, закрывающих спецификации своих систем, китайские разработчики массово продвигают модели открытого веса для проверки и оборонной работы.

Новые правила безопасности

Китайские регуляторы уже официально признали «потерю операционного контроля» реальным риском безопасности для агентов искусственного интеллекта.

Соответствующие правила требуют у разработчиков улучшать возможности выявления и блокирования ненадлежащего поведения систем.

Кроме того, разрабатывается первый в мире обязательный национальный стандарт безопасности таких агентов, а профильные ведомства призывают к ужесточению защиты критической информационной инфраструктуры от потенциальных угроз со стороны новейших американских и внутренних моделей.

Напомним, ранее мировой регулятор призвал усилить контроль за ИИ в финансовой сфере. Совет по финансовой стабильности упорно призывает руководство компаний ввести защитные меры на фоне ускорения использования автономного и «агентного» искусственного интеллекта.