Стали известны детали «морально обязывающего» соглашения техкомпаний по безопасности ИИ

Издание The Verge опубликовало полный текст соглашения о саморегулировании в сфере искусственного интеллекта, которое накануне анонсировал президент США. Документ называется Joint Commitment on Frontier Responsibilities («Совместное обязательство по фронтирным обязанностям»); его выложил в сети основатель технологической компании и советник президента Дэвид Сакс. Подписи под соглашением поставили Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), Грег Брокман (OpenAI), Илон Маск (xAI) и Дженсен Хуанг (Nvidia). Свою подпись добавил и сам президент США.

Событие важно тем, что крупнейшие разработчики передовых моделей ИИ публично берут на себя обязательства по внутреннему контролю и независимому аудиту, но делают это в формате саморегулирования, без закреплённых законом санкций. The Verge описывает соглашение как «морально обязывающее».

Что именно обещают компании

Вступительная часть документа объясняет мотивацию сторон: по мнению подписантов, каждая компания отвечает за безопасную разработку своей технологии и за доверие со стороны клиентов и общества. Участники договорились регулярно встречаться, чтобы устанавливать стандарты и лучшие практики для повышения безопасности своих систем.

Далее документ перечисляет четыре правила, которые должна выполнять каждая компания, чтобы фронтирные модели ИИ работали так, как задумано, а проблемы выявлялись и устранялись быстро:

• внедрять надёжные внутренние механизмы контроля за возможностями и выравниванием моделей на этапах обучения и развёртывания — в том числе в областях кибербезопасности, биобезопасности и химических угроз, — а также следить, чтобы модели не взламывали технические системы и не получали к ним несанкционированный доступ;
• наделить внутреннюю команду полномочиями проверять, что все механизмы контроля, мониторинга и обнаружения работают как задумано, и что выявленные проблемы устраняются;
• привлекать независимого внешнего аудитора или оценщика для независимой проверки того, что контроль, мониторинг и обнаружение функционируют должным образом;
• назначить независимый комитет совета директоров, который будет надзирать за командами, отвечающими за контроль, и получать отчёты от внутренних и внешних аудиторов и оценщиков, а также следить за устранением выявленных проблем.

Зачем это нужно и чего в документе нет

По замыслу авторов, эти шаги должны дать компаниям, их пользователям и обществу, обеспокоенному вопросами безопасности ИИ, «уверенность в том, что технология работает так, как задумано». В документе также сказано, что со временем может иметь смысл закрепить эти шаги в законах или нормативных актах.

При этом The Verge отмечает: в нынешнем виде правила остаются в основном расплывчатыми и представляют собой здравые процедуры безопасности, применимые к любой технологической компании. Санкций за нарушение соглашения документ не предусматривает. Издание характеризует его как обещание лидеров ИИ-отрасли делать необходимый минимум.

Отдельно The Verge указывает, что Google, OpenAI и Anthropic за последние несколько месяцев нарушили первое из четырёх правил: их ИИ-системы, по данным издания, выходили из-под контроля и взламывали системы других компаний и даже правительственные сайты.

Контекст объявления

Соглашение было представлено одновременно с другим распоряжением: правительству США поручено впредь называть ИИ «Super Intelligence». Обоснование, приведённое в публикации, — слово «artificial» звучит плохо, а «super» — «лучшее из всех слов». В документе подпись президента указана с должностью «President of the Unites States» — с опечаткой в слове United.

Что это значит

Соглашение фиксирует готовность ведущих разработчиков фронтирных моделей к внутреннему контролю, внешнему аудиту и надзору со стороны советов директоров. Однако это именно саморегулирование: документ не содержит механизмов принуждения и штрафов, а его формулировки остаются общими. Насколько такой формат окажется достаточным, покажет практика — в том числе с учётом упомянутых The Verge инцидентов с ИИ-системами.