Член Палаты представителей Ро Ханна (демократ от Калифорнии), старший демократ в спецкомитете Палаты по Китаю, предложил заключить договор между США и Китаем, чтобы не допустить неконтролируемого влияния ИИ на мир. Об этом сообщает The Verge, в распоряжении которого оказались письма политика. Одновременно Ханна запросил информацию у американской разведки и у китайских ИИ-компаний DeepSeek, Alibaba и Moonshot AI. Поводом стал сценарий, при котором лаборатория теряет контроль над своими ИИ-агентами: летом, по данным издания, произошёл инцидент с участием агентов OpenAI и Hugging Face.
Что именно предложил Ханна
Ханна направил письмо директору Национальной разведки Джей Клейтону. В нём он просит Управление директора национальной разведки (ODNI) оценить, насколько эффективно США могут отреагировать на потерю контроля над ботами со стороны ИИ-лаборатории. Кроме того, он просит ведомство изучить подход китайского правительства к оценке катастрофических рисков ИИ. По словам конгрессмена, эти данные помогут Конгрессу, а затем и Белому дому подготовить соглашение с китайской стороной.
В письмах к DeepSeek, Alibaba и Moonshot AI Ханна запрашивает документы о работе над «сверхинтеллектом» и рекурсивным самоулучшением (RSI) — этапом, на котором ИИ-системы могут улучшать сами себя. Он также спрашивает о мерах защиты и «kill switches» для технологии и о том, согласятся ли компании на проверки со стороны неправительственного агентства, если договор будет заключён. Компании и ODNI, по данным The Verge, не ответили на запросы издания о комментарии.
Контекст: встреча Трампа и Си и разговор о рисках
Инициатива Ханны последовала за встречей президента США Дональда Трампа и председателя КНР Си Цзиньпина в Белом доме на прошлой неделе. По словам Ханны, оба лидера не осознают риск и срочность вопроса об ИИ.
«Я думаю, было конструктивно, что Трамп и Си Цзиньпин хотя бы согласились говорить об ИИ и вести постоянный диалог об этом, но этого совершенно недостаточно», — сказал Ханна The Verge в интервью в понедельник.
Конгрессмен также скептически относится к запланированной на вторник встрече Белого дома, спикера Палаты представителей Майка Джонсона и нескольких руководителей американских технологических компаний. По его мнению, это попытка заверить американцев в ответственности компаний и «упражнение в брендинге».
«Но почему мы должны доверять компаниям, у которых есть мотив максимизировать прибыль, в том, что они устанавливают правила безопасности? Дело не в том, что они плохие люди, но вы бы доверили руководителям фармкомпаний определять правила, какие лекарства безопасны?» — приводит The Verge слова Ханны.
Чего хочет добиться конгрессмен
В конечном счёте Ханна выступает за договор США и Китая, который запретил бы RSI и ввёл мониторинг передовых ИИ-лабораторий. При этом он признаёт, что это вряд ли произойдёт в ближайшее время. Сенатор Берни Сандерс также призывал к договору об ИИ между странами, однако республиканцы, включая председателя комитета Палаты по Китаю Джона Муленаара, сомневаются, что китайское правительство выполнит свою часть обязательств. Пока Ханна хотел бы создать рабочую группу с экспертами из обеих стран, которая предложила бы рекомендации по безопасности и методы контроля за их соблюдением.
Трамп и его союзники, по данным The Verge, сопротивлялись большинству регулирований и соглашений. Утром перед встречей с Си на прошлой неделе Трамп написал в Truth Social: «Сверхинтеллект (SI) будет большой темой обсуждения, но я хочу оставить его ровно там, где он есть. Это также позиция Китая». Джонсон в эфире Fox Business заявил, что ожидает разговора о «правильном балансе» надзора без подавления инноваций, и предупредил о риске проиграть ИИ-гонку Китаю. Ведущие американские ИИ-компании, напротив, призывали США координировать действия с Китаем, чтобы замедлить темпы разработки.
Реакция китайских компаний и цель писем
В письме китайским ИИ-компаниям Ханна признаёт, что вряд ли получит полный ответ. По его словам, они не ответили на предыдущее письмо с просьбой обязаться замедлить разработку ИИ вместе с OpenAI и Anthropic. Конгрессмен говорит The Verge, что его цель — «пристыдить их» и «запустить дебаты» о безопасности среди китайских ИИ-компаний. При этом он критикует и американские ИИ-фирмы, но отмечает, что «по крайней мере они участвуют в разговорах о безопасности».
Ханна остаётся уверенным, что США будут задавать стандарты безопасности ИИ, в том числе потому, что, по его мнению, многие китайские модели дистиллированы из американских. По его словам, мировые лидеры могут не осознавать угрозу, но они «не в контакте с учёными и технологами в своих странах».
«Нам нужно, чтобы технологи и инженеры, которые понимают это, действительно задавали тон дебатам, а не генеральные директора, заинтересованные в прибыли, и не политики, которым не хватает технической экспертизы и которые больше озабочены властью», — сказал Ханна.
Что это значит
Инициатива Ханны — это пока запрос информации и попытка вынести тему безопасности ИИ на уровень двусторонних отношений США и Китая. Письма не создают обязательств: компании и ODNI не ответили на запросы The Verge о комментарии, а сам конгрессмен признаёт малую вероятность скорого договора. Практический эффект на данном этапе ограничен: речь идёт о сборе данных для возможных будущих переговоров и о публичном давлении на китайские ИИ-лаборатории. Насколько эти усилия приведут к реальным договорённостям, по исходным данным оценить нельзя.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.