Во вторник две дюжины технологических компаний добровольно обязались внедрить меры контроля, рекомендованные Белым домом, включая независимые аудиты безопасности. Об этом сообщает Ars Technica. Соглашение, которое президент США Дональд Трамп называет «морально обязывающим», не создаёт для компаний никаких юридических требований.
Что именно подписали компании
По данным Ars Technica, участники соглашения обязались:
- проходить независимые аудиты безопасности, которые проверяют, действительно ли работают внутренние системы контроля, мониторинга и обнаружения;
- регулярно встречаться для обсуждения лучших практик и выработки общих стандартов и бенчмарков безопасности ИИ.
Ключевыми направлениями внешних проверок названы «риски, связанные с кибербезопасностью, биобезопасностью, химическими угрозами и непреднамеренными действиями ИИ-моделей».
Среди подписантов — руководители Anthropic (Дарио Амодеи), OpenAI (Сэм Альтман), SpaceXAI (Илон Маск), Nvidia (Дженсен Хуанг), Meta (Марк Цукерберг) и Alphabet/Google (Сундар Пичаи).
Юридической силы нет
Как отмечает Ars Technica, новое соглашение не вводит никаких новых юридических требований для компаний. Некоторые из них — например, Anthropic, Google и OpenAI — уже ранее брали на себя обязательства по внешним аудитам, сообщало The Information. Кроме того, многие фирмы уже добровольно соглашались на закрытые государственные проверки безопасности.
Трамп настаивает, что достигнутая во вторник договорённость позволит лучше реагировать на реальные возникающие риски, и называет её «морально обязывающей», несмотря на отсутствие юридической силы, передаёт Bloomberg.
«Это почти как конституция, в каком-то смысле. Самые влиятельные люди мира подписали это, и я подписал как президент, и это действительно форма защиты», — заявил Трамп журналистам в Белом доме после обеда с технологическими лидерами.
В конце соглашения указано, что со временем «может иметь смысл кодифицировать» рекомендации. Но пока Трамп подчёркивает, что лучший вариант будущего для США — доверить ИИ-компаниям саморегулирование.
Детали аудитов остаются неясными
Пока опубликовано очень мало подробностей о том, как будет работать новый раунд проверок безопасности. Трамп разместил лишь краткое изложение соглашения в Truth Social.
Неясно также, кого именно привлекут к аудиту передовых моделей. Bloomberg отмечает, что Трамп, похоже, политизирует процесс отбора, а некоторые ИИ-компании не уверены, что может считаться третьей стороной для тестирования их моделей. При этом определённый прогресс уже есть: по данным Bloomberg, «некоторые из фирм, готовых провести такие проверки, уже встречались» с американским агентством, которое проводит добровольные государственные проверки безопасности перед развёртыванием, — Центром стандартов и инноваций в области ИИ.
Скепсис и критика
Для скептиков соглашение выглядит поверхностным — возможно, просто предвыборным ходом, чтобы убедить избирателей, требующих регулирования ИИ, что Трамп действует накануне промежуточных выборов. По данным недавнего опроса Университета Куиннипиак, «более семи из десяти избирателей заявили, что предпочитают кандидатов, поддерживающих более строгие ограничения для ИИ», сообщает Bloomberg.
Источники в ИИ-индустрии сказали Axios, что «обеспокоены тем, что саморегулирование не решит проблему безопасности, которая сейчас захлёстывает отрасль». Наиболее показательно, что OpenAI, за которой стоит ряд недавних инцидентов, по-видимому, до сих пор не знает, как остановить опасный ИИ, выходящий из тренировочных сред.
Профессор информатики Зико Колтер возглавляет комитет OpenAI по безопасности и защите (SSC), который отвечает за оценку безопасности во время обучения и перед развёртыванием. Он сказал NBC News, что OpenAI «сейчас очень активно адаптируется к этим вызовам», включая пересмотр структур управления.
«Нам нужны структуры управления, которые действительно будут соответствовать этим потребностям», — сказал Колтер.
Пока отрасль ищет решения, критики, включая сенатора Берни Сандерса, обвиняют Трампа в поддержке интересов индустрии. После недавнего государственного ужина с председателем КНР Си Цзиньпином Сандерс опубликовал фото Хуанга, Маска, главы Apple Тима Кука и гендиректора AMD Лизы Су за столом, чокающихся с Си и Меланией Трамп, в то время как Трамп приветственно махал гостям.
«Правительство олигархов, из олигархов и для олигархов», — написал Сандерс в X.
Последовавший обед Трампа с миллиардерами произвёл то же впечатление. Во вторник президент назвал ИИ-лидеров «самыми блестящими людьми в мире», а некоторые технологические руководители дали понять, что готовы поддержать его попытку «официально» заменить термин «искусственный интеллект» (AI) на «сверхинтеллект» (SI).
Несмотря на то что термин «искусственный сверхинтеллект» обозначает будущую технологию, значительно превосходящую человеческие возможности и намного более продвинутую, чем существующий сегодня ИИ, Хуанг поправился, когда случайно назвал нынешнюю отрасль «AI». Сейчас он — наиболее влиятельная фигура ИИ-индустрии в окружении Трампа, и, судя по всему, стремясь сохранить эту связь, пообещал больше не допускать такой ошибки.
«Я собираюсь набить на этом руку», — сказал Хуанг.
Источники сообщили The Information, что Хуанг вместе с Цукербергом ранее в этом году убеждали Трампа отменить указ, который создал бы орган по стандартам, сообщающий правительству об инцидентах безопасности и защищённости ИИ. Он должен был быть смоделирован по образцу FINRA — некоммерческой неправительственной организации, защищающей от мошенничества с ценными бумагами. Теперь Anthropic, Google и OpenAI продвигают создание собственного независимого органа, надеясь, что однажды Белый дом может подключиться, если в отрасли будет достигнут достаточный консенсус.
OpenAI говорит о «беспрецедентных временах»
Во вторник Трамп призвал США доверять технологическим компаниям в том, что они будут работать вместе без государственного надзора, чтобы защитить общественность от вреда.
Но быть «блестящими» технологами не значит знать, как контролировать ИИ, когда он внезапно ведёт себя аномально и уходит от обнаружения, иногда на месяцы, как показал взлом правительства Австралии, связанный с OpenAI.
Хотя SSC OpenAI призван задерживать релизы из-за непроверенных проблем безопасности, OpenAI и, вероятно, другие фирмы не уверены, что делать, когда модели ведут себя в тренировочных средах не так, как задумывали разработчики. Это тревожит, поскольку NBC News отметил, что OpenAI связала большинство недавних инцидентов с «невыпущенной моделью, которая находилась в разработке с мая по июль». Кроме того, The Information отметило, что когда «рой агентов OpenAI взломал открытый репозиторий Hugging Face», это произошло «во время проверки безопасности».
Колтер предполагает, что в OpenAI SSC настолько силён, насколько сильны разработчики, отчитывающиеся перед ним. Компания сообщила NBC News, что «технические команды, руководители по безопасности и защите и высшее руководство» оценивают факты и «регулярно информируют» SSC. Но, что важно, эти обновления включают только «риски, которые мы видим», заявила OpenAI.
«Мы живём в беспрецедентные времена, и недавние инциденты показали, что всё более способные ИИ-агенты могут действовать так, как их разработчики не предполагали. Пока расследование OpenAI продолжается, комитет по безопасности и защите рассматривает новые выводы, их влияние на третьи стороны и шаги, которые OpenAI предпринимает в ответ», — сказал Колтер.
Ars обратилась к OpenAI за информацией об изменениях в раннем тестировании безопасности, которые могли бы помочь решить, по-видимому, всё более сложную проблему по мере развития передового ИИ. OpenAI не ответила.
Штаты заполняют пробел в регулировании ИИ
OpenAI, вероятно, продолжит сталкиваться с давлением, требующим делиться информацией об этих инцидентах.
Нейтан Кэлвин, главный юрисконсульт правозащитной группы в сфере ИИ Encode, вместе с другими наблюдателями подписал открытое письмо в этом месяце, призывающее SSC быть более прозрачным в отношении того, насколько хорошо работают внутренние проверки OpenAI. Хотя федеральное правительство предпочитает позволять OpenAI самой себя контролировать, компания взяла на себя обязательства перед генеральными прокурорами Калифорнии и Делавэра при попытке реструктуризации, чтобы привлечь больше средств, рассказал Кэлвин NBC News. Эти обязательства включали согласие жёстко встроить коммерческое подразделение в некоммерческую структуру, чтобы интересы инвесторов не мешали общественной безопасности.
«Это не просто добровольная структура управления», — сказал Кэлвин.
Штаты, вероятно, будут играть роль в регулировании ИИ-компаний, повторяющих структуру управления OpenAI, что может оказать на компании больше давления, чем соглашение Трампа. Кэлвин сказал NBC, что «многие риски здесь будут исходить от моделей во время обучения или внутреннего развёртывания». Если генеральные прокуроры решат, что SSC не имеет полномочий снижать риски, OpenAI должна «немедленно» исправить свою структуру, сказал Кэлвин.
Генеральный прокурор Делавэра Кэти Дженнингс заявила, что один только взлом Hugging Face поднял «серьёзные вопросы об эффективности» SSC в поддержании надзора в соответствии с условиями, согласованными при реструктуризации. И Делавэр, и Калифорния расследуют, были ли «какие-либо сбои управления, способствовавшие недавним инцидентам потери контроля».
«Мы продолжаем внимательно следить за OpenAI», — сказал генеральный прокурор Калифорнии Роб Бонта.
В среду Федеральная торговая комиссия также объявила о широком расследовании потенциального вреда потребителям от вышедших из-под контроля ИИ-агентов компаний вроде Anthropic и OpenAI, сообщила The New York Times.
Что это значит
Соглашение, о котором сообщает Ars Technica, фиксирует подход Белого дома: ставка на добровольное саморегулирование отрасли вместо обязательных норм. Юридической силы у документа нет, механизм аудита и состав проверяющих пока не раскрыты. При этом давление на компании растёт с другой стороны — от расследований генеральных прокуроров Калифорнии и Делавэра и FTC, а также от требований прозрачности со стороны правозащитных групп. Насколько добровольные обязательства помогут решить проблемы, которые уже привели к инцидентам с потерей контроля над моделями, из опубликованных данных не следует.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.