Основатель и CEO Anthropic Дарио Амодеи публично ответил на слухи о том, что его компания поддерживает усилия правительства США по запрету open-weight моделей из Китая или вообще всех открытых моделей. В понедельник он опубликовал заявление, в котором категорически опроверг эту информацию.
Позиция Амодеи по open-weight моделям
«Любой, кто читал мои прошлые публикации, должен знать, что я не считаю такие запреты полезной мерой, но позвольте мне заявить это ясно, чтобы не осталось сомнений: Anthropic никогда не выступала за запрет open-weight моделей», — написал Амодеи, выделив последнюю фразу курсивом.
Это заявление стало ответом на открытое письмо, опубликованное в пятницу генеральным директором Nvidia Дженсеном Хуангом в его первом посте на X. Письмо, подписанное Nvidia и рядом других ИИ-компаний, включая Hugging Face, Meta, Microsoft, Mistral и Nvidia, призывало политиков не вводить широкие «преждевременные ограничения» на open-weight модели ИИ.
Хотя в письме не упоминался Китай, в отрасли ведутся споры о том, что китайские ИИ-лаборатории наращивают возможности, часто обвиняя их в краже интеллектуальной собственности у американских коллег. Один из методов — дистилляция, когда ИИ «бомбардирует» другую модель запросами, чтобы понять, как она работает.
Амодеи в своём посте пояснил, что считает open-weight модели отдельной категорией по сравнению с угрозой, которую представляет Китай. «Open-weight модели, не обладающие опасными возможностями, — это общественное благо: они не стоят ничего, кроме вычислительных ресурсов, необходимых для их работы, и приносят пользу бизнесу, разработчикам и исследователям», — написал он.
Опасения по поводу авторитарных правительств
Амодеи отметил, что у него давние опасения по поводу ИИ, но использование open-weight моделей бизнесом, даже китайскими, не входит в их число. Его главный страх — что «авторитарные правительства» создадут модели мощнее американских для достижения «постоянного военного превосходства» или для подавления собственного народа. Он сказал, что Коммунистическая партия Китая (КПК) — не единственное авторитарное правительство, которое его беспокоит, но она «самая способная».
Амодеи также заявил, что опасается, что ИИ позволит осуществлять «биологические атаки», а не только кибератаки. По его мнению, open-weight модели в таких сценариях более опасны, потому что к ним сложно применить ограничения или отслеживать их использование. Он также сослался на отчёт Британского института безопасности ИИ, отметив, что после выпуска open-weight модели невозможно отозвать.
Это противоречит аргументам сторонников открытого исходного кода, которые считают, что доступ к мощным открытым моделям, не контролируемым одной организацией, помогает защитникам.
Предлагаемые меры
Амодеи перечислил действия, которые, по его мнению, помогут сдержать Китай, включая ограничение доступа к мощным чипам (что уже является давней политикой США) и призыв к формальной борьбе с дистилляцией. США уже угрожали санкциями Китаю, если будет установлено, что имела место кража интеллектуальной собственности с использованием американских моделей.
Интересно, что Амодеи также поддержал растущие усилия, в том числе возглавляемые США, по созданию организации по тестированию безопасности моделей, особенно если весь мир, включая Китай, согласится подчиниться ей.
«Я думаю, эта идея близка к консенсусу: я воодушевлён тем, что администрация Трампа в последние месяцы движется в этом направлении, а также недавними отраслевыми предложениями применять такое тестирование к наиболее мощным моделям независимо от страны происхождения или открытости (полностью освобождая менее мощные модели, например, от стартапов и академических кругов)», — написал Амодеи.
«Обратите внимание, что для эффективности тестирование должно быть глобальным, а это значит, что даже КПК должна участвовать. Я думаю, это может быть возможно... ограниченное сотрудничество в предотвращении биологического оружия на основе ИИ может быть возможным, потому что это также в интересах Китая», — добавил он.
Что это значит
Заявление Амодеи проясняет позицию Anthropic в важном отраслевом споре. Компания не поддерживает запрет open-weight моделей, но призывает к глобальному тестированию безопасности. Это может повлиять на будущее регулирование ИИ, особенно в части международного сотрудничества и ограничений на дистилляцию.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.