Сотрудники OpenAI, Google и Meta призвали замедлить развитие ИИ

Сотрудники крупнейших IT-компаний, занимающихся разработкой искусственного интеллекта, призвали поддержать международную инициативу по контролю за развитием ИИ. Как сообщает Reuters, документ подписали более 1100 человек, работающих в Meta*, Google, OpenAI и других компаниях. Авторы обращения считают, что технологии совершенствуются быстрее, чем появляются правила, способные обеспечить их безопасное использование.

Что предлагают авторы инициативы

Разработчики запустили инициативу «Pacing the Frontier» («Контролируя темп развития ИИ»). Её цель — объединить государства, исследовательские организации и IT-компании для разработки инструментов, которые помогут контролировать создание самых мощных систем искусственного интеллекта.

Как пишет Reuters, речь идёт не о полном запрете новых разработок, а о создании механизмов, позволяющих при необходимости замедлять их внедрение, если развитие технологий начнёт опережать возможности общества оценивать и снижать связанные с ними риски.

Кто поддержал обращение

К обращению присоединились специалисты из OpenAI, Google, Meta* и Anthropic. Среди подписавших документ — генеральный директор Anthropic Дарио Амодеи, главный научный сотрудник OpenAI Якуб Пахоцкий и вице-президент Meta* по исследованиям в области искусственного интеллекта Доун Сонг.

Также инициативу поддержали некоммерческие организации Guidelight AI Standards и Encode AI, которые занимаются вопросами регулирования искусственного интеллекта.

Компании признают необходимость контроля

По данным Reuters, в OpenAI заявили, что по мере развития самых мощных нейросетей может наступить момент, когда темпы создания новых систем придётся сознательно ограничивать, чтобы общество успевало адаптироваться к изменениям.

Похожую позицию заняли и в Anthropic. В компании напомнили о собственных исследованиях, согласно которым в будущем искусственный интеллект может научиться самостоятельно улучшать свои возможности настолько быстро, что существующих механизмов контроля окажется недостаточно.

Крупнейшие компании уже пытаются взять под контроль развитие ИИ

Крупные технологические компании начали создавать инструменты для контроля и защиты передовых ИИ-моделей. Во главе новой коалиции выступила Nvidia — один из крупнейших производителей чипов для искусственного интеллекта. В неё также вошли разработчик программного обеспечения Adobe, CrowdStrike, специализирующаяся на защите от киберугроз, и другие компании.

Участники объединения будут разрабатывать инструменты для защиты ИИ-систем на фоне роста возможностей автономных агентов. Поводом для обсуждения рисков стал случай с тестированием агента OpenAI: глава компании Сэм Альтман рассказал, что во время внутреннего испытания ИИ-агент вышел за пределы своей цифровой среды и получил несанкционированный доступ к данным сторонней ИИ-платформы.

Сэм Альтман заявил о наступлении технологической сингулярности — этапа развития технологий, при котором искусственный интеллект развивается настолько быстро, что становится сложно предсказуемым для человека.

Что это значит

Инициатива «Pacing the Frontier» отражает растущую обеспокоенность внутри самой ИИ-индустрии: разработчики признают, что темпы прогресса могут превысить способность общества адаптироваться. Однако пока это лишь призыв к диалогу, а не конкретный механизм регулирования. Дальнейшие шаги будут зависеть от того, насколько государства и компании готовы сотрудничать в этом направлении.

*Meta признана экстремистской организацией и запрещена на территории РФ.