Флорида требует через суд запретить ChatGPT использовать местоимения первого лица

Генеральный прокурор Флориды Джеймс Атмайер обратился к суду с требованием запретить OpenAI «наделять ChatGPT ложными человеческими атрибутами». Об этом сообщает издание The Verge. Ходатайство подано спустя несколько месяцев после того, как Флорида подала иск против компании из-за опасений по поводу безопасности. По мнению Атмайера, манера общения чат-бота вводит пользователей в заблуждение и формирует у них ложное чувство доверия.

В чём суть претензий

Согласно позиции генпрокурора, использование языковых конструкций, включая местоимения первого лица и имитацию эмоций, «обманным путём внушает пользователям, что перед ними надёжный „друг“». Атмайер утверждает, что всё это служит росту вовлечённости и пополнению обучающих данных OpenAI, побуждая людей сильнее полагаться на ChatGPT — даже если погоня за вовлечённостью делает его потенциально менее надёжным.

В ходатайстве также содержится требование запретить OpenAI разрабатывать новые ИИ-модели без «одобренных третьей стороной защитных механизмов безопасности». В качестве обоснования приводятся недавние инциденты в сфере безопасности, затронувшие Hugging Face, сайт австралийского правительства и сайты правительства США, а также недавние заявления исследователей и бывших сотрудников OpenAI, выражавших тревогу по поводу безопасности ИИ.

Атмайер сформулировал свою позицию коротко: «Перестаньте называть это безопасным. Перестаньте притворяться, что это человек. Перестаньте продавать это детям».

Контекст: ChatGPT для подростков

Месяцем ранее OpenAI запустила ChatGPT for Teens — версию продукта с дополнительными ограничениями, включёнными по умолчанию. Компания заявляла, что доступ к инструменту «должен сопровождаться защитой, учитывающей их стадию развития, укреплять реальные отношения и поддерживать здоровое использование с течением времени».

Реакция OpenAI

Представитель OpenAI Дрю Пусатери прокомментировал ходатайство в заявлении для The Verge: «Люди хотят знать, что ИИ разрабатывается безопасно, и это начинается с того, что делают сами такие компании, как наша. В пятницу мы объявили, что приостановили обучение наших самых способных моделей и возобновим его только тогда, когда будем уверены в наличии дополнительных защитных механизмов. У правительств важная роль в установлении надёжных стандартов безопасности для ИИ, и мы готовы работать с Флоридой и другими штатами над продвижением прагматичной политики в области ИИ, применимой ко всей отрасли, а не только к одной компании».

Позже, 28 сентября, The Verge добавило комментарий представителя OpenAI Дрю Пусатери в материал.

Что это значит

Ходатайство Флориды — это попытка перевести спор о безопасности ИИ из плоскости общих заявлений в конкретные судебные требования: отказ от «человеческих» формулировок в ответах ChatGPT и обязательные внешние проверки для новых моделей. Исход дела может задать ориентир для других штатов, которые рассматривают собственные подходы к регулированию ИИ. При этом OpenAI уже заявила о приостановке обучения самых способных моделей и о готовности обсуждать отраслевые стандарты, что указывает на попытку компании влиять на формирование правил, а не только реагировать на претензии.