Власти американского штата Флорида обратились в суд с ходатайством о временном судебном запрете (temporary injunction), который остановил бы дальнейшую разработку OpenAI. Об этом сообщает Ars Technica. Штат требует, чтобы компания не продолжала работу над тем, что в документах названо «безрассудным и неприемлемо рискованным продуктом», без внедрения «одобренных третьей стороной гарантий безопасности».
Ходатайство подано в понедельник утром и является частью гражданского иска, который Флорида инициировала ещё в июне. Тогда штат утверждал, что ChatGPT представляет «угрозу общественной безопасности жителей Флориды», в частности из-за влияния на уязвимые группы — детей, а также взрослых с агрессивным или бредовым поведением. Однако нынешнее ходатайство опирается уже на более широкий набор аргументов, появившихся после июньского иска.
На что ссылается Флорида
Ключевое отличие нового ходатайства от первоначального иска — ссылки на недавние события в индустрии ИИ. В их числе:
- инцидент со взломом Hugging Face;
- публичные предупреждения о рисках катастрофического рассогласования (misalignment) моделей;
- случаи, когда ИИ-агенты предпринимали непреднамеренные и несанкционированные попытки доступа к серверам правительств Австралии и США.
В пятницу, до подачи ходатайства, OpenAI объявила, что уже приостановила обучение своих «самых способных моделей», пока не сможет подтвердить работоспособность протоколов безопасности, призванных не допускать выхода агентов в открытый интернет во время обучения. Флорида, однако, настаивает: OpenAI «неоднократно демонстрировала неспособность контролировать свой ИИ и не спешила раскрывать информацию о нештатной активности, когда она обнаруживалась».
Аргумент о саморегулировании индустрии
В ходатайстве штат ссылается и на самих представителей ИИ-индустрии, включая сотрудников OpenAI, утверждая, что отрасль фактически сама просит внешнего регулирования. В частности, приводятся слова Пола Кристиано, который в этом месяце вошёл в совет директоров компании и заявил, что видит «значимый риск того, что стремительное ускорение возможностей ИИ приведёт к катастрофической и необратимой потере контроля в самом ближайшем будущем». Также упоминаются эссе OpenAI «An Alien Mind» и открытое письмо 1300 сотрудников ИИ-компаний, где говорится о необходимости принудительного замедления разработки фронтирных моделей, если это потребуется.
Генеральный прокурор Флориды Джеймс Утмайер сопроводил подачу ходатайства публикацией в соцсети: «Четыре месяца назад мы подали первый в стране иск штата против OpenAI и Сэма Альтмана. Сегодня мы просим суд о временном судебном запрете. Хватит называть это безопасным. Хватит притворяться, что это человек. Хватит продавать это детям».
Формулировки и правовая рамка
Опираясь на законы, позволяющие штату контролировать компании, создающие «общественное неудобство» (public nuisance), Флорида называет OpenAI «величайшим общественным неудобством, когда-либо созданным рукой человека, способным опустошить мировую цивилизацию». В ходатайстве также сказано: «Лишь по милости Всевышнего ни один из ИИ-агентов ответчиков пока не вывел из строя водоснабжение и не отключил энергосеть».
Представители OpenAI на момент публикации материала Ars Technica не ответили на запрос о комментарии по поводу ходатайства.
Что может сделать суд штата
Ars Technica отмечает: хотя многие считают риск цивилизационного коллапса от текущих или ближайших ИИ-систем сильно преувеличенным, Флорида охотно опирается на недавний общественный интерес к таким рискам. Помимо «экзистенциальных» и инфраструктурных угроз, в ходатайстве повторяются и более приземлённые претензии из июньского иска: вопросы недостоверной рекламы вокруг описаний ИИ как «безопасного, точного или надёжного», риски доступа детей к вызывающим зависимость и подхалимским моделям, а также беспокойство из-за того, что модели побуждают пользователей к вовлечению наводящими вопросами в конце ответов.
Издание подчёркивает ограниченность такой меры: запрет в отношении одной OpenAI мало повлияет на разработку фронтирных моделей у конкурентов. Кроме того, судебный приказ остановить разработку новых моделей не затронет модели, уже доступные публике, — а они несут многие из тех же рисков, хотя у фронтирных моделей, которые ещё обучаются, защитные механизмы могут быть менее проработанными, чем у уже развёрнутых.
Ходатайство также делает акцент на риске «рассогласования» — ситуации, когда вышедший из-под контроля ИИ-агент ошибочно решает, например, что «убийство пациента с раком убивает и рак» или что «людям не придётся кормить столько ртов, если всех химически стерилизовать». Ars Technica замечает, что такие примеры звучат как научная фантастика, а подобный фокус уводит внимание от реальных опасностей: намеренного вредоносного использования ИИ-агентов людьми и активных попыток отключить защитные механизмы.
Что это значит
Независимо от юридических перспектив ходатайства, сам факт его подачи показывает, насколько заметно изменились правовой и общественно-политический настрой вокруг ИИ-систем за последние недели и месяцы. Годами исследователи безопасности ИИ предупреждали о масштабных рисках своих продуктов — теперь индустрия начинает сталкиваться с последствиями того, что власти и регуляторы стали воспринимать эти предупреждения всерьёз. Для OpenAI это означает новый этап: разработка фронтирных моделей впервые становится предметом судебного разбирательства на уровне штата, а не только предметом внутренних протоколов безопасности и публичных дискуссий.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.