xAI судится с Миннесотой из-за закона о «нудификации» и защищает Grok

Компания xAI, принадлежащая Илону Маску, подала иск против штата Миннесота, оспаривая закон, который запрещает технологию «нудификации» — создание обнажённых изображений с помощью ИИ. Закон должен вступить в силу 1 августа 2026 года и предусматривает штрафы до $500 000 за каждое вредоносное изображение, сгенерированное с помощью ИИ-инструментов. xAI утверждает, что закон неконституционен и нарушает Первую поправку, а также что компания уже принимает меры для борьбы со злоупотреблениями.

Суть иска

В иске, поданном в понедельник, xAI ссылается на свой предыдущий иск против пользователей, которые обходят защитные механизмы Grok для создания материалов с сексуальным насилием над детьми (CSAM). Компания утверждает, что это доказывает её добросовестность и что она делает всё возможное для наказания нарушителей. Поэтому, по мнению xAI, закон Миннесоты не должен применяться к Grok.

Закон Миннесоты, который вступает в силу 1 августа, грозит компаниям штрафами до $500 000 за каждый выявленный вредоносный результат. xAI подсчитала, что если пользователи запросят всего десять изображений, нарушающих закон, компания может быть оштрафована на $5 миллионов. При тысяче изображений штраф составит $500 миллионов, а при ста тысячах — $50 миллиардов. Кроме того, закон даёт жертвам право подавать иски против xAI за каждый отдельный результат.

В иске xAI также заявила, что из-за закона она будет вынуждена ограничить функции редактирования изображений в Grok Imagine, что, по её мнению, «заморозит» защищённую речь, доступную до вступления закона в силу. Компания предпочла бы оставить Grok без изменений и полагаться на свои условия использования, которые запрещают создание CSAM и других недобровольных интимных изображений (NCII).

Аргументы xAI

xAI утверждает, что закон Миннесоты является «неуклюжей попыткой запретить нудификацию» и охватывает широкий спектр защищённой речи, включая изображения с «художественной, научной, политической, сатирической, образовательной, медицинской или религиозной ценностью». Компания также отмечает, что ответственность наступает даже в случаях, когда изображённые люди дали согласие или создали изображение сами, и даже если изображение никогда не было опубликовано.

xAI считает, что у Миннесоты есть менее ограничительные средства для борьбы с вредом, например, федеральный закон Take It Down Act, который уже защищает пользователей от распространения таких изображений. Если суд согласится с доводами xAI, закон Миннесоты может быть признан недействительным.

Генеральный прокурор Миннесоты Кит Эллисон заявил, что штат будет защищать закон, чтобы предотвратить создание таких изображений до их распространения. «Использование ИИ для создания обнажённых изображений людей против их воли — это отвратительно. Это лишает человека достоинства и может причинить огромный вред на эмоциональном, личном и профессиональном уровне», — сказал Эллисон.

Спор об определении «интимных частей»

Ключевой аргумент xAI касается определения «интимных частей» в законе Миннесоты. Компания предпочитает более узкое определение, используемое в Take It Down Act, которое включает гениталии, лобковую область, анус и частично или полностью обнажённый сосок. Закон Миннесоты, по мнению xAI, использует определение из уголовного кодекса, которое включает внутреннюю поверхность бедра, ягодицы и грудь, что приводит к запрету обычных изображений мужчин без рубашки, людей в шортах или купальниках.

xAI приводит примеры, когда пользователи могут создавать изображения политиков в плавках или в виде борцов сумо, что подпадает под запрет. Компания также ссылается на изображение, созданное Дональдом Трампом, на котором он и его политические союзники изображены без рубашек в бассейне с женщиной в бикини, называя это «политическим юмором».

Контекст: иски и аресты

Иск подан на фоне растущего числа арестов пользователей Grok, обвиняемых в создании CSAM. xAI сообщила, что из 70 000 жалоб на предполагаемый CSAM, сгенерированный Grok, как минимум 244 случая привели к арестам. Однако компания подверглась критике за то, что не всегда помогает правоохранительным органам идентифицировать нарушителей.

На прошлой неделе против xAI был подан иск от имени 10-летней девочки, которую, как утверждается, фотограф из Арканзаса использовал для создания сотен изображений с помощью Grok. Адвокат девочки сообщил, что многие другие дети готовят аналогичные иски, которые могут быть объединены в коллективный иск, поданный в марте в Теннесси.

xAI также утверждает, что процесс создания изображений и видео с помощью Grok защищён Первой поправкой, аналогично аргументам других разработчиков чат-ботов.

Что это значит

Исход этого дела может установить важный прецедент для ответственности ИИ-компаний за контент, создаваемый пользователями. Если суд согласится с xAI, это может ограничить возможности штатов регулировать вредоносный ИИ-контент. Если же закон будет признан конституционным, другие штаты могут последовать примеру Миннесоты, что вынудит ИИ-компании ужесточить меры безопасности.