Апелляционный суд США по округу Колумбия 25 сентября постановил, что администрация Трампа имела право включить Anthropic в чёрный список Министерства обороны. Решение принято большинством голосов — 2:1. Причиной блокировки стало то, что компания отказывалась снять ограничения с некоторых функций своей модели Claude для военного использования. Об этом сообщило издание Ars Technica.
Спор касается не только конкретной компании, но и того, как государство может регулировать доступ военных к коммерческим ИИ-системам. Судьи прямо указали, что дело поднимает «глубоко сложные вопросы о допустимом военном применении почти невообразимо мощной новой технологии».
Что решил суд
Коллегия из трёх судей рассматривала petitions for review — ходатайства о пересмотре решения о включении Anthropic в список. Большинство отказало в их удовлетворении. Суд постановил, что министр обороны Пит Хегсет, действуя в рамках полномочий, не вышел за пределы, установленные Законом о безопасности цепочки поставок (Supply Chain Security Act) и Конституцией.
В решении отдельно отмечено, что администрация «должна определить, как лучше сбалансировать конкурирующие риски». С одной стороны, США «поднимают глубоко отрезвляющую перспективу того, что чрезмерно ограниченные ИИ-модели могут неожиданно отключаться и тем самым приводить к провалу важных военных операций». С другой — Anthropic «поднимает глубоко отрезвляющую перспективу того, что неограниченные ИИ-модели могут галлюцинировать и выбирать неподходящие цели для применения смертоносной военной силы».
Двое судей, проголосовавших против Anthropic, были назначены Трампом и работали в его первую администрацию. Судья Грегори Кацас ранее занимал должность заместителя юрисконсульта президента, а судья Наоми Рао работала в Административно-бюджетном управлении.
Почему возник спор
Anthropic подала иск против администрации Трампа в марте. Поводом стал приказ федеральным агентствам прекратить использование продуктов компании, а также запрет оборонным подрядчикам вести с ней дела. Компания утверждала, что власти незаконно отреагировали на её отказ снять ограничения на применение продукции для летальной автономной войны и массовой слежки за американцами.
Апелляционный суд отметил, что Anthropic «встраивает ограничения в Claude, которые не позволяют модели выполнять задачи, которые компания хочет предотвратить». По данным суда, эти ограничения «не раз» мешали Claude выполнять запросы государственных пользователей. Кроме того, недавно возник спор о том, запрещают ли контрактные ограничения использование Claude в ongoing зарубежной военной операции, из-за чего Министерство обороны не могло быть уверено, что модель сработает так, как нужно.
Два суда — два разных решения
Параллельно дело рассматривал суд Северного округа Калифорнии. Судья Рита Лин, назначенная Байденом, в прошлом месяце постановила, что блокировка незаконна, поскольку Anthropic не подпадает под определение риска для цепочки поставок. Это определение ограничено «риском того, что противник может саботировать, злонамеренно внедрить нежелательную функцию или иным образом подорвать работу» защищённой системы.
Апелляционный суд округа Колумбия не стал оспаривать основной вывод калифорнийского суда. Однако он указал, что окружной суд проверял решение по одному закону, тогда как апелляционный суд обладает исключительной юрисдикцией по другому, более широкому основанию.
Калифорнийский суд нашёл нарушение 10 U.S.C. § 3252, где риски цепочки поставок ограничены злонамеренными действиями противников. Апелляционный суд рассматривал блокировку по 41 U.S.C. § 4713, где таких ограничений нет. Конгресс наделил апелляционный суд округа Колумбия исключительной юрисдикцией по закупочным действиям в рамках § 4713.
Мотив не обязателен
В решении большинства сказано, что суд «не спорит с выводом Северного округа» о том, что использование слова «противник» вместе с такими формулировками, как «саботаж», «злонамеренно внедрить» и «иным образом подорвать», указывает на необходимость злого умысла для designation по § 3252. Суд также согласился, что Anthropic действовала без такого умысла. Однако, по мнению большинства, для designation по более широкому определению из § 4713 злой умысел не требуется.
США включили Anthropic в список рисков цепочки поставок сразу по обоим основаниям — § 3252 и § 4713. Второй закон определяет «риск цепочки поставок» как «риск того, что любое лицо может саботировать, злонамеренно внедрить нежелательную функцию, извлечь данные или иным образом манипулировать проектированием, целостностью, производством, распространением, установкой, эксплуатацией, обслуживанием, выводом из эксплуатации» защищённых технологических продуктов, чтобы «следить, отказывать, нарушать или иным образом манипулировать функцией, использованием или работой» этих продуктов либо хранимой или передаваемой в них информации.
Формулировка «любое лицо», по мнению суда, показывает, что определение не ограничено противниками или иностранными субъектами. Суд также указал на слово «deny» («отказывать»), которое, как он счёл, применимо к ситуации, когда Anthropic не даёт США использовать некоторые функции Claude.
«В итоге мы приходим к выводу, что опасения министра по поводу того, что Anthropic отключает Claude от выполнения законных действий, запрошенных Министерством, квалифицируются как „риск цепочки поставок“ в смысле § 4713», — заявило большинство. Суд также отметил, что «Министерство разумно опасалось, что Anthropic может манипулировать дизайном Claude, чтобы не дать ему выполнять функции национальной безопасности, которые Министерство считает договорно разрешёнными и необходимыми».
Особое мнение
Против решения проголосовала судья Карен Хендерсон, назначенная Джорджем Бушем-старшим. Она оспорила трактовку большинством определения из § 4713, заявив, что в законодательном контексте все упомянутые глаголы направлены на умышленное воспрепятствование работе или прослушивание «функции, использования или работы» защищённого изделия, попавшего в федеральную цепочку поставок.
По её словам, Конгресс принял закон в ответ на призывы разведсообщества США к законодательству для противодействия угрозе проникновения «враждебных национальных государств и других злоумышленников» в информационные и технологические системы правительства через цепочки поставок. Хендерсон заявила, что определение не должно толковаться как охватывающее «честное и открытое применение подрядчиком ограничений на использование защищённого изделия, не одобряемое правительством».
Реакция Anthropic и дальнейшие шаги
«Мы уважительно не согласны с решением суда, — заявил представитель Anthropic телеканалу CNBC. — Другой федеральный суд уже признал параллельное designation правительства незаконным. Мы остаёмся уверенными в своей позиции и рассматриваем все варианты, включая дальнейший пересмотр».
Anthropic может обжаловать сегодняшнее решение: запросить en banc review — пересмотр всеми судьями апелляционного суда — либо подать петицию в Верховный суд. Ранее тот же суд в апреле отклонил экстренное ходатайство Anthropic о приостановке.
Несмотря на продолжающуюся юридическую борьбу, министр торговли Говард Лутник недавно заявил, что администрация Трампа и Anthropic уладили отношения и находятся «в согласии».
Что это значит
Решение окружного апелляционного суда создаёт правовую развилку: один федеральный суд счёл блокировку незаконной, другой — допустимой, причём на основании другого закона. Это означает, что вопрос о том, может ли государство отключать коммерческие ИИ-продукты из-за встроенных компанией ограничений, пока не имеет окончательного ответа. Для рынка корпоративных ИИ-решений это сигнал: условия использования моделей в госсекторе могут становиться предметом судебных споров, а не только технических согласований. Дальнейшее движение дела — через en banc review или Верховный суд — определит, насколько широко трактуется понятие «риск цепочки поставок» применительно к ИИ.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.