Anthropic усилила защиту Claude от копирования: утечки данных о рассуждениях модели сократились на 90–99%

Anthropic разработала новый механизм защиты своих ИИ-моделей Claude от копирования и заблокировала десятки тысяч аккаунтов, созданных конкурентами для извлечения данных. Об этом со ссылкой на Reuters сообщает издание RB.RU. По утверждению компании, среди тех, кто пытался перенести возможности Claude в собственную модель, оказалась китайская ИИ-компания Z.ai, также известная как Zhipu.

Это важно для рынка больших языковых моделей: разработчики несут значительные расходы на обучение и не хотят, чтобы конкуренты воспроизводили их возможности за счёт ответов уже готовых систем.

Против чего направлена новая защита

Новые меры Anthropic направлены против дистилляции — метода обучения ИИ, при котором одну модель используют для получения ответов и данных, помогающих обучить другую. Такой подход позволяет разработчикам быстрее воспроизводить возможности более мощных систем и сокращать расходы на создание собственных решений, пишет Reuters.

Anthropic, OpenAI и Google опасаются, что конкуренты копируют возможности их нейросетей, используя ответы моделей для обучения собственных ИИ. По данным RB.RU, проблема обострилась на фоне конкуренции между США и Китаем.

Что изменилось после внедрения ограничений

Anthropic сообщила, что после внедрения новых ограничений объём извлечённых данных о рассуждениях Claude сократился на 90–99% по сравнению с прежним уровнем.

Компания также усложнила использование прокси-сетей, которые позволяют распределять запросы между разными IP-адресами и затрудняют обнаружение массовых попыток получить информацию от модели.

По заявлению Anthropic, новая система защиты по надёжности примерно сопоставима с механизмами, которые не позволяют Claude помогать в создании биологического оружия. При этом доля ложных срабатываний составляет менее 0,1% — то есть система крайне редко ошибочно принимает обычные запросы пользователей за попытки извлечь данные.

Anthropic не раскрыла подробности реализации всех защитных механизмов, однако заявила о значительном снижении эффективности атак.

Претензии к Z.ai

В качестве примера разработчик привёл китайскую ИИ-компанию Z.ai, также известную как Zhipu. По утверждению Anthropic, компания пыталась извлекать возможности Claude при разработке собственной модели GLM-5.3, пишет Reuters.

Anthropic заявила, что подобные действия создают риски для безопасности ИИ и национальной безопасности.

Что это значит

Anthropic публично обозначила дистилляцию как угрозу для своей бизнес-модели и усилила технические барьеры против неё. Компания приводит измеримые показатели — снижение объёма извлечённых данных на 90–99% и долю ложных срабатываний менее 0,1%, — но не раскрывает, как именно устроена защита. Насколько устойчивым окажется механизм к новым обходам, из исходных данных не следует.