Команда DeepMind в Google опубликовала исследование, в котором предложила способ помечать белки, созданные с помощью искусственного интеллекта, водяными знаками. Работа, опубликованная в журнале Nature, описывает систему, которая добавляет в белковую последовательность скрытую метку, не нарушая функцию белка. Это должно помочь в биобезопасности: проверяющие организации смогут отличать белки, спроектированные доверенными исследователями, от неизвестных и потенциально опасных.
Об этом сообщает Ars Technica.
Зачем понадобились водяные знаки для белков
Инструменты на основе ИИ всё чаще используются для дизайна белков. Среди успешных примеров — ферменты, способные разлагать пластик, или белки, блокирующие токсины. Однако те же инструменты могут применяться для создания токсинов или изменения поведения вирусных белков. Существующие системы проверки ДНК-последовательностей не распознают белки, созданные ИИ, поскольку такие белки недостаточно изучены, чтобы считать их угрозой. Почти год назад на этот риск указали, но решения не было.
Как работает система
В основе метода лежит технология SynthID, которая добавляет незаметные водяные знаки в цифровые материалы, созданные ИИ. Водяной знак влияет на вероятности выбора, которые делает ИИ, и это смещение систематически распределяется по всему продукту — будь то текст или изображение. Без знания ключа кодирования обнаружить водяной знак невозможно, а благодаря распределению по всему объекту он сохраняется при экспорте, изменении размера и других преобразованиях.
Перенести этот подход на белки сложнее. Белки состоят всего из 20 аминокислот, каждая из которых может быть критична для структуры или каталитической активности. Некоторые аминокислоты химически похожи (например, лейцин и изолейцин), другие имеют противоположные заряды. Во многих белках есть участки, где допустимы ограниченные изменения последовательности, и участки, где даже небольшие отклонения инактивируют белок. К тому же белки малы: если изображения содержат миллионы пикселей, то белок из 500 аминокислот считается довольно крупным. Спрятать сигнал в таком объёме сложнее.
Команда Google начала с одного из самых популярных инструментов ИИ-дизайна белков — ProteinMPNN, разработанного в лаборатории Бейкера. Этот инструмент работает в два этапа: сначала отдельный инструмент описывает конфигурацию остова, подходящую для дизайна, затем ProteinMPNN последовательно подбирает боковые цепи по одной аминокислоте, исходя из их способности вписываться в форму остова, взаимодействовать с соседними аминокислотами и соответствовать другим ограничениям эксперимента.
В этот процесс вмешивается вариант SynthID под названием SynthIDBio. Он использует ключ (аналогичный криптографическому) и идентичность ранее выбранных аминокислот, чтобы предложить новую. ProteinMPNN проверяет, подходит ли предложенная аминокислота с точки зрения формирования функционального белка. Если нет — отклоняет, если да — продолжает. Таким образом, система включает «водяные» аминокислоты только тогда, когда они совместимы с функциональным белком.
В результате водяной знак случайно распределяется по всей длине белка, и его обнаружение не является простым вопросом «да или нет». Нужно просканировать всю последовательность, зная ключ, и измерить, как часто предложенные SynthIDBio аминокислоты действительно встречаются в финальной последовательности. Google также разработала необходимое для этого программное обеспечение.
Проверка функциональности
Команда использовала систему для дизайна белков, которые физически взаимодействуют с ключевыми природными белками, ранее выбранными в качестве мишеней для ИИ-дизайна. Версии с водяными знаками успешно связывались с целевыми белками. Это не такой строгий тест, как поиск катализатора, но он показывает, что серьёзных проблем в более сложных задачах дизайна ожидать не стоит.
Система может обнаружить водяной знак, если белок достаточно длинный. Как это может быть полезно? Опять же, для биобезопасности. Когда кто-то заказывает синтез ДНК, производители обычно проверяют последовательность на способность кодировать части вирусов, токсичные белки и другие угрозы. Однако если белок не похож ни на что известное — а это потенциально верно для любого ИИ-дизайна, — оценить его угрозу невозможно.
Google видит свою систему как способ дать производителям ДНК больше уверенности. Если им предоставить набор ключей от доверенных организаций, например университетов или крупных биотехнологических компаний, они смогут быстро определить, является ли неизвестный белок ИИ-дизайном из доверенного источника. Это позволит сосредоточить внимание и ресурсы на оценке того, что не является доверенным, — особенно на том, что выглядит как ИИ-дизайн, но не имеет доверенного источника. Иными словами, система не гарантирует безопасность заказов ДНК, но упрощает процесс проверки угроз.
Ограничения
Команда отметила несколько потенциальных уязвимостей. Во-первых, безопасность всей системы зависит от того, насколько надёжно распространяются и хранятся ключи для маркировки. Во-вторых, очень короткие белки могут содержать слишком мало «водяных» аминокислот для идентификации. В-третьих, можно разбавить маркированную последовательность, добавив к ней что-то без водяного знака, — например, слив ИИ-белок с природным флуоресцентным белком.
Кроме того, существуют другие пакеты для ИИ-дизайна белков, которые не полагаются на ProteinMPNN. Некоторые, но не все, используют похожий подход «по одной аминокислоте за раз», который должен хорошо интегрироваться с SynthIDBio. Пока Google не решит, как обрабатывать другие формы интеграции, не все смогут маркировать свои белки. И поскольку идентификация водяного знака проводится статистически, выбор порога сильно влияет на количество ложноположительных и ложноотрицательных срабатываний.
Пока неясно, будет ли система особенно полезна на практике, по крайней мере в исходной форме. Но сам факт её работоспособности интересен. И приятно сознавать, что хотя бы некоторые в ИИ-индустрии думают о том, как ограничить риски.
Исследование опубликовано в журнале Nature. DOI: 10.1038/s41586-026-10965-y.
Что это значит
Предложенный Google метод — это попытка добавить в ИИ-дизайн белков механизм отслеживания, аналогичный водяным знакам в изображениях или текстах. Если система получит распространение, она может стать одним из инструментов биобезопасности, позволяя быстрее выявлять потенциально опасные последовательности. Однако пока неясно, насколько широко её удастся применить: метод зависит от конкретного инструмента ProteinMPNN, требует доверенного распространения ключей и имеет ограничения по длине белков. Тем не менее это шаг к тому, чтобы сделать риски, связанные с ИИ в биологии, более управляемыми.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.