Спрос российского бизнеса на контроль ИИ-агентов вырос втрое за год

Крупнейшие российские компании начали активно развивать инфраструктуру для контроля автономных ИИ-агентов. По данным «Известий», число запросов бизнеса на подобные решения за год выросло примерно втрое. В примерно 80% случаев компании хотят контролировать доступ нейросетей к корпоративным данным, проверять критические решения ИИ и защищаться от утечек.

Почему спрос на контроль ИИ растет

Компании все чаще используют не обычных чат-ботов, а полноценных ИИ-агентов, которые могут самостоятельно выполнять задачи, работать с корпоративными данными и запускать другие сервисы. Чтобы управлять такими агентами, компании создают harness — слой, который определяет, к каким данным и инструментам получает доступ ИИ-система, как она выполняет многошаговые задачи и в каких случаях должна запросить подтверждение человека.

Кто развивает системы контроля ИИ

«Яндекс» развивает собственные технологии маршрутизации запросов и harness-решения для пользовательских и корпоративных продуктов, сообщили «Известиям». В MWS AI, входящей в МТС Web Services, рассказали, что работают над системой, которая позволит переключаться между разными моделями, контролировать расход вычислительных ресурсов и анализировать действия агентов. «Сбер» уже использует собственную инфраструктуру управления моделями и агентами в GigaАгенте, GigaCode и корпоративном GigaCowork.

Основные запросы бизнеса

По данным ИТ-холдинга Т1, на которые ссылаются «Известия», около 80% обращений компаний касаются управления доступом к корпоративной информации и защиты от утечек. Также компании хотят настроить возможность подтверждать критические важные решения ИИ. Активнее всего решениями интересуются банки, промышленность, госорганизации и ритейл.

В ГК «Солар» отметили, что языковая модель сама по себе не всегда может отличить данные от команды. Поэтому защитный слой должен отдельно анализировать запросы, ответы и действия ИИ и блокировать потенциально опасные операции по заданным правилам.

Прогнозы по рынку

Эксперты ожидают, что рынок решений для контроля ИИ продолжит быстро расти. По оценке сооснователя университета «Зерокодер» Кирилла Пшинника, на которого ссылается издание, к концу 2029 года объем рынка подобных продуктов может составить около 5 млрд рублей. Основную выручку, по его прогнозу, будут приносить не сами программы, а их внедрение, интеграция и дальнейшее сопровождение.

Что это значит

Рост спроса на контроль ИИ-агентов отражает переход бизнеса от экспериментов с чат-ботами к внедрению автономных систем, которые требуют более строгого управления. Пока рынок таких решений в России находится на ранней стадии, но уже заметна активность крупных игроков, что может привести к появлению зрелых продуктов в ближайшие годы.