Основательница DetectifAI создала детектор дипфейков после обмана деда

Стартап DetectifAI из Сан-Франциско разрабатывает AI-модели, способные распознавать поддельные голоса прямо на смартфоне в реальном времени. Компанию основала Тарини Падманабхуни после того, как её дедушка стал жертвой дипфейк-звонка: мошенники сгенерировали голос его брата, заявили о похищении и потребовали выкуп. Дедушка заплатил, а позже выяснилось, что брат находился совсем в другом месте и ничего не знал о происходящем. Об этой истории рассказало издание TechCrunch.

По словам Падманабхуни, её поразило не то, что дедушка потерял деньги, а то, что у него не было никакой возможности отличить настоящий голос от поддельного. Это и стало отправной точкой для создания DetectifAI примерно два года назад.

Почему это важно

Проблема мошенничества с использованием AI растёт. По данным ФБР, которые приводит TechCrunch, за прошлый год американцы потеряли почти 900 миллионов долларов из-за мошенничества с применением AI — на 24% больше, чем в 2024 году. Люди старше 60 лет потеряли вдвое больше, чем люди в возрасте от 50 до 59 лет.

Рынок решений для обнаружения дипфейков голоса уже существует: в нём работают такие компании, как Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety и Nuance (принадлежит Microsoft). Однако, по словам Падманабхуни, существующие продукты работают в облаке на удалённых серверах, поэтому производители телефонов не могут встроить их напрямую в устройства. В результате человек, против которого направлена атака, остаётся практически без защиты.

Как работает подход DetectifAI

Вместо того чтобы уменьшать большие облачные модели для работы на телефоне, DetectifAI, по словам основательницы, с самого начала проектирует компактные AI-модели, достаточно маленькие для того, чтобы работать внутри операционной системы смартфона. Цель — мгновенно определять, сгенерирован ли голос искусственным интеллектом, во время звонков, в голосовых сообщениях и других аудио, причём аудио не покидает устройство.

Компания продаёт свои решения в первую очередь производителям телефонов, лицензируя программные инструменты, чтобы функция обнаружения могла поставляться как встроенная возможность операционной системы. Падманабхуни сравнивает это с ролью AT&T при запуске оригинального iPhone, когда эксклюзивное соглашение с оператором выделило его среди конкурентов: первый производитель телефонов, который внедрит DetectifAI, получит преимущество перед соперниками.

Ядро продукта — это набор инструментов для разработки (SDK) от DetectifAI, пакет кода, который другие компании могут встраивать в свои продукты и лицензировать через существующие каналы. По словам Падманабхуни, дополнительный источник дохода — лицензирование технологии бизнесу и компаниям, занимающимся предотвращением мошенничества.

Текущие результаты и инвестиции

По словам основательницы, у стартапа уже есть ранняя выручка: он обрабатывает более 100 тысяч звонков в месяц для финансовых учреждений в Индии. Эти звонки совершают AI-голосовые агенты, которые занимаются взысканием задолженности и напоминают о кредитных документах, при этом на каждом звонке работает обнаружение дипфейков и верификация говорящего — подтверждение того, что звонящий действительно тот, за кого себя выдаёт. Падманабхуни отказалась называть клиентов, сославшись на соглашения о конфиденциальности.

DetectifAI пока привлекла небольшую посевную сумму от инвесторов Джоша Констина (ранее редактора TechCrunch) и Манохара Каматха, партнёра консалтинговой компании KM Growth.

Стартап прошёл отбор редакции TechCrunch и участвует в конкурсе Startup Battlefield, который пройдёт с 13 по 15 октября в центре Сан-Франциско в рамках конференции TechCrunch Disrupt.

Что это значит

DetectifAI предлагает подход, при котором защита от голосовых дипфейков встраивается непосредственно в смартфон, а не работает через облако. Если производители телефонов действительно заинтересуются такой моделью, это может изменить то, как пользователи защищены от мошенничества с использованием AI. Однако пока речь идёт о ранней стадии: у компании небольшие инвестиции, а основной доход приносят звонки финансовых учреждений в Индии. Насколько масштабной окажется эта модель на глобальном рынке, покажет время.