Нью-йоркский стартап Pangram, специализирующийся на обнаружении AI-контента, привлек $9 млн в рамках раунда финансирования. Раунд возглавила Menlo Ventures, участие также приняли Haystack, ScOp, Script Capital и Cadenza. Об этом сообщает TechCrunch.
Вместе с финансированием компания представила новую модель детекции текста Pangram 4 и модель детекции изображений Pangram Image. По заявлению компании, Pangram 4 показывает точность более 99% при выявлении текста, созданного с помощью ИИ, включая смешанный человеко-машинный контент. Модель также способна лучше распознавать программы, которые имитируют человеческое письмо. Детектор изображений пока доступен в режиме исследовательского предпросмотра, полноценный релиз ожидается в ближайшие недели.
Как работает Pangram
Pangram основали выпускники Стэнфорда Макс Сперо (Max Spero) и Брэдли Эми (Bradley Emi) около двух лет назад, после запуска ChatGPT, когда интернет заполонили боты и AI-сгенерированный SEO-контент. Система Pangram представляет собой большую модель машинного обучения, обученную на десятках миллионов известных человеческих документов. Для каждого документа создается «синтетическое зеркало» — текст, написанный фронтовой LLM, повторяющий тему, длину и тон оригинала. Модель изучает стилистические различия и выборы, которые ИИ делает последовательно, и на основе этого определяет, что текст создан ИИ, с высокой уверенностью. При этом детектор не полагается на метаданные или скрытые водяные знаки.
Зачем это нужно
По словам Сперо, важно знать, является ли текст, который вы читаете, созданным ИИ, поскольку это меняет подход к нему: нужно ли проверять на галлюцинации или можно доверять как результату работы журналиста. Стартап также видит проблему в «LLM-управляемых российских дезинформационных кампаниях и кампаниях, связанных с ОАЭ, в Twitter».
Pangram не единственный игрок на рынке детекции AI. Конкуренты включают Winston AI, Originality.ai, Copyleaks и GPTZero. Однако технология Pangram, хотя и не идеальна, может помочь в борьбе с засильем AI-контента в интернете, судах и академических работах.
Доступ и клиенты
Пользователи могут получить доступ к Pangram через веб-подписку за $20 в месяц или через Chrome-расширение, которое автоматически маркирует посты на X, LinkedIn, Substack, Reddit и Medium. Также предоставляется API. Среди клиентов API — Substack, Quora, школы, университеты, издатели и рекрутеры.
Тестирование
TechCrunch провел собственное тестирование модели. Детектор текста успешно выявлял полностью AI-сгенерированные статьи, написанные ChatGPT и Claude, и редко ошибался при попытках отредактировать AI-текст, чтобы он звучал более человечно. Однако были ложные срабатывания на полностью переписанные предложения. При тестировании на личном контенте с более выраженным авторским стилем Pangram легко различал человеческий и AI-текст. Детектор изображений также показал хорошие результаты, обнаруживая AI-изображения, включая те, что появляются внутри реальных фотографий, хотя в одном случае ошибся.
Что это значит
Привлечение $9 млн и запуск новых моделей указывает на растущий спрос на инструменты, отличающие человеческий контент от AI-сгенерированного. Однако, как показывают тесты, технология несовершенна и может давать ложные срабатывания. Тем не менее, такие решения могут стать важным инструментом для борьбы с дезинформацией и сохранения доверия к информации в интернете.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.