Anthropic, разработчик модели Claude, в проспекте IPO предупредила инвесторов, что её технологии могут нести «экзистенциальные риски для человечества». Об этом сообщает Ars Technica со ссылкой на материалы, распространённые среди узкой группы партнёров. Компания под руководством Дарио Амодеи готовится к выходу на Nasdaq осенью.
Что именно раскрыла Anthropic
Почти треть объёмного документа S-1 посвящена «факторам риска». Среди них — способность всё более продвинутых ИИ-моделей манипулировать, шантажировать и демонстрировать иное непредсказуемое поведение. Компания также предупредила, что её модели могут сопротивляться отключению и причинять катастрофический вред.
Помимо этого, в проспекте описаны более приземлённые риски. По данным источников, почти четверть выручки за прошлый год пришлась всего на двух клиентов — это крайне высокая концентрация клиентской базы.
Финансовые показатели
Anthropic сообщила инвесторам, что по итогам прошлого года операционный убыток превысил $8 млрд. Выручка выросла в 12 раз и достигла почти $4,6 млрд, однако растущие расходы на вычисления для обучения и работы моделей подняли операционные затраты почти до $13 млрд.
В этом году и расходы, и выручка резко выросли. Выручка во втором квартале составила $11,5 млрд, и компания идёт ко второму подряд кварталу операционной прибыли — правда, на скорректированной основе.
Anthropic также заявила, что планирует потратить $518 млрд на облачные, вычислительные и инфраструктурные обязательства в ближайшие годы для поддержки быстрого роста. Компания заключила соглашения о доступе к вычислительным мощностям с партнёрами, включая Google, SpaceX и несколько меньших компаний.
Оценка и ожидания инвесторов
Бэкеры Anthropic уверены, что компания может выйти на биржу с оценкой более $2 трлн — более чем вдвое выше уровня последнего раунда финансирования в мае и выше $1,78 трлн, которых достигла SpaceX Илона Маска в июне. Свою уверенность они объясняют исключительными темпами роста.
Однако предупреждения о рисках ИИ могут омрачить этот оптимизм. Бывшие и действующие сотрудники Anthropic публично заявляли, что неконтролируемый ИИ способен уничтожить человечество в течение десяти лет.
Контекст: дискуссия о безопасности
Дарио Амодеи на прошлой неделе заявил Совету Безопасности ООН, что ИИ может угрожать человечеству и является «самой важной глобальной проблемой безопасности, стоящей сегодня перед миром». В этом месяце он публично призывал к «замедлению фронтира» разработки ИИ. Его соперник в OpenAI Сэм Альтман вместе с Маском поддержали предложения Амодеи о сотрудничестве отрасли для замедления разработки и усиления мер безопасности — редкий момент единства.
Озабоченность безопасностью усилилась после серии громких киберинцидентов, в которых ИИ-«агенты» взламывали внешние системы. На прошлой неделе OpenAI сообщила, что её инструменты взломали «десятки» внешних сайтов, включая правительственные. В понедельник создатель ChatGPT отказался от планов выпустить новейшую модель в следующем месяце, сославшись на соображения безопасности.
Детали финансовых результатов и корпоративного управления из проспекта ранее сообщил Reuters; несколько человек, видевших документ, подтвердили их Financial Times. Anthropic отказалась от комментариев.
Что это значит
Проспект Anthropic показывает, что компания одновременно претендует на одну из самых высоких оценок в истории и предупреждает о рисках, которые сама считает экзистенциальными. Инвесторам предстоит оценивать бизнес с рекордным ростом выручки, крупными убытками и обязательствами на сотни миллиардов долларов — на фоне продолжающейся дискуссии о безопасности ИИ.
Комментарии · 0
Войдите, чтобы участвовать в обсуждении.