Учёные раскритиковали OpenAI за 719 математических рукописей без проверки

OpenAI разместила на GitHub 719 математических рукописей и столкнулась с критикой научного сообщества. Об этом сообщает TechCrunch, на публикацию которого ссылается RB.RU. Часть материалов, по признанию самой компании, пока не прошла полноценную проверку, а некоторые доказательства могут содержать ошибки. Математики требуют опубликовать подробные научные статьи, раскрыть методы работы ИИ и указать вклад исследователей в созданные материалы.

Что именно произошло

В августе OpenAI пригласила около 40 математиков обсудить влияние искусственного интеллекта на научные исследования. Представители компании рассказали о сотнях задач, решённых внутренней моделью, и попросили участников встречи дать рекомендации по публикации результатов.

Математики предложили подготовить научные статьи с подробным разбором доказательств вместо публикаций в корпоративных блогах и социальных сетях. Однако позднее OpenAI разместила материалы в открытом репозитории GitHub — сразу 719 рукописей.

Компания предупреждает, что не все доказательства переведены в формальный вид, а часть текстовых рассуждений может содержать ошибки.

Заявление о задаче тысячелетия

Отдельное внимание учёных привлекло заявление OpenAI о решении одной из семи задач тысячелетия — проблемы, связанной с уравнениями Навье — Стокса. Эти формулы описывают движение жидкостей и газов и широко используются в физике и инженерии. Однако математики до сих пор не доказали, всегда ли существуют их гладкие решения, пишет TechCrunch.

За решение этой задачи Математический институт Клэя обещает премию в $1 млн.

OpenAI опубликовала описание исследования и формальное доказательство. По данным компании, над задачей работали тысячи ИИ-агентов, а дополнительная проверка доказательства заняла 17 часов.

Однако, как отмечает TechCrunch, масштаб вычислений и формальное доказательство ещё не означают, что задача решена. Для признания результата необходимо подтвердить, что он отвечает условиям задачи, содержит новое решение и прошёл независимую проверку учёных.

Претензии математиков

Главная претензия учёных касается качества публикаций, пишет TechCrunch. Математический результат должен сопровождаться доказательством, которое другие специалисты способны изучить, проверить и использовать в дальнейших исследованиях.

Брина Кра из Северо-Западного университета, участвовавшая в обсуждениях с OpenAI, рассказала TechCrunch, что учёные рекомендовали компании публиковать полноценные научные статьи. По её мнению, первоначальное решение размещать материалы на GitHub не учитывало главного требования — подробно объяснять доказательства.

Представитель OpenAI Линдси Маккаллум заявила, что при подготовке публикации компания учитывала рекомендации консультативной группы.

Учёные также советовали отказаться от рекламной подачи научных результатов и размещать исследования на площадках, где можно отслеживать изменения и обсуждать работу с другими специалистами.

Что это значит

Ситуация показывает разрыв между скоростью, с которой ИИ-компании генерируют математические результаты, и требованиями научного сообщества к их проверке. Публикация сотен рукописей без полноценной верификации и без подробных научных статей не позволяет другим специалистам воспроизвести или оспорить результаты. Заявление о решении задачи тысячелетия, по оценке математиков, требует независимого подтверждения, а не только формального доказательства и описания исследования. Пока такое подтверждение отсутствует, статус результата остаётся неопределённым.