Гид по AI-терминам: от AGI до RAMageddon — что нужно знать

TechCrunch опубликовал обновляемый глоссарий терминов искусственного интеллекта, призванный помочь читателям ориентироваться в быстро меняющейся терминологии. Материал объясняет ключевые понятия от AGI до RAMageddon, включая новые термины, появившиеся в связи с выходом модели OpenAI Astra.

Что такое AGI и AI-агенты

AGI (Artificial General Intelligence) — термин, который обычно обозначает ИИ, превосходящий среднего человека во многих или большинстве задач. Определения различаются: Сэм Альтман описывал AGI как «эквивалент среднего человека, которого можно нанять коллегой», а в уставе OpenAI AGI определяется как «высокоавтономные системы, превосходящие людей в большинстве экономически ценной работы». Google DeepMind считает AGI «ИИ, который как минимум так же способен, как люди, в большинстве когнитивных задач».

AI-агент — это инструмент, использующий технологии ИИ для выполнения серии задач от имени пользователя: от заполнения расходов до бронирования билетов или написания кода. Понятие может трактоваться по-разному, а инфраструктура для таких систем ещё развивается.

Ключевые технические термины

В глоссарии объясняются такие понятия, как API endpoints («кнопки» на программном обеспечении, которые позволяют другим программам взаимодействовать с ним), chain of thought (разбиение задачи на промежуточные шаги для повышения точности), coding agents (автономные программы для разработки ПО), compute (вычислительные мощности), deep learning (глубокое обучение на нейросетях), diffusion (технология генерации изображений и звука), distillation (обучение меньшей модели на выходах большей), fine-tuning (дообучение модели под конкретную задачу), GAN (генеративно-состязательные сети), hallucination (генерация неверной информации), inference (процесс запуска модели), LLM (большие языковые модели), memory cache (кэширование для ускорения инференса), Model Context Protocol (открытый стандарт для подключения внешних инструментов), Mixture of Experts (архитектура с активацией части подсетей), neural network (нейросети), open source (открытый код), parallelization (распараллеливание вычислений), RAMageddon (дефицит чипов памяти), reinforcement learning (обучение с подкреплением), token (единица обработки текста), token throughput (пропускная способность по токенам), training (обучение), transfer learning (перенос обучения), validation loss (метрика качества обучения), weights (веса модели).

Новые термины: opaque recurrence и neuralese

Отдельное внимание уделено термину opaque recurrence — технике рассуждения, используемой в новой модели OpenAI Astra. Она предполагает многократный цикл обработки запроса через внутренние слои модели вместо пошагового рассуждения на естественном языке. Это эффективнее, но оставляет меньше читаемых следов, что беспокоит исследователей безопасности. Также в глоссарий включено понятие neuralese — гипотетический сценарий, при котором модель рассуждает полностью на внутренних числовых представлениях, что делает её мышление «чёрным ящиком». OpenAI утверждает, что Astra сохраняет читаемую цепочку рассуждений, но эксперты видят в opaque recurrence первый шаг в этом направлении.

Что это значит

Глоссарий TechCrunch — это попытка систематизировать быстро развивающуюся терминологию ИИ. Появление новых терминов, таких как opaque recurrence, отражает растущую сложность моделей и озабоченность сообщества вопросами прозрачности и безопасности. Материал будет полезен всем, кто хочет лучше понимать дискуссии вокруг искусственного интеллекта.