Модели

Перплексия как мера интеллекта: OpenAI предлагает новый стандарт оценки моделей

Главный научный сотрудник OpenAI объясняет, почему способность модели предсказывать следующий токен является ключом к пониманию прогресса ИИ и созданию единых стандартов безопасности.

Обновлено:
3 мин чтения
Перплексия как мера интеллекта: OpenAI предлагает новый стандарт оценки моделей

Главное за 30 секунд

OpenAI предлагает использовать метрику перплексии как отраслевой стандарт для прогнозирования новых возможностей нейросетей и установки согласованных ограничений безопасности.

  • GPT-3.5 имел логарифмическую перплексию ~0.99, GPT-4 — ~0.91.
  • Прорывные результаты в решении открытых математических проблем появились у модели с показателем ~0.76.
  • OpenAI ожидает новых трансформативных способностей при достижении диапазона 0.68-0.7.
  • По оценке Якуба Пахоцки, лавина фундаментальных достижений в предварительном обучении возможна уже в 2027 году.

Неочевидное: Сложные навыки, такие как логические рассуждения и решение математических задач, изначально не закладываются в модель напрямую, а спонтанно проявляются при достижении определенных порогов в качестве предсказания следующего слова.

Современный искусственный интеллект может казаться сложной системой из множества специализированных методов. Однако в своей основе эти системы опираются на гораздо более простой процесс: обучение компрессора (или предиктора) на огромном массиве данных. Главный научный сотрудник OpenAI Якуб Пахоцки опубликовал эссе, в котором предлагает использовать перплексию (perplexity) в качестве универсальной метрики для оценки развития ИИ и координации стандартов безопасности в индустрии.

Перплексия измеряет, насколько хорошо модель в среднем предсказывает следующий токен на отложенном наборе данных. Чем ниже этот показатель, тем лучше предсказания. OpenAI исторически использует логарифм перплексии, также известный как потеря перекрестной энтропии (cross-entropy loss), для отслеживания прогресса на этапе предварительного обучения.

MedChemBench: Benchmarking AI for medicinal chemistry — Cover

MedChemBench: Benchmarking AI for medicinal chemistry — Cover

Данные OpenAI показывают поразительную связь между снижением перплексии и появлением новых способностей моделей. Модель GPT-3.5, ставшая основой для оригинального ChatGPT, достигла логарифмической перплексии около 0.99 на основном оценочном наборе компании, что обеспечило ей способность к беглому диалогу. GPT-4 показала результат около 0.91, что позволило продуктивно использовать цепочки рассуждений (chain-of-thought).

По мере того как потери опускались ниже 0.8, исследователи наблюдали появление трансформативных способностей в таких областях, как кибербезопасность и математика. В частности, модель с логарифмической перплексией около 0.76 начала выдавать прорывные результаты при решении открытых математических проблем. Важно отметить, что появление этих навыков при достижении конкретных пороговых значений не было очевидным заранее — они возникают как скрытые возможности благодаря прогрессу в базовой метрике сжатия.

Также по темеАдаптеры для сред исполнения: метод повышения эффективности ИИ-агентов
A softly textured blue and turquoise gradient.

A softly textured blue and turquoise gradient.

Пахоцки отмечает, что бенчмарки быстро устаревают: тесты времен GPT-2 и GPT-3 сегодня не актуальны, а метрики эпохи GPT-4 уже во многом насыщены. В то же время прогресс на этапе предварительного обучения остается информативным. Это становится особенно важным на фоне того, что ИИ начинает участвовать в собственном развитии, в том числе в алгоритмических исследованиях. По оценке автора, уже в 2027 году мы можем увидеть лавину фундаментальных достижений в области предварительного обучения.

Опираясь на эти данные, Пахоцки призывает разработчиков передовых моделей создать общие нормы оценки и стандарты прозрачности. Он предлагает установить общие лимиты, основанные на перплексии и других измерениях, которые компании обязуются не пересекать до достижения определенных вех в понимании и мониторинге поведения ИИ.

При этом у перплексии как единого стандарта есть свои ограничения. Ее сложно сравнивать между лабораториями из-за разницы в обучающих данных и тестовых наборах. Она напрямую не отражает способность решать конкретные задачи и не учитывает улучшения вне этапа предварительного обучения. Кроме того, неизвестен предел этой метрики, так как внутренняя энтропия самих данных остается загадкой. Тем не менее, экстраполируя текущий прогресс, OpenAI ожидает появления новых трансформативных возможностей при достижении диапазона логарифмической перплексии 0.68-0.7.

Managing frontier AI risk: From training to deployment — Cover

Managing frontier AI risk: From training to deployment — Cover

Источник:Openai

Читать дальше