Инструменты

OpenAI открыла общий доступ к Decisions API на базе GPT-6 Luna

Новый API предназначен для быстрых и дешевых структурированных ответов, ускоряя работу ИИ-агентов до 10 раз по сравнению со стандартными запросами к модели.

Обновлено:
3 мин чтения
OpenAI открыла общий доступ к Decisions API на базе GPT-6 Luna

Суть

Компания OpenAI объявила о выходе Decisions API в общий доступ. Это специализированный интерфейс на базе модели GPT-6 Luna, созданный для быстрого принятия узких, структурированных решений. Инструмент позволяет приложениям и ИИ-агентам обрабатывать текст, изображения и JSON-данные до 10 раз быстрее, чем при использовании стандартного Responses API с той же моделью.

Контекст

Современные приложения и автономные агенты в процессе работы принимают множество мелких решений. Им постоянно нужно классифицировать входящие данные, маршрутизировать запросы или выбирать следующий шаг в алгоритме. По отдельности такие задачи просты, но при масштабировании на тысячи запросов задержки и затраты на использование универсальных языковых моделей стремительно растут. Decisions API призван решить эту проблему, сфокусировав интеллект модели на вопросах с ограниченным набором ответов.

Introducing GPT-6 Sol and Luna — Art card

Introducing GPT-6 Sol and Luna — Art card

Детали

С момента публичной бета-версии OpenAI добавила в API ряд новых функций: нативную интеграцию с GPT-Live, кэширование промптов для повторяющегося контекста и возможность обработки данных (inference residency) в США и ЕС. Разработчики теперь могут передавать нативные JSON-входы, включать изображения в инструкции и задавать до 400 вопросов в одном запросе, что в два раза превышает предыдущий лимит.

API поддерживает три типа ответов:

  • Вероятность (probability): оценка от 0 до 1, подтверждающая истинность условия.
  • Выбор (choice): одно из заранее заданных значений, сопровождаемое вероятностью и уровнем уверенности.
  • Оценка (score): средневзвешенная по вероятности оценка на основе заданных уровней.

Финансовая модель продукта также отличается от стандартной. Decisions API стоит 0.10 доллара за миллион входных токенов, а при использовании кэшированного ввода цена падает до 0.01 доллара за миллион токенов. При этом плата за выходные токены полностью отсутствует.

Introducing the Agents API — cover image

Introducing the Agents API — cover image

Ранние клиенты уже сообщают о значительных улучшениях. По данным Datadog, при оценке риска команд инструмент показал ускорение p95 в 40 раз по сравнению с доступными передовыми моделями при сопоставимой точности. Компания Sierra зафиксировала снижение стоимости одного вызова на 90% и ускорение примерно в 3 раза (менее 280 мс p95), а платформа Speak сократила время до следующего действия более чем на 90% (с 1.4 до 0.13 секунды).

Анализ

Выпуск Decisions API демонстрирует важный сдвиг в индустрии: переход от универсальной генерации текста к детерминированным, структурированным выводам. Для бизнеса важен не сам факт генерации слов, а способность системы мгновенно и безошибочно выбрать нужный вектор развития событий. Отсутствие тарификации выходных токенов логично вытекает из архитектуры решения — результатом работы является не длинный текст, а конкретный маркер или число.

Перспектива

Интеграция Decisions API с GPT-Live открывает новые возможности для голосовых интерфейсов реального времени. Способность системы принимать решения за доли секунды позволит создавать более естественные взаимодействия. Например, виртуальные аватары смогут менять выражение лица (от нейтрального до радостного или задумчивого) прямо во время речи пользователя, опираясь на мгновенный анализ транскрипта. По мере внедрения подобных API можно ожидать появления более отзывчивых и интерактивных ИИ-ассистентов, способных работать в жестких временных рамках.

Better prompt caching for GPT-6 — Card image

Better prompt caching for GPT-6 — Card image

TL;DR

Главное

OpenAI смещает фокус с генерации текстов на быстрое принятие решений, предлагая специализированный API, который работает быстрее и не требует оплаты за выходные токены.

Ключевые факты

  • /Скорость ответов выросла до 10 раз по сравнению с Responses API для GPT-6 Luna.
  • /Стоимость составляет $0.10 за миллион входных токенов, выходные токены бесплатны.
  • /Лимит вопросов в одном запросе увеличен до 400.
  • /API интегрирован с GPT-Live для работы в голосовых приложениях реального времени.

Инсайт

Отказ от тарификации выходных токенов подчеркивает суть продукта: для маршрутизации и логики агентов ценность заключается не в объеме сгенерированного текста, а в точности и скорости одного конкретного выбора.

Источник:Openai

Читайте также