Retell AI масштабирует голосовых агентов до 100 миллионов...

Платформа голосового искусственного интеллекта Retell AI, предназначенная для работы колл-центров, достигла отметки в 100 миллионов обрабатываемых звонков в месяц к сентябрю 2026 года. Для обеспечения этого объема компания использует модели OpenAI, которые генерируют ответы для 80% звонков. Этот кейс демонстрирует, как интеграция больших языковых моделей (LLM) позволяет автоматизировать сложные рабочие процессы и поддерживать уровень успешного решения запросов клиентов выше 80%.

Голосовые агенты корпоративного уровня должны строго следовать политикам компаний и оставаться в рамках заданных ролей, даже когда ход разговора меняется. Чтобы выбирать наиболее подходящие решения, Retell разработала собственный бенчмарк vCX. Он сравнивает модели на основе сложных многоэтапных диалогов из реальных рабочих сценариев, проверяя способность следовать инструкциям, опираться на предоставленные данные, корректно использовать инструменты и поддерживать естественную речь.

Bar chart ranking five models on Retell’s vCX instruction-following benchmark, led by GPT-6 Astra at 89.7%.

Масштабы использования ИИ на платформе подтверждаются цифрами: Retell обслуживает более 4000 компаний и уже израсходовала более 1 триллиона токенов OpenAI. В бенчмарке компании от 13 октября 2026 года модель GPT-6 Astra заняла первое место по точности следования инструкциям с результатом 89,7%. В предварительных тестах GPT-5.5 показала лучшие результаты по отсутствию галлюцинаций (88,0%) и корректности вызова инструментов (88,3%) с включенным режимом рассуждений, обойдя Gemini-3.1-Pro и Claude-4.6.

Во время звонка инфраструктура Retell управляет аудиомоделями и отслеживает ход беседы. Модели OpenAI, включая GPT-6.1 Sol, GPT-6 Astra и GPT-5.5, генерируют ответы и запрашивают вызовы инструментов. Если требуется вмешательство человека, агент передает оператору контекст разговора. После завершения звонка модель GPT-5.6 Terra анализирует транскрипт и извлекает данные. Для обеспечения минимальной задержки при пиковых нагрузках используются выделенные серверы OpenAI: медианная задержка до первого предложения у GPT-6 Astra и GPT-6 Sol составила 883 миллисекунды, а у GPT-5.6 Luna — 497 миллисекунд.

Diagram showing how Retell uses OpenAI models during a customer call, connecting live audio, conversation state, context, tools, and customer systems.

Клиенты Retell подтверждают эффективность подхода на практике. Производитель электроники Anker использует агентов для послепродажной поддержки первой линии в США и Великобритании, достигнув уровня решения проблем 80,4% и индекса потребительской лояльности (NPS) 63. В медицинской компании Pine Park Health агенты занимаются напоминаниями и планированием приемов, достигнув показателя успешного бронирования 55,7% при дозвоне. Это позволило сэкономить время медицинских ассистентов, эквивалентное 2,1 полной ставки.

Помимо работы с клиентами, Retell активно применяет ИИ во внутренней разработке. Инженеры используют Codex для исследования незнакомого кода, создания функций и отладки. Модель GPT-6 Astra применяется для тестирования пользовательских интерфейсов: она самостоятельно открывает интерфейс, проверяет сценарии работы и сообщает о найденных ошибках. Благодаря этому инженерная команда не нуждается в быстром расширении, а годовая выручка (run rate) компании достигла 1,6 миллиона долларов на одного сотрудника.

В дальнейшем Retell планирует расширить возможности симуляции и контроля качества, добавить поддержку новых языков и разработать функцию автоматического обучения баз знаний. Развитие платформы указывает на сдвиг в индустрии: компании получают инструменты для самостоятельного создания и улучшения ИИ-агентов, опираясь на собственное понимание потребностей своих клиентов.