Переход от расходов на персонал к токенам: почему ИИ пока не снижает затраты компаний

Структура операционных расходов меняется: затраты смещаются от зарплат к оплате вычислений. Однако падение стоимости ИИ-моделей не приводит к автоматической экономии бюджетов.

Обновлено:
2 мин чтения
0 просмотров
Переход от расходов на персонал к токенам: почему ИИ пока не снижает затраты компаний

Структура операционных расходов компаний начинает фундаментально меняться. Затраты постепенно смещаются от традиционной оплаты труда сотрудников к оплате токенов, данных и вычислительных мощностей для искусственного интеллекта. Однако этот переход сопровождается серьезными экономическими противоречиями.

Согласно гипотезе исследователей, в обозримом будущем от 20% до 30% традиционных расходов на персонал могут быть заменены затратами на ИИ-агентов. Но на разных уровнях корпоративного управления этот процесс сталкивается с разными барьерами. Высшее руководство видит четкую цель в кратном росте продуктивности и требует быстрых изменений. Руководители среднего звена сталкиваются с суровой реальностью: расходы на токены не вписываются в существующие бюджетные статьи, а масштабирование пилотных проектов вязнет в долгих циклах согласований. На уровне сотрудников возникает сильный дисбаланс, когда топ-5% продвинутых пользователей потребляют больше ресурсов ИИ, чем все остальные вместе взятые.

visualization

visualization

Главная проблема текущего этапа — это парадокс стоимости задачи. Заявленная стоимость использования больших языковых моделей (LLM) падает примерно в десять раз с каждым новым поколением. При этом реальные счета компаний остаются стабильно высокими или даже растут.

Этому феномену есть три объяснения. Во-первых, бизнес по умолчанию выбирает самые передовые и дорогие модели (frontier models) для любых задач, игнорируя более дешевые альтернативы. Во-вторых, по мере усложнения рабочих процессов ИИ-агенты выполняют многошаговые рассуждения и исправление ошибок, что кратно увеличивает расход токенов на один запрос. В-третьих, обнаружив полезность технологии, команды начинают применять ИИ для все большего числа сценариев, провоцируя рост общего потребления.

visualization

visualization

Чтобы разорвать этот круг, требуется активное управление экономикой токенов. Показателен пример компании AT&T. При объеме вычислений в 8 миллиардов токенов в день компания перестроила архитектуру: теперь крупные модели выступают в роли диспетчеров, направляя задачи более компактным и специализированным моделям. Одно это архитектурное решение позволило снизить затраты на 90% и увеличить пропускную способность в три раза. Экономия достигается не отказом от ИИ, а правильным подбором инструмента.

Для успешной адаптации компаниям необходимо изменить подход к финансовому планированию. Требуется создание выделенного бюджета на вычисления, защищенного от стандартных процедур сокращения издержек. Также критически важен портфельный подход к выбору моделей: передовые решения следует оставлять для сложных аналитических задач, а модели прошлого поколения или решения с открытым исходным кодом использовать для массовых рутинных операций. Те организации, которые смогут быстрее адаптировать свои операционные процессы к этим принципам, получат значительное преимущество перед конкурентами.

visualization

visualization

TL;DR

Главное

Компании начинают тратить больше на ИИ-вычисления, чем на расширение штата, но общие расходы не падают из-за неэффективного использования самых дорогих моделей для простых задач.

Ключевые факты

  • /Стоимость генерации ИИ-моделей падает в 10 раз за поколение, но общие затраты компаний остаются высокими.
  • /Около 5% сотрудников могут потреблять больше токенов, чем остальные 95% штата.
  • /Маршрутизация задач от больших моделей к малым позволила AT&T снизить затраты на 90%.

Инсайт

Использование передовых ИИ-моделей для написания обычных электронных писем эквивалентно полетам первым классом в любой командировке — настоящая экономия кроется в архитектуре распределения задач.

Источник:Bain

Читайте также

Гайды по теме