Эксперимент показал, как быстрая локальная модель обошла тяжелую облачную нейросеть за счет возможности делать больше циклов обратной связи в единицу времени.
2 мин
В индустрии искусственного интеллекта долгое время доминировала установка: чем больше параметров у модели, тем лучше результат. Однако недавний эксперимент инвестора Тома Тунгуза наглядно демонстрирует, что в реальных задачах эта логика работает не всегда. В соревновании между локальной моделью и мощным облачным решением победила скорость, а не грубая вычислительная сила.
Суть эксперимента заключалась в параллельном решении одной задачи: создании платежного приложения на базе нового блокчейна Stripe Tempo. С одной стороны выступала локальная модель Qwen 35B, запущенная на обычном ноутбуке. С другой — Claude Opus 4.5, облачный гигант, который примерно в 50 раз больше по размеру и на 20% превосходит Qwen в синтетических тестах (benchmarks).
Казалось бы, результат предрешен. Облачная модель должна была легко справиться с задачей благодаря большему объему знаний и сложной архитектуре. Но реальность оказалась иной. Локальная модель завершила работу за две минуты, тогда как Claude потребовалось более шести. Более того, когда самому Claude поручили оценить качество обоих результатов, он отдал победу локальной модели: 6.5 баллов против 4.5 в пользу Qwen.
Ключ к пониманию этого парадокса кроется в архитектуре рабочих процессов. Когда система отвечает в три раза быстрее, у пользователя или автономного агента появляется время на дополнительные циклы обратной связи (feedback loops). В то время как тяжелая модель все еще генерирует первый вариант ответа, быстрая модель успевает выдать черновик, получить критику, исправить ошибки и предложить финальный вариант.
В эксперименте Тунгуза именно этот фактор стал решающим. Быстрые ответы позволили добавить дополнительный шаг: «раскритикуй план и внеси исправления». Этот итеративный подход оказался намного эффективнее, чем попытка тяжеловесной модели выдать идеальный результат с первой попытки.
Важно понимать, что это не означает полного отказа от больших моделей. Для сложных агентных рабочих процессов (agentic workflows) и работы с массивными кодовыми базами, где требуется глубокое понимание контекста и сложная логика, медленная, но вдумчивая работа больших моделей по-прежнему необходима.
Однако для повседневных задач, прототипирования и написания небольших скриптов парадигма меняется. Более быстрые модели обеспечивают плотный цикл обратной связи. А как показывает практика разработки программного обеспечения, именно скорость и количество итераций чаще всего приводят к лучшему финальному продукту. Нам не всегда нужен самый умный искусственный интеллект, чтобы качественно выполнить работу — иногда достаточно того, который умеет быстро учиться на собственных ошибках в процессе решения задачи.
Скорость генерации и возможность быстрых итераций могут компенсировать меньший размер и интеллект локальных моделей, позволяя им превосходить тяжелые облачные решения в повседневных задачах.
Итеративный подход (генерация, критика, исправление) с использованием быстрой, но менее умной модели дает лучший результат, чем попытка получить идеальный ответ с первого раза от мощного ИИ.
