Компания Liquid AI представила компактную языковую модель LFM2.5-2.6B, оптимизированную для работы прямо на устройствах пользователей с использованием технологии WebGPU.
2 мин
Компания Liquid AI опубликовала на платформе Hugging Face новую открытую модель LFM2.5-2.6B. Это компактная нейросеть размером около 2.6 миллиарда параметров, которая спроектирована специально для запуска на конечных устройствах пользователей. Главная ценность этого релиза заключается не в рекордных показателях на бенчмарках, а в возможности развертывания автономных исследовательских ИИ-агентов локально, без необходимости постоянного подключения к облачным серверам.
В последний год индустрия искусственного интеллекта четко разделилась на два направления. Первое — это создание гигантских облачных моделей, требующих колоссальных вычислительных мощностей. Второе — разработка компактных, эффективных решений для пограничных вычислений (edge computing). Liquid AI традиционно фокусируется на создании архитектур, которые требуют меньше ресурсов для работы. Запуск локальных моделей решает сразу несколько проблем: снижает задержку отклика, устраняет затраты на серверную инфраструктуру и гарантирует полную конфиденциальность данных пользователя.
Новое семейство моделей включает в себя как базовую версию (LFM2.5-2.6B-Base), так и версию, настроенную для генерации текста и работы в качестве агента. Размер в 2.6 миллиарда параметров (округляемый до 3B в классификации Hugging Face) является оптимальным балансом между качеством генерации и требованиями к оперативной памяти.
Ключевой технологической особенностью релиза стала интеграция с WebGPU. Это современный стандарт веб-графики, который позволяет браузерам напрямую обращаться к видеокарте устройства. Благодаря этому, Liquid AI предлагает запускать «LFM2.5 Edge Research Agent» прямо в веб-среде, используя аппаратное ускорение локального компьютера или даже мобильного устройства.
Использование WebGPU для запуска таких моделей — это важный шаг к демократизации технологий. Раньше для локального запуска больших языковых моделей (LLM) требовалась сложная настройка окружения, установка библиотек на языке Python и понимание работы терминала. Теперь порог входа снижается до минимума: пользователю достаточно открыть веб-страницу, чтобы получить доступ к локальному ИИ-помощнику.
Кроме того, позиционирование модели как основы для «исследовательских агентов» говорит о том, что фокус смещается с простой генерации текста на выполнение последовательных задач. Агент может искать информацию, анализировать локальные документы и делать выводы, не передавая эти данные сторонним корпорациям.
В ближайшем будущем мы, вероятно, увидим рост числа приложений, которые работают по гибридной модели. Простые, рутинные или конфиденциальные задачи будут обрабатываться локальными агентами на базе моделей вроде LFM2.5, а сложные аналитические запросы — отправляться в облако. Успех инициативы Liquid AI будет зависеть от того, насколько стабильно их агенты смогут работать на широком спектре пользовательского оборудования и насколько легко разработчики смогут интегрировать эту технологию в свои продукты. Время покажет, станет ли WebGPU стандартом де-факто для локального искусственного интеллекта.
Liquid AI выпустила компактную модель на 2.6 млрд параметров, которая позволяет запускать автономных ИИ-агентов локально через браузер, обеспечивая конфиденциальность и независимость от облака.
Интеграция с WebGPU превращает обычный веб-браузер в полноценную среду для запуска ИИ-агентов, устраняя необходимость в сложной установке программного обеспечения.
