Компания Cohere без лишнего шума опубликовала на платформе Hugging Face свою новую разработку — North Mini Code. Это первая большая языковая модель (LLM) компании, которая целенаправленно создавалась для помощи разработчикам в написании и анализе программного кода. Этот шаг знаменует расширение продуктовой линейки компании в сторону технических специалистов.
Исторически Cohere фокусировалась на корпоративном секторе и бизнес-задачах. Их флагманские продукты семейства Command отлично справляются с анализом текстов и генерацией с дополненной выборкой (retrieval-augmented generation, RAG). Однако рынок специализированных инструментов для программистов до сих пор оставался вне их основного фокуса. Выпуск North Mini Code показывает, что компания намерена конкурировать в сегменте помощников для написания кода.
Согласно данным из репозитория, базовая модель имеет размер в 30 миллиардов параметров. На платформе доступны две версии: стандартная (North-Mini-Code-1.0) и оптимизированная (North-Mini-Code-1.0-fp8). Версия fp8 использует формат данных с плавающей запятой (floating point 8-bit), что позволяет существенно снизить требования к видеопамяти. Размер в 30 миллиардов параметров считается золотой серединой: модель достаточно сложна для понимания контекста, но при этом может запускаться на доступном оборудовании.
Этот релиз выглядит логичным продолжением стратегии развития Cohere. Инструменты для генерации кода стали стандартом в индустрии, и именно разработчики часто принимают решения о внедрении тех или иных технологий в корпоративном секторе. Предоставляя техническому сообществу качественный инструмент, компания повышает лояльность к своему бренду. Публикация весов модели в открытом доступе также укрепляет позиции Cohere в сообществе исследователей.
Пока рано судить, насколько North Mini Code сможет потеснить признанных лидеров в сфере кодовых моделей. Эффективность таких систем сильно зависит от качества обучающих данных и архитектурных особенностей. В ближайшие недели независимые разработчики проведут тестирование новинки в реальных задачах. Если эксперимент окажется удачным, вполне вероятно, что наработки North Mini Code будут интегрированы в основные коммерческие интерфейсы программирования приложений (API) компании.