Ускорение генерации текста: Liquid AI выпустила черновые модели DSpark для LFM2.5
Liquid AI выпустила черновые модели DSpark для трёх моделей LFM2.5. Спекулятивное декодирование ускоряет генерацию до 3,18 раза на H100 и до 2,87 раза на ноутбуке, но для LFM2.5-8B-A1B на устройстве прирост в среднем всего 18%.
