Safetensors
Определение
Safetensors — безопасный формат хранения тензоров (весов нейросетей), защищённый от выполнения произвольного кода при загрузке.
Простое объяснение
Safetensors — как безопасная упаковка для лекарств. Pickle — это конверт, в который можно положить что угодно, включая вирус. Safetensors — это блистер, куда физически помещаются только таблетки.
Подробнее
Связанные термины
AI-генератор текста
Инструмент на базе больших языковых моделей (LLM), предназначенный для автоматического создания текстового контента по запросу пользователя.
vLLM
vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.
Виртуальный ассистент
Виртуальный ассистент — AI-программа для автоматизации задач и помощи пользователям через текстовый или голосовой интерфейс.
GGUF
GGUF (GPT-Generated Unified Format) — формат файлов для хранения квантизированных языковых моделей, оптимизированный для локального запуска через llama.cpp.
Алиса
Виртуальный голосовой помощник, разработанный компанией Яндекс, использующий технологии машинного обучения и большие языковые модели для взаимодействия с пользователями и автоматизации задач.
ElevenLabs
ElevenLabs — платформа для синтеза речи и клонирования голоса с помощью AI, создающая наиболее реалистичное звучание.
