S

Safetensors

Также известен как: Safe Tensors
Инструменты

Определение

Safetensors — безопасный формат хранения тензоров (весов нейросетей), защищённый от выполнения произвольного кода при загрузке.

Простое объяснение

Safetensors — как безопасная упаковка для лекарств. Pickle — это конверт, в который можно положить что угодно, включая вирус. Safetensors — это блистер, куда физически помещаются только таблетки.

Подробнее

Safetensors создан как безопасная альтернатива pickle-based форматам (PyTorch .pt, .bin). Pickle позволяет выполнять произвольный код при десериализации, что создаёт риск при загрузке моделей из ненадёжных источников. Safetensors хранит только тензоры в простом бинарном формате, поддерживает memory-mapping для быстрой загрузки и zero-copy доступ. HuggingFace рекомендует safetensors как стандарт для распространения моделей.

Связанные термины

AI-генератор текста

Инструмент на базе больших языковых моделей (LLM), предназначенный для автоматического создания текстового контента по запросу пользователя.

vLLM

vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.

Виртуальный ассистент

Виртуальный ассистент — AI-программа для автоматизации задач и помощи пользователям через текстовый или голосовой интерфейс.

GGUF

GGUF (GPT-Generated Unified Format) — формат файлов для хранения квантизированных языковых моделей, оптимизированный для локального запуска через llama.cpp.

Алиса

Виртуальный голосовой помощник, разработанный компанией Яндекс, использующий технологии машинного обучения и большие языковые модели для взаимодействия с пользователями и автоматизации задач.

ElevenLabs

ElevenLabs — платформа для синтеза речи и клонирования голоса с помощью AI, создающая наиболее реалистичное звучание.