Vector Database
Определение
Векторная база данных — специализированное хранилище для эмбеддингов, оптимизированное для семантического поиска по сходству векторов.
Простое объяснение
Это специальное хранилище для «смысловых отпечатков» текстов, которое позволяет быстро находить похожие по смыслу документы.
Подробнее
Популярные vector databases:
- Pinecone — managed, простой старт
- Weaviate — open source, hybrid search
- Milvus — масштабируемый
- Chroma — лёгкий, для прототипов
- pgvector — расширение PostgreSQL
Основа RAG-систем и семантического поиска.
Связанные термины
GGUF
GGUF (GPT-Generated Unified Format) — формат файлов для хранения квантизированных языковых моделей, оптимизированный для локального запуска через llama.cpp.
Ollama
Ollama — инструмент для простого локального запуска больших языковых моделей одной командой, с поддержкой популярных моделей и API, совместимым с OpenAI.
TPU
TPU (Tensor Processing Unit) — специализированный AI-ускоритель, разработанный Google для обучения и inference нейронных сетей.
HuggingFace
HuggingFace — ведущая платформа для машинного обучения, предоставляющая хаб моделей, датасетов и библиотеки transformers, datasets, accelerate.
Распознавание речи
Распознавание речи (ASR) — технология AI для преобразования устной речи в текст, основа голосовых ассистентов и транскрипции.
Latency
Латентность — время задержки между отправкой запроса к AI-системе и получением ответа, критичный показатель для пользовательского опыта.