Чат-бот
Определение
Чат-бот — программа для автоматизации общения с пользователями через текстовые сообщения, часто с использованием NLP и LLM.
Простое объяснение
Это программа, которая отвечает на вопросы в чате. Может быть простой (с готовыми ответами) или умной (как ChatGPT).
Подробнее
Типы чат-ботов:
- Rule-based — на основе правил и сценариев
- ML-based — обученные на диалогах
- LLM-based — на базе GPT/Claude
- Hybrid — комбинация подходов
Применение: поддержка клиентов, продажи, HR.
Связанные термины
AI Coding Assistant
AI Coding Assistant — инструмент на базе LLM, помогающий программистам писать, отлаживать и объяснять код.
vLLM
vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.
Webhook
Вебхук — механизм автоматической отправки данных от одного сервиса другому при наступлении определённого события.
LangChain
LangChain — популярный open-source фреймворк для создания приложений на базе LLM, предоставляющий абстракции для chains, agents, RAG и memory.
JSON
JSON (JavaScript Object Notation) — лёгкий текстовый формат обмена данными, стандарт для API и интеграций AI-сервисов.
Распознавание речи
Распознавание речи (ASR) — технология AI для преобразования устной речи в текст, основа голосовых ассистентов и транскрипции.