Языковая модель
Определение
Языковая модель — AI-система, обученная понимать и генерировать текст на естественном языке, предсказывая вероятность следующего слова или токена.
Простое объяснение
Это AI, который научился работать с текстом: понимать вопросы, писать ответы, переводить и общаться как человек.
Подробнее
Эволюция языковых моделей:
- N-gram — статистические модели
- Word2Vec — эмбеддинги слов
- BERT — понимание контекста
- GPT — генеративные модели
- LLM — большие языковые модели
Современные LLM: GPT-4, Claude, Gemini, LLaMA.
Связанные термины
Token
Токен — минимальная единица текста, обрабатываемая языковой моделью; обычно это слово, часть слова или символ.
Mistral
Mistral AI — французская компания, создающая высокоэффективные open-source языковые модели, конкурирующие с закрытыми решениями.
GPT
GPT (Generative Pre-trained Transformer) — семейство языковых моделей OpenAI, основанных на архитектуре Transformer, ставших стандартом в генеративном AI.
Multimodal AI
Мультимодальный AI — системы, способные обрабатывать и генерировать данные разных типов: текст, изображения, аудио, видео — одновременно.