M
Multimodal
Также известен как: Мультимодальный, Мультимодальность
Генеративный AIОпределение
Multimodal — способность AI-системы обрабатывать и генерировать данные разных типов: текст, изображения, аудио, видео.
Простое объяснение
Multimodal — как AI с несколькими органами чувств. Может видеть, слышать, читать — и понимать связи между всем этим.
Подробнее
Мультимодальные модели объединяют разные "модальности" в единое пространство представлений. GPT-4V, Claude 3, Gemini понимают изображения и текст. Sora генерирует видео. CLIP связывает изображения и текст. Мультимодальность приближает AI к человеческому восприятию: мы тоже обрабатываем мир через разные органы чувств одновременно. Challenges: alignment между модальностями, efficient training, grounding (связь текста с конкретными объектами на изображении).
Связанные термины
GPT-5
Ожидаемая мультимодальная большая языковая модель следующего поколения от компании OpenAI.
Generative AI
Генеративный AI — системы искусственного интеллекта, способные создавать новый контент: тексты, изображения, музыку, видео, код.
Speech-to-Text
Speech-to-Text (STT) — технология автоматического распознавания речи и преобразования её в текст.
Image-to-Image
Image-to-Image (img2img) — генерация нового изображения на основе входного с учётом текстового промпта и степени изменения.