GPU
Определение
Graphics Processing Unit — специализированный процессор, изначально созданный для графики, но оказавшийся идеальным для обучения нейросетей благодаря способности выполнять тысячи параллельных вычислений.
Простое объяснение
Это как тысячи маленьких калькуляторов, работающих одновременно. Обычный процессор (CPU) — это один очень умный калькулятор, а GPU — армия простых, но очень быстрых калькуляторов, идеальная для AI.
Подробнее
GPU (Graphics Processing Unit) — графический процессор, который стал "секретным оружием" AI-революции.
Почему GPU важны для AI
Обучение нейросетей требует огромного количества простых математических операций (умножение матриц). GPU созданы именно для этого — они могут выполнять тысячи таких операций параллельно.
GPU vs CPU
- CPU: 4-64 ядра, сложные операции, последовательная обработка
- GPU: Тысячи ядер, простые операции, массивно-параллельная обработка
Ключевые производители
- NVIDIA: Лидер рынка AI-GPU (A100, H100, B200)
- AMD: Альтернатива (MI300)
- Google: TPU — специализированные чипы для AI
Для бизнеса
Вам не нужны GPU для использования AI-сервисов (ChatGPT, Claude) — они работают на серверах провайдеров. GPU нужны только если вы запускаете модели локально (Llama, Mistral) или обучаете собственные модели.
Связанные термины
ChatGPT
ChatGPT — разговорный AI-ассистент от OpenAI на базе моделей GPT, способный вести диалог, отвечать на вопросы, писать тексты и код.
vLLM
vLLM — высокопроизводительная библиотека для inference больших языковых моделей, использующая PagedAttention для эффективного управления памятью GPU.
OpenAI
OpenAI — американская AI-компания, создатель ChatGPT, GPT-4, DALL-E и других прорывных AI-систем, лидер индустрии генеративного AI.
Vector Database
Векторная база данных — специализированное хранилище для эмбеддингов, оптимизированное для семантического поиска по сходству векторов.
Perplexity AI
Perplexity AI — поисковая система на базе AI, которая отвечает на вопросы с указанием источников вместо списка ссылок.
Kubernetes
Kubernetes (K8s) — платформа оркестрации контейнеров, ставшая стандартом для развёртывания и масштабирования ML-инфраструктуры.