C

Compute

Также известен как: Вычисления, GPU Compute, Training Compute
Бизнес и AI

Определение

Compute — вычислительные ресурсы (GPU, TPU), необходимые для обучения и inference AI-моделей, измеряемые в FLOP.

Простое объяснение

Compute — как топливо для AI. Чем мощнее модель вы хотите обучить, тем больше вычислений (и денег) нужно.

Подробнее

Compute стал стратегическим ресурсом в AI. Обучение GPT-4 оценивается в ~10^25 FLOP. Крупнейшие модели требуют тысячи GPU на месяцы (стоимость ~$100M+). Nvidia доминирует: H100, A100 GPU. Альтернативы: Google TPU, AMD MI300, custom chips (Amazon Trainium). Compute efficiency важна: FlashAttention, quantization, efficient architectures снижают требования. Cloud compute (AWS, GCP, Azure) демократизирует доступ. Compute governance обсуждается как способ контроля AI: большой compute = большая модель = потенциальные риски.

Связанные термины