T

TPU

Также известен как: Tensor Processing Unit, Google TPU
Инструменты

Определение

TPU (Tensor Processing Unit) — специализированный AI-ускоритель, разработанный Google для обучения и inference нейронных сетей.

Простое объяснение

TPU — как специализированный инструмент Google для AI. Не универсальный как GPU, но очень эффективный для своей задачи.

Подробнее

TPU оптимизированы для tensorflow и matrix operations в отличие от универсальных GPU. TPU v4 pods объединяют тысячи чипов в единый суперкомпьютер. Gemini, PaLM обучены на TPU. Доступны через Google Cloud. Архитектура отличается: systolic array для matrix multiply, высокая bandwidth между чипами. TPU v5e оптимизирован для inference, v5p — для training. Преимущества: cost-efficiency для определённых workloads, интеграция с Google экосистемой. Альтернатива Nvidia для компаний, не желающих зависеть от одного поставщика.

Связанные термины