На конференции Hot Chips 2026 компания Google раскрыла инженерные детали восьмого поколения тензорных процессоров и показала компоновку вычислительного лотка TPU 8t. Главной новостью для отрасли охлаждения стало то, что жидкостный контур в этом поколении дошёл до оптики: водяные теплосъёмники установлены не только на самих ускорителях, но и на оптических модулях межсоединений. На слайде Google эта деталь подписана как «первое в машинном обучении» решение.
Вода дошла до оптических модулей
До восьмого поколения оптические трансиверы в стойках TPU охлаждались воздухом, тогда как жидкость отводила тепло только от процессоров. В TPU 8t Google перевела на водяное охлаждение и оптику — по словам компании, это первый случай применения такого подхода в её ML-системах. Причина в том, что с ростом скоростей межсоединений оптические модули превратились в самостоятельный источник тепла и одновременно в один из наименее надёжных элементов кластера.
Вычислительный лоток TPU 8t собран по схеме из четырёх процессоров. На фотографии, показанной на конференции, видны три яруса: первая ступень преобразователей питания, четыре корпуса TPU 8t с жидкостными пластинами и нижний ряд оптических модулей, накрытых общим медным теплосъёмником с подводящими трубками.
Стойка и суперпод
Из таких лотков собирается стойка, а из стоек — суперпод. Google приводит следующие параметры конфигурации для обучения:
- 4 процессора TPU 8t на один вычислительный лоток;
- 300 стоек в составе одного суперпода;
- 9600 процессоров TPU 8t в суперподе;
- 2 Пбайт совокупной памяти HBM с общим адресным пространством;
- 121 Эфлопс в формате FP4;
- примерно двукратный прирост производительности на ватт относительно предыдущего поколения TPU v7 Ironwood.
Межсоединение суперподов обеспечивает новая кластерная фабрика Virgo, рассчитанная на домен до 134 тыс. процессоров с совокупной пропускной способностью 47 Пбит/с. Она построена на двухуровневой коммутации и оптических коммутаторах каналов (OCS), которые динамически перестраивают размер и форму выделяемого сегмента.
Температура как вопрос надёжности
Отдельный блок доклада Google посвятила связи температуры и отказоустойчивости. Компания напомнила про уравнение Аррениуса: скорость химической деградации полупроводниковых структур примерно удваивается с каждым ростом рабочей температуры на 10–15 °C. При масштабе в 9600 процессоров на суперпод и длительных сессиях обучения интенсивность отказов становится прямым ограничителем полезной работы кластера, поэтому охлаждение в Google рассматривают как часть подсистемы надёжности, а не как вспомогательную инженерную систему.
Дополняют её механизмы RAS: встроенное самотестирование блоков выполняется в простое и заранее выявляет деградирующие чипы, а оптические коммутаторы автоматически выводят отказавший процессор из конфигурации, подставляют резервный и восстанавливают вычисления с контрольной точки.
Второй чип поколения — TPU 8i
Параллельно Google представила инференс-ориентированный TPU 8i. У него восемь стеков HBM против шести у обучающего 8t — на инференсе требуется больше пропускной способности памяти на единицу вычислений. Топология межсоединений сменилась с трёхмерного тора на BoardFly, где максимальное число транзитных переходов сократилось с 16 до 7, что напрямую влияет на задержку. В стойке процессоры 8i работают в связке с собственными Arm-процессорами Google Axion в соотношении два ускорителя на один CPU, заменив применявшиеся ранее x86-решения.
Источник: ServeTheHome.com