Бурное развитие ИИ-вычислений приводит к увеличению энергопотребления и плотности теплового потока серверных процессоров. Поскольку вычисления на основе GPU становятся все более важными для обучения и инференса ИИ, управление тепловым режимом перестает быть простой задачей выбора более крупного радиатора. Тепловой интерфейс между источником тепла и системой охлаждения может существенно влиять на общую производительность системы.

Для высокоплотных ИИ-серверов различные компоненты генерируют разный уровень тепла и имеют разную геометрию интерфейса. GPU и CPU могут требовать чрезвычайно низкого теплового сопротивления, в то время как для памяти и вспомогательных компонентов могут потребоваться тонкие и податливые материалы. Силовые компоненты на печатных платах могут требовать как теплопроводности, так и электрической изоляции, в то время как структуры системного уровня могут выиграть от бокового рассеивания тепла.

Этот пример из практики демонстрирует, как комбинация жидкометаллического теплопроводящего интерфейса, материала с фазовым переходом, термопрокладок и теплопроводящих материалов на основе графена может быть использована для создания многоуровневой стратегии управления тепловым режимом для высокоплотных систем ИИ-вычислений.

Современные ИИ-серверы интегрируют множество высокопроизводительных GPU, CPU, устройств памяти, силовых компонентов и других теплогенерирующих элементов в относительно компактное пространство.

Это создает ряд тепловых проблем.

Высокопроизводительные процессоры генерируют концентрированное тепло в относительно небольших областях. По мере увеличения энергопотребления GPU тепловое сопротивление между чипом и системой охлаждения становится все более важным.

Даже при наличии у водяного блока или радиатора достаточной охлаждающей способности плохо спроектированный интерфейс может ограничить теплопередачу.

Архитектуры ИИ-серверов содержат компоненты с разной высотой корпуса и геометрией поверхности. Малые зазоры между теплогенерирующим компонентом и его системой охлаждения могут создавать воздушные карманы, увеличивая тепловое сопротивление.

Таким образом, теплопроводящий интерфейс должен обеспечивать достаточную податливость и заполнение зазоров, не увеличивая ненужную толщину материала.

Силовые компоненты и сборки печатных плат могут требовать управления тепловым режимом при сохранении электрической изоляции. Материала с высокой теплопроводностью самого по себе может быть недостаточно.

Могут также потребоваться учет механической податливости, характеристик сжатия, метода сборки и диэлектрических свойств.

Множество одновременно работающих GPU могут создавать концентрированные тепловые зоны. Если тепло не может быть эффективно распределено, могут развиваться локальные горячие точки на радиаторе, корпусе или других тепловых структурах.

Это делает рассеивание тепла важной частью общего теплового дизайна ИИ-сервера.

Вместо использования одного теплопроводящего интерфейса для каждого компонента, проект принял стратегию применения материалов, специфичных для конкретного применения.

Каждый тепловой интерфейс оценивался по его тепловыделению, зазору интерфейса, целевому тепловому сопротивлению, механическим и электрическим требованиям.

Полученная архитектура объединила четыре различные технологии теплопроводящих интерфейсов:

Этот подход позволяет каждому материалу выполнять функцию, для которой он наиболее подходит.

GPU и CPU, как правило, являются одними из наиболее требовательных к тепловому режиму компонентов в ИИ-сервере.

Для этих интерфейсов основная задача — минимизировать тепловое сопротивление между корпусом полупроводника и системой охлаждения.

В проекте использовался жидкометаллический теплопроводящий интерфейс серии TIG78 для высокомощных интерфейсов.

Согласно предоставленным данным, материал обеспечивает:

• Теплопроводность до 78 Вт/(м·К)

• Заявленный тепловой импеданс до 0,02 °C·дюйм²/Вт

• Диапазон рабочих температур -45 °C до 200 °C

Сочетание высокой теплопроводности и низкого заявленного теплового импеданса способствует созданию эффективного пути теплопередачи от процессора к радиатору или системе охлаждения.

Жидкометаллический теплопроводящий интерфейс может быть особенно привлекателен для высокомощных применений, где важен каждый прирост теплового сопротивления интерфейса.

Однако инженеры также должны учитывать электрическую изоляцию, совместимость материалов, процесс применения, герметизацию и долгосрочную надежность при проектировании жидкометаллического интерфейса.

Не каждый тепловой интерфейс в ИИ-сервере требует чрезвычайно низкого теплового сопротивления, связанного с жидкометаллическим интерфейсом.

Память и вспомогательные компоненты часто имеют разные тепловые требования и могут выиграть от очень тонкого интерфейсного материала, способного принимать форму сопрягаемых поверхностей.

Для этих применений был выбран материал с фазовым переходом TIC800.

Предоставленные спецификации включают:

• Теплопроводность: 5,0 Вт/(м·К)

• Диапазон толщины: 0,102–0,305 мм

Во время работы поведение фазового перехода позволяет материалу принимать форму интерфейса при соответствующих условиях, помогая минимизировать микроскопические воздушные зазоры.

Для компактных архитектур ИИ-серверов тонкий интерфейс с фазовым переходом может обеспечить практический баланс между тепловыми характеристиками, податливостью интерфейса и интеграцией на уровне корпуса.

Требования к управлению тепловым режимом отличаются вокруг силовых электронных компонентов и компонентов печатных плат.

Эти области могут иметь неровные поверхности или различия в высоте компонентов, а также требовать электрической изоляции.

Для этих применений использовалась термопрокладка TIF800TU-16W.

Предоставленные данные о продукте сообщают:

• Теплопроводность: 16 Вт/(м·К)

• Твердость: 45 по Шору 00

• Варианты толщины: 0,5–5,0 мм

• Характеристики тепловой и электрической изоляции

По сравнению с жидкометаллическим интерфейсом, термопрокладка обеспечивает более удобный твердотельный интерфейс для применений, где важны заполнение зазоров, механическая податливость, изоляция и эффективность сборки.

Возможность выбора различной толщины также позволяет материалу компенсировать различные зазоры между компонентом и радиатором.

Управление теплом на интерфейсе чип-радиатор — лишь часть тепловой проблемы.

В высокоплотных ИИ-системах локализованное тепло может также накапливаться в радиаторах, конструкциях корпуса и других частях теплового пути.

Для этих применений графеновые теплопроводящие материалы могут обеспечить дополнительную функцию рассеивания тепла.

Предоставленные данные проекта сообщают о теплопроводности в плоскости до:

130 Вт/(м·К)

Основная задача — не просто вертикальная передача тепла через интерфейс. Вместо этого высокая теплопроводность в плоскости помогает распределять локализованное тепло по большей площади.

Потенциальные применения включают:

• Основания радиаторов

• Рассеивание тепла в корпусе

• Многопроцессорные системы

• Управление локальными горячими точками

• Выравнивание температуры

Поскольку графеновые тепловые материалы могут проявлять анизотропное тепловое поведение, инженеры должны оценивать как тепловые характеристики в плоскости, так и перпендикулярно ей в зависимости от фактического направления теплового потока.

Распространенная ошибка в тепловом дизайне — выбор теплопроводящего интерфейса только по его теплопроводности.

На самом деле тепловые характеристики зависят от полного интерфейса.

Например, материал с чрезвычайно высокой теплопроводностью может быть не лучшим выбором, если применение требует:

• Заполнение больших зазоров

• Электрическая изоляция

• Высокая сжимаемость

• Простая сборка

• Сложная податливость поверхности

• Автоматизированное дозирование

• Низкое механическое напряжение

И наоборот, термопрокладка с умеренной теплопроводностью может быть более подходящей для силового компонента печатной платы, если электрическая изоляция и компенсация зазоров имеют решающее значение.

Следовательно, процесс выбора должен начинаться с требований к тепловому интерфейсу, а не просто с вопроса, какой теплопроводящий интерфейс имеет самое высокое значение Вт/(м·К).

Упрощенная стратегия выбора для управления тепловым режимом ИИ-сервера:

Рассмотрите теплопроводящий интерфейс с низким сопротивлением, такой как жидкометаллический, когда применение соответствует требуемым электрическим, механическим, совместимости и надежности.

Материалы с фазовым переходом могут обеспечить тонкий и податливый интерфейс для контролируемых зазоров.

Термопрокладки могут обеспечить комбинацию теплопередачи, электрической изоляции, заполнения зазоров и механической податливости.

Теплопроводящие материалы на основе графена могут помочь распределить тепло по бокам и снизить концентрацию температуры.

Это создает тепловую архитектуру, в которой каждый материал имеет четко определенную роль.

Согласно предоставленным материалам проекта, решения по управлению тепловым режимом были оценены в ИИ-серверах и центрах интеллектуальных вычислений.

Один из заявленных проектов ИИ-сервера для поставщика облачных услуг достиг:

Температура чипа: 88 °C → 65 °C

В том же материале проекта сообщалось о 28% улучшении вычислительной производительности в год.

В другом проекте оптимизации охлаждения центра интеллектуальных вычислений предоставленные данные показали:

PUE: 1,42 → 1,08

Материалы проекта также сообщили об экономии электроэнергии более 5 миллионов кВт·ч в год.

Для самостоятельно разработанного высокопроизводительного ИИ-сервера предоставленный материал проекта сообщил о:

• 10 000 часов непрерывной работы

• Колебание температуры ≤ ±2 °C

• Нулевое количество зарегистрированных отказов

Эти цифры должны быть проверены в соответствии с применимыми условиями испытаний, отчетами об испытаниях, одобрениями заказчика и окончательными спецификациями продукта перед внешним опубликованием.

Самый важный урок этого проекта заключается в том, что управление тепловым режимом ИИ-сервера необходимо рассматривать как полный тепловой путь.

Система охлаждения включает в себя больше, чем просто GPU и водяной блок.

Она также включает:

Полупроводник → Теплопроводящий интерфейс → Рассеиватель тепла / Водяной блок → Радиатор → Корпус → Система охлаждения

Любое значительное тепловое сопротивление в этом пути может повлиять на конечную температуру системы.

Именно поэтому различные технологии теплопроводящих интерфейсов могут работать вместе в одном сервере.

Жидкометаллический интерфейс может снизить тепловое сопротивление на высокомощных интерфейсах чипов.

Материал с фазовым переходом может обеспечить тонкие и податливые интерфейсы.

Термопрокладки могут компенсировать большие зазоры, обеспечивая при этом электрическую изоляцию.

Графеновые материалы могут рассеивать тепло по бокам и улучшать равномерность температуры.

Вместе эти технологии обеспечивают более гибкий подход к управлению тепловым режимом высокоплотных ИИ-серверов.

Правильно спроектированная многокомпонентная тепловая стратегия может обеспечить ряд преимуществ:

• Более низкое тепловое сопротивление интерфейса

• Лучшая компенсация зазоров

• Повышенная электробезопасность

• Улучшенная равномерность температуры

• Большая гибкость проектирования

По мере того как ИИ-серверы продолжают развиваться в сторону более высокой плотности мощности GPU, компактных архитектур и передовых систем охлаждения, теплопроводящие материалы будут играть все более важную роль в поддержании вычислительной производительности и надежности системы.

Ключ не в том, чтобы просто выбрать теплопроводящий интерфейс с самой высокой теплопроводностью.

Успешное решение по управлению тепловым режимом должно учитывать полную комбинацию:

Теплопроводность + Тепловое сопротивление + Зазор + Сжатие + Электрическая изоляция + Процесс сборки + Надежность

В этом клиентском проекте использовалась комбинация жидкометаллического теплопроводящего интерфейса, материала с фазовым переходом, термопрокладок с высокой теплопроводностью и теплопроводящих материалов на основе графена для решения различных тепловых задач в высокоплотном ИИ-сервере.

Этот подход, специфичный для конкретного применения, обеспечивает гибкий путь для управления как горячими точками на уровне чипов, так и распределением тепла на системном уровне, поддерживая дальнейшее развитие высокопроизводительной инфраструктуры ИИ-вычислений.

Универсального лучшего теплопроводящего интерфейса не существует. Для высокомощных интерфейсов GPU-охлаждение могут рассматриваться материалы с низким тепловым сопротивлением, такие как жидкометаллический интерфейс, когда применение соответствует требуемым электрическим, механическим, совместимости и надежности.

Термопрокладки остаются полезными для интерфейсов, требующих заполнения зазоров, электрической изоляции, механической податливости и удобной сборки. Они особенно подходят для применений с печатными платами и силовыми компонентами.

Материалы с фазовым переходом могут обеспечить тонкий интерфейс, улучшая при этом податливость сопрягаемых поверхностей при соответствующих рабочих условиях. Они могут быть полезны для памяти и других компактных компонентов.

Теплопроводящие материалы на основе графена могут использоваться для бокового рассеивания тепла и выравнивания температуры. Их высокая теплопроводность в плоскости делает их особенно интересными для управления горячими точками и распределения тепла на системном уровне.

Толщина теплопроводящего интерфейса должна основываться на фактическом зазоре интерфейса, допуске компонента, требуемом сжатии и рекомендованном производителем диапазоне применения. Слишком мало материала может оставить воздушные зазоры, в то время как чрезмерная толщина может увеличить тепловое сопротивление.

Да. Различные компоненты имеют разные тепловые и механические требования. Многокомпонентная стратегия теплопроводящих интерфейсов может объединять жидкометаллический интерфейс, материалы с фазовым переходом, термопрокладки, тепловые гели и графеновые материалы в различных частях одной тепловой архитектуры.

ZIITEK предоставляет множество технологий теплопроводящих интерфейсов и может оценить выбор теплопроводящего интерфейса на основе теплопроводности, теплового сопротивления, зазора, твердости, электрической изоляции, процесса сборки, рабочей температуры и требований к надежности.