ИИ меняет дата-центры: проектирование серверных платформ под новые требования нейросетей и систем машинного обучения

Агентная платформа

Программный комитет ещё не принял решения по этому докладу

Целевая аудитория

hardware/system engineers, инфраструктурные инженеры, архитекторы серверных платформ, технические руководители, принимающие решения по AI-инфраструктуре

Тезисы

AI-нагрузки заставляют пересматривать привычную архитектуру серверов: растёт плотность мощности, ускорители становятся главным потребителем ресурсов, а узкие места появляются там, где раньше на них не обращали внимания. В докладе расскажу, что меняется при проектировании серверных платформ под современные GPU-нагрузки: питание и разводка платы, PCIe Gen5 и CXL, topology, охлаждение и выбор компонентов. Обсудим, почему производительность AI-сервера определяется не только характеристиками ускорителя и как одна небольшая деталь может стать узким горлышком всей системы.

Руководитель отдела разработки встроенных систем в Selectel. Разрабатываю и произвожу и софт и железо по всему миру и любой сложности. Катаюсь на всем что двигается, а что не двигается, я двигаю и катаюсь, играю в баскетбол, путешествую и в целом за любой движ:)

Видео

Другие доклады секции

Агентная платформа