Nvidia DGX GH200

2023: Анонс продукта

В конце мая 2023 года компания Nvidia представила суперкомпьютер DGX GH200, который, по словам разработчиков, является уникальным в свое роде, поскольку заточен под работу генеративных моделей искусственного интеллекта (такие лежат в основе популярной нейросети ChatGPT).

В основе новинки лежит система NVLink, соединяющая 256 суперчипов Grace Hopper в один графический процессор. За счет этой технологии и достигается рекордная мощность компьютера, а также невероятный объем памяти в 144 Тбайт. Это в 500 раз больше, чем обеспечивает одна система DGX A100.

Суперкомпьютер Nvidia DGX GH200

Чипы GH200 Grace Hopper могут работать как единый GPU (каждый из таких суперчипов объединяет 72-ядерный CPU Grace на базе Arm, GPU класса H100, 96 Гбайт HBM3 и 512 Гбайт LPDDR5X-памяти). В Nvidia утверждают, что такая конфигурация позволяет DGX GH200 развить производительность в 1 экзафлоп и иметь 144 терабайта общей памяти. Компания утверждает, что это почти в 500 раз больше, чем в суперкомпьютерном решении прошлого поколения, DGX A100.

Для сравнения, в последнем к маю 2023 года рейтинге суперкомпьютеров Top500 единственной известной экзафлопсной системой назван Frontier, который достиг производительности почти 1,2 экзафлопса в бенчмарке Linmark.Помощник или конкурент? Чем ИИ может быть полезен в HR-процессах

Архитектура DGX GH200 обеспечивает в 48 раз большую пропускную способность NVLink, чем предыдущее поколение, предоставляя мощность массивного суперкомпьютера ИИ с простотой программирования одного графического процессора.

Первыми компаниями, использующими DGX GH200, станут Microsoft и Google. Суперкомпьютеры будут использоваться для обучения больших языковых моделей и других вычислений, связанных с нейросетями и искусственным интеллектом. О стоимости DGX GH200 к концу мая 2023 года не сообщается.^[1]

Примечания