Что такое миниатюрный суперкомпьютер NVIDIA Project DIGITS

В дополнение к анонсу видеокарт RTX 50, технологиям DLSS 4 и созданию ИИ-партнёров NVIDIA удивила пользователей новым миниатюрным суперкомпьютером за 3000 долларов. Интересно заметить, что цена на актуальные версии MacBook Pro от Apple с процессором M4 Max начинается с 3200 долларов.

Новый продукт, получивший название Project DIGITS, поступит в продажу в мае. Он основан на революционном суперчипе GB10 Grace Blackwell, который способен обрабатывать ИИ-модели с количеством параметров до 200 миллиардов. Суперчип использует последние версии CUDA и Tensor-ядра пятого поколения, в сочетании с процессором GRACE, включающим 20 энергоэффективных ARM-ядра, соединённых через NVLink-C2C. Этот мощный чип позволяет достигать производительности в 1 петафлопс (1 квадриллион ИИ-вычислений в секунду) с высокой точностью FP4. При разработке этого чипа компанию NVIDIA поддерживала MediaTek, что способствовало оптимизации энергоэффективности и производительности.

Интересно, что два таких компьютера могут быть объединены, что повысит их общую производительность, достаточную для работы с большими языковыми моделями объёмом до 405 миллиардов параметров. Для сравнения, опенсорсная LLM-модель Llama 3.1 имеет именно такое количество параметров в своей максимальной конфигурации.

Project DIGITS оснащён 128 ГБ унифицированной когерентной памяти и имеет хранилище NVMe объемом до 4 ТБ. Этот компьютер функционирует на операционной системе Linux Nvidia DGX OS и поддерживает такие инструменты, как PyTorch, Python и Jupyter Notebooks.

Хотя точные размеры устройства не раскрыты, судя по рендеру и живым фотографиям, они близки к размеру Mac mini и Mac Studio.