Как новый суперкомпьютер NVIDIA Jetson Orin Nano Super меняет рынок ИИ

17 декабря компания NVIDIA представила новейший компактный суперкомпьютер, предназначенный для работы с генеративным искусственным интеллектом. Этот продукт обещает высокую производительность благодаря обновлению программного обеспечения и доступную цену. Новый компьютер называется NVIDIA Jetson Orin Nano Super и легко помещается на ладони. Он подойдет как для разработчиков коммерческих проектов, так и для студентов, программистов и энтузиастов.

«Jetson Orin Nano Super идеально подходит для пользователей, заинтересованных в прокачке навыков в области генеративного искусственного интеллекта, робототехники или компьютерного зрения».

Интересно, что «суперкомпьютер» действительно обеспечивает достойную производительность: по словам NVIDIA, Jetson Orin Nano Super демонстрирует вычислительную мощность на уровне 67 TOPS (INT8) и пропускную способность 102 ГБ/сек. Это на 70% больше, чем у предыдущей модели Jetson Orin Nano (40 TOPS), а скорость работы увеличилась на 50%. Более того, новая модель стоит всего 249 долларов, тогда как её предшественник при запуске продавался по цене 499 долларов — вдвое дороже.

Новинка работает на основе 6-ядерного 64-битного процессора Arm Cortex-A78AE v8.2 и графического ускорителя NVIDIA Ampere, оснащённого 1024 CUDA-ядрами и 32 тензорными ядрами. Она имеет 8 ГБ оперативной памяти LPDDR5 с возможностью хранения данных на карте памяти или внешнем твердотельном NVMe-накопителе. Энергопотребление колеблется в пределах от 7 до 25 Вт, в зависимости от нагрузки во время обучения и работы с ИИ.

Кроме того, обновление программного обеспечения, доступное для Jetson Orin Nano Super, также повысит производительность генеративного ИИ и для Jetson Orin Nano. Это окажется полезным при разработке языковых моделей для чат-ботов, создании визуальных ИИ-агентов и развёртывании роботизированных устройств на базе искусственного интеллекта.