Как собрать компьютер для запуска нейросети DeepSeek-R1 на локальном уровне

Недавно широкую известность приобрела бесплатная нейросеть DeepSeek-R1, которая благодаря своей открытости и высокой производительности может сравниться с платными моделями, такими как ChatGPT. Главной её особенностью является малый размер по сравнению с другими LLM, что позволяет запустить её на обычном домашнем компьютере, а не на мощных серверах в дата-центрах.

Теперь поговорим о необходимых компонентах, которые понадобятся для сборки компьютера, способного локально запускать DeepSeek-R1.

Материнская плата

Рекомендуется использовать материнскую плату Gigabyte MZ73-LM0 или MZ73-LM1. Для достижения максимальной пропускной способности и объёма оперативной памяти DDR5 потребуется два EPYC-сокета.

Процессоры

В качестве процессоров подойдут любые модели из семейств AMD EPYC 9004 или 9005. Для экономии можно выбрать модели 9115 или 9015, так как основным ограничением для LLM является пропускная способность оперативной памяти.

Система охлаждения

Выбор радиатора может быть сложной задачей, поскольку процессоры AMD EPYC используют сокет SP5, а радиаторы под него часто предназначены для установки в серверные корпуса. Можно найти подходящие модели на AliExpress или eBay. Рекомендуется заменить встроенные вентиляторы на Noctua NF-A12x25 для повышения эффективности и снижения уровня шума.

Оперативная память

В данном случае экономия на оперативной памяти — не лучший вариант. Необходимо 768 ГБ (это количество необходимо для размещения нейросети), что означает использование 24 планок DDR5-RDIMM по 32 ГБ каждая.

Хранение данных

Необходим SSD объемом 1 ТБ, чтобы разместить DeepSeek-R1. Чем быстрее будет накопитель, тем лучше, поскольку потребуется «перенести» более 700 ГБ модели в оперативную память при запуске.

Электропитание

Потребляемая мощность всей сборки составит всего до 400 Вт. Однако для двух EPYC-сокетов потребуется много кабелей. Подойдут блоки питания Corsair HX1000i или более дешёвые с аналогичными характеристиками.

Корпус

Для сборки подойдет любая башенная модель, однако с крепежными стойками под серверные материнские платы. Например, можно выбрать Phanteks Enthoo Pro 2 Server.

Общая стоимость

Суммарные расходы на покупку комплектующих и корпуса составят приблизительно 6000 долларов.