moorlinup
Newbie | Редактировать | Профиль | Сообщение | Цитировать | Сообщить модератору
Привет!
Требуется сделать сервер для LLM (Large language model).
Сервер поанируется длержать в в датацентре, т.е. корпус должен быть рэковый.
Сервер планируем с 4 видеокартами Nvidia RTX 4090. Возможно будем расширять до восьми карт.
Поэтому в сервере должно быть хорошее охлажение и питание, вохможно несколько блоков питания.
Рассматриваю как самосбор (noname корпус), так и Enterprise решения (Supermicro, Gigabyte и др.).
Если кто-либо делал продобные решения, посоветуйте какие комплектующие взять, на что обратить внимание при постройке данного сервера. |
