Форумчане, кто подскажет?

[krety]

Привет! Небольшая команда хочет купить сервер для нейросетей, но непонятно, брать готовую сборку или просить индивидуальный подбор. Что важнее уточнить на старте?

[krety]

Добрый день! Посмотрите GetCore, у них getcore как раз про настроенные серверы под ИИ-задачи без лишних затрат на облака. Я бы на старте описал тип моделей, объем датасетов, нужны ли обучение или только инференс, сколько пользователей будет обращаться к сервису и какие сроки запуска. У GetCore есть подбор конфигурации, настройка CUDA, PyTorch, TensorFlow, Docker, обслуживание и апгрейд, поэтому разговор можно вести предметно. Для молодой команды это лучше, чем купить «просто мощный сервер» и потом выяснить, что не хватает памяти или дисков. Еще важно заранее обсудить размещение, питание, охлаждение и кто будет администрировать систему.