Добрый день! Посмотрите GetCore, у них
getcore как раз про настроенные серверы под ИИ-задачи без лишних затрат на облака. Я бы на старте описал тип моделей, объем датасетов, нужны ли обучение или только инференс, сколько пользователей будет обращаться к сервису и какие сроки запуска. У GetCore есть подбор конфигурации, настройка CUDA, PyTorch, TensorFlow, Docker, обслуживание и апгрейд, поэтому разговор можно вести предметно. Для молодой команды это лучше, чем купить «просто мощный сервер» и потом выяснить, что не хватает памяти или дисков. Еще важно заранее обсудить размещение, питание, охлаждение и кто будет администрировать систему.