Bytegen поставил и настроил сервер с GPU NVIDIA RTX 4090 для команды разработчиков нейросетей. Проект включал подбор конфигурации, сборку, установку ПО и тестирование под задачи генерации изображений и текстов.
IT-компания, занимающаяся разработкой AI-решений на основе генеративных нейросетей. До проекта использовались облачные инстансы, но высокие затраты и задержки при обучении привели к решению использовать локальный GPU-сервер.
Задача
Подобрать мощный и сбалансированный сервер для обучения моделей на PyTorch и Stable Diffusion, минимизировать затраты на облачные сервисы, ускорить итерации разработки и обеспечить надёжную локальную инфраструктуру.
Решение
- Подобрана конфигурация: AMD Ryzen Threadripper, 128 ГБ RAM, SSD 2 ТБ, GPU NVIDIA RTX 4090
- Собран сервер и выполнена полная настройка: Ubuntu 22.04, NVIDIA CUDA Toolkit, cuDNN
- Развёрнуты Docker, JupyterLab, PyTorch, Hugging Face, Weights & Biases
- Осуществлён стресс-тест и замеры производительности моделей
- Создана инструкция и проведено обучение команды по работе с сервером
Результат
- Скорость обучения моделей выросла в 3–4 раза по сравнению с облаком
- Снижение расходов на аренду серверов на 70% в месяц
- Полная автономность и контроль над средой
- Возможность масштабирования до нескольких GPU