Характеристики серверов
Характеристики серверов
Тип 1 - Тестовый (5 - 10 пользователей)
| Характеристика |
Значение |
| ОЗУ |
8 - 16 ГБ |
| CPU |
2 ядра (Intel Core i3-10100 / AMD Ryzen 3 3200G) |
| Хранилище |
HDD 100 - 250 ГБ |
| Интернет |
25-50 Мбит/с (download/upload) |
| Статический адрес | У провайдера интернета |
| Доменное имя | Reg.ru и т.д. |
================================
Тип 2 - Минимальный (10 - 50 пользователей)
| Характеристика |
Значение |
| ОЗУ |
16 ГБ |
| CPU |
2- 4 ядра (Intel Core i5-10400 / AMD Ryzen 5 3400G) |
| Хранилище |
HDD 250-500 ГБ |
| Интернет |
50-100 Мбит/с (download/upload) |
| Статический адрес | У провайдера интернета |
| Доменное имя | Reg.ru и т.д. |
================================
Тип 3 - Средний (50 - 100 пользователей)
| Характеристика |
Значение |
| ОЗУ |
32 ГБ |
| CPU |
6-8 ядер (Intel Core i7-11700 / AMD Ryzen 7 5800X) |
| Хранилище |
HDD 500 ГБ -1 ТБ |
| Интернет |
100 - 250 Мбит/с (download/upload) |
| Статический адрес | У провайдера интернета |
| Доменное имя | Reg.ru и т.д. |
================================
Тип 4 - VIP (100+ пользователей)
| Характеристика |
Значение |
| ОЗУ |
64 ГБ |
| CPU |
12-16 ядер (Intel Core i9-12900K / AMD Ryzen 9 5950X) |
| Хранилище |
HDD 1-4 ТБ + SSD 250 - 500 ГБ - 1 ТБ |
| Интернет |
500 Мбит/с (download/upload) |
| Статический адрес | У провайдера интернета |
| Доменное имя | Reg.ru и т.д. |
================================
Тип 5 - SuperVIP (1000+ пользователей)
| Характеристика |
Значение |
| ОЗУ |
128 ГБ DDR5 |
| CPU |
Intel Xeon W-3375 (38 ядер) / AMD EPYC 7313P (16 ядер) |
| Хранилище |
SSD 2 ТБ NVMe + HDD 8 ТБ (RAID опционально) |
| Интернет |
1 Гбит/с (1000 Мбит/с, download/upload) |
| Статический адрес | У провайдера интернета |
| Доменное имя | Reg.ru и т.д. |
=================================================================
Дополнительно для сервера SuperVIP - видеокарты, ускоряющие работу локального искусственного интеллекта:
--------------------------------------------------------------------------------------------------------------------------------------------------------
🏆 Топовые видеокарты (80 ГБ VRAM) – максимальная производительность
| Видеокарта | Максимальная LLM, которую потянет |
|---|---|
| NVIDIA H100 80GB (4,3 млн ₽) | DeepSeek 67B, LLaMA 2 65B, GPT-3.5 (с отличной скоростью) |
| NVIDIA A100 80GB (1,97 млн ₽) | DeepSeek 67B, LLaMA 2 65B (чуть медленнее H100) |
🔹 Эти видеокарты – серверные (требуют PCIe 4.0 x16 и мощное охлаждение).
🔹 Используются в дата-центрах, оптимальны для обучения и работы крупных LLM.
🔥 Полупрофессиональные видеокарты (48 ГБ VRAM) – для мощных серверов
| Видеокарта | Максимальная LLM, которую потянет |
|---|---|
| NVIDIA RTX 6000 Ada (920 тыс. ₽) | DeepSeek 33B, LLaMA 2 30B (с комфортной скоростью) |
🔹 Промежуточный вариант между A100 и RTX 4090.
🔹 Хорош для средних моделей (но DeepSeek 67B уже не потянет).
💪 Оптимальные игровые видеокарты (24 ГБ VRAM) – лучший баланс
| Видеокарта | Максимальная LLM, которую потянет |
|---|---|
| RTX 4090 24GB (170–200 тыс. ₽) | DeepSeek 13B, LLaMA 2 13B (нормальная скорость) |
🔹 Лучший вариант для мощного ИИ на личном сервере.
🔹 LLaMA 2 30B потянет с Offload (RAM), но медленно.
🎯 Бюджетные видеокарты (16 ГБ VRAM) – для небольших моделей
| Видеокарта | Максимальная LLM, которую потянет |
|---|---|
| RTX 4080 16GB (130 тыс. ₽) | DeepSeek 7B, LLaMA 2 7B (комфортно) |
| RTX 4070 Ti 16GB (95 тыс. ₽) | DeepSeek 7B, LLaMA 2 7B (чуть медленнее 4080) |
🔹 Для полноценных LLM мало VRAM – для больших моделей нужен Offload (RAM), что сильно замедляет работу.
📌 Итог: какую выбрать?
✅ Если важна скорость и мощность → RTX 4090 (24 ГБ) (оптимум для LLM 13B, 30B с Offload).
✅ Если бюджет ограничен → RTX 4080 (16 ГБ) (но модели 13B+ работать будут медленно).
✅ Если нужен серверный уровень → NVIDIA A100 80GB (но цена 1,97 млн ₽).
No Comments