NVIDIA Blackwell B200 против H100 и H200: Архитектурный разбор, энергопотребление и реальная экономика инференса токенов
С переходом от архитектуры Hopper (H100/H200) к Blackwell (B200/GB200) индустрия искусственного интеллекта столкнулась с фундаментальным физическим барьером — пределом площади фотолитографической маски (Reticle Limit). Чтобы упаковать 208 миллиардов транзисторов, NVIDIA впервые объединила два кремниевых кристалла на одном интерпозере со сверхвысокой скоростью связи 10 ТБ/с. В этом исследовании мы разбираем реальную экономику инференса: почему FP4 дает 30-кратный прирост токенов на ватт энергии и окупается ли миграция дата-центров на стойки NVL72.
AM LABПредел фотолитографии и анатомия сдвоенного кристалла (Dual-Die)
Современные литографические сканеры экстремального ультрафиолета (EUV) от ASML имеют физический предел площади экспонирования около 858 мм². Одиночный монолитный кристалл GPU физически больше невозможно сделать крупнее.
- Чтобы преодолеть этот лимит, в Blackwell B200 инженеры TSMC и NVIDIA применили 4NP техпроцесс и соединили два кристалла максимального размера через интерпозер CoWoS-L (Chip-on-Wafer-on-Substrate):
- 208 миллиардов транзисторов на едином субстрате.
- Межкристальная шина NV-HBI (High-Bandwidth Interface) с пропускной способностью 10 ТБ/с: для программного обеспечения оба кристалла видны как один монолитный GPU без задержек NUMA!
- 192 ГБ сверхбыстрой памяти HBM3e с пропускной способностью 8.0 ТБ/с (против 3.35 ТБ/с у H100).
H100 SXM5: 80 ГБ HBM3, 3.35 ТБ/с, 700 Вт TDP, FP8 Tensor Cores. H200 SXM5: 141 ГБ HBM3e, 4.8 ТБ/с, 700 Вт TDP, FP8 Tensor Cores. Blackwell B200: 192 ГБ HBM3e, 8.0 ТБ/с, 1000 Вт TDP, FP4 2nd Gen Tensor Cores.
Микроквантование FP4: как снизить стоимость токена в 4 раза без деградации логики
Главное архитектурное оружие Blackwell — тензорные ядра второго поколения с поддержкой 4-битных чисел с плавающей запятой (FP4).
- В классическом INT4/FP4 квантовании модели теряли способность к сложным математическим рассуждениям из-за всплесков весов (Outliers). В Blackwell реализована аппаратная система Micro-Scaling (NV-FP4):
- Матрицы делятся на микро-блоки по 16 или 32 числа с отдельным 8-битным масштабным коэффициентом на каждый блок.
- Это позволяет сохранять 99.2% точности на бенчмарках MMLU и HumanEval, но сокращает размер весов модели ровно вдвое по сравнению с FP8!
- Результат: гигантская модель DeepSeek V3 (671B параметров) в формате FP4 помещается всего на 4 GPU Blackwell вместо 16 GPU H100.
# Запуск инференс-сервера vLLM с оптимизацией под Blackwell Tensor Cores FP4
from vllm import LLM, SamplingParams
sampling_params = SamplingParams(
temperature=0.6,
top_p=0.95,
max_tokens=4096,
)
# vLLM автоматически активирует NV-FP4 ядра при наличии CUDA Compute Capability 10.0+
llm = LLM(
model="deepseek-ai/DeepSeek-V3",
quantization="fp4",
tensor_parallel_size=4,
gpu_memory_utilization=0.92,
max_model_len=65536,
trust_remote_code=True,
)
outputs = llm.generate(["Explain quantum decoherence in 2 sentences:"], sampling_params)
print(outputs[0].outputs[0].text)Экономика дата-центров: Расчет TCO и стоимости 1 миллиона токенов
Хотя один чип B200 потребляет до 1000-1200 Вт (требуя прямого жидкостного охлаждения Direct-to-Chip), суммарная стоимость вычислений на 1 миллион токенов резко снижается благодаря чудовищной плотности генерации:
- H100 Cluster (64 GPU, воздушное охлаждение):
- — Модель: Llama 3.3 70B (FP8)
- — Скорость: ~18 500 токенов/сек суммарно
- — Энергопотребление: ~54 кВт/час
- — Себестоимость 1M токенов: ~$0.28
- Blackwell B200 Cluster (16 GPU, жидкостное охлаждение):
- — Модель: Llama 3.3 70B (FP4)
- — Скорость: ~72 000 токенов/сек суммарно
- — Энергопотребление: ~19 кВт/час
- — Себестоимость 1M токенов: ~$0.042 (снижение себестоимости в 6.6 раз!)
Инженерный вердикт для бизнеса и разработчиков
Для небольших стартапов и локальных серверов H100 и H200 останутся «рабочими лошадками» на ближайшие 2 года благодаря совместимости со стандартными воздушными серверными стойками. Однако для облачных провайдеров и масштабных сервисов с миллионами пользователей переход на Blackwell B200 является единственным способом не разориться на счетах за электроэнергию в эпоху массовых reasoning-моделей.
Аппаратная верификация и метрики кремния
vllm serve nvidia-blackwell-b200-vs-h100-ai-datacenter-economics --tensor-parallel-size 4 --gpu-memory-utilization 0.95 --max-model-len 32768 --kv-cache-dtype fp8
Artur Moiseyev
AI Systems Architect & Founder
Независимый AI-исследователь и архитектор распределенных систем. Разрабатываю мультиагентные системы, открытые reasoning-модели и инфраструктуру реального времени.
Связанные статьи справочника
AM LABQwen 2.5 Coder 32B и 72B: Открытая модель, догнавшая Claude 3.5 Sonnet в реальном программировании
Серия моделей Qwen 2.5 Coder от Alibaba установила новые рекорды в бенчмарках EvalPlus и SWE-bench. Тестируем квантование 32B на потребительских GPU и подключение к Cursor и Cline.
AM LABGroq LPU против NVIDIA H100: Битва за скорость инференса и энергоэффективность в 2026 году
Почему LPUs достигают 500+ токенов/сек на Llama 3.3 70B, тогда как GPU упираются в пропускную способность памяти HBM. Сравнение детерминированной памяти SRAM и кластеров GPU.
AM LABКак запустить нейросеть локально с Ollama: Полный гид по железу и настройке в 2026 году
Запуск Llama 3.3, Qwen 2.5 Coder и DeepSeek-R1 офлайн на своем компьютере: расчет видеопамяти (VRAM), квантование GGUF, настройка Modelfile и Docker Compose.