Интерактивная ИИ-лаборатория

Инженерные ИИ-калькуляторы и утилиты

Профессиональные интерактивные инструменты для точного расчета бюджетов API-инференса, плотности токенов и подбора локальных GPU-серверов под vLLM и Ollama.

Интерактивный калькулятор экономики API

Матрица стоимости инференса и эффективности токенов

Настройте ежемесячный объем входящих и исходящих токенов ниже, чтобы мгновенно рассчитать затраты на API и сравнить экономию современных reasoning-архитектур.

Входящие токены в месяц:1 000 000 tok
50K5M10M
Исходящие токены в месяц:500 000 tok
25K2.5M5M
Модель / ПровайдерСкоростьВход / 1MВыход / 1MБюджет в месяц
DeepSeek-R1 (Reasoning)Топ окупаемость
DeepSeek AI
42 tok/s$0.55$2.19$1.65/ мес
DeepSeek-V3 (671B MLA)Ультра-дешево
DeepSeek AI
60 tok/s$0.27$1.10$0.82/ мес
Gemini 2.5 Flash & Pro2M токенов контекст
Google DeepMind
142 tok/s$0.15$0.60$0.45/ мес
Claude 3.7 SonnetЛидер в кодинге
Anthropic
78 tok/s$3.00$15.00$10.50/ мес
GPT-4o Omnimodal
OpenAI
88 tok/s$2.50$10.00$7.50/ мес
Llama 3.3 70B on Groq LPU520 ток/с рекорд
Groq Cloud
520 tok/s$0.59$0.79$0.98/ мес
Llama 3.3 70B (Self-Hosted)100% Приватно
Local vLLM / Ollama
110 tok/s$0.00$0.00$0.00/ мес
Интерактивный анализатор плотности токенов промпта
Токенов:19 tok
Калькулятор локального оборудования (vLLM / Ollama)

Расчет видеопамяти GPU (VRAM) и квантования GGUF / AWQ

Точный инженерный расчет необходимой видеопамяти с учетом весов модели, KV-кэша контекстного окна и буфера активаций CUDA/Metal.

Требуемый объем видеопамяти (VRAM):
46.4 GB (39.4GB weights + 5.6GB KV)
Рекомендуемая конфигурация:
2x RTX 3090/4090 (NVLink/PCIe) или Mac Studio M3 Ultra 64GB
Читать гайд по сборке локального сервера →