TokenOS · ранний доступ
Ваш ИИ может стоить дешевле.
TokenOS помогает сокращать расходы на API нейросетей без обязательной смены провайдера: точный кэш повторов, удаление дословных повторов в контексте и контроль бюджета — с честным учётом каждой сэкономленной копейки.
# меняете две строки — провайдер прежний
base_url = "https://tokenos.workforceai.ru/v1"
api_key = "tok_…"
повторный запросиз кэша · 0 ₽
экономияизмеренная / оценочная — раздельно
режим по умолчаниюSAFE · запрос не меняется
Без смены провайдера
Свой ключ GigaChat или любого OpenAI-совместимого API
Только проверяемые цифры
Измеренная, оценочная и потенциальная экономия — отдельно
Безопасно по умолчанию
SAFE не меняет запрос; ключи зашифрованы; серверы в России
Калькулятор
Сколько вы можете сэкономить
Сценарный расчёт по типу нагрузки. Это предварительная оценка, а не обещание: фактическую экономию покажет кабинет по вашим реальным запросам.
- Сейчас в месяц
- 50 000 ₽
- Возможная экономия
- 10–19%
- После оптимизации
- 40 397 ₽ – 45 000 ₽
- Потенциал за год
- 60 000 ₽ – 115 232 ₽
Допущения: кэшируется 50–90% повторов (только детерминированные запросы); входные токены — около 70% расходов; итог ограничен 60%. Реальную экономию TokenOS показывает только по фактическим запросам в личном кабинете.
Демонстрация
Что происходит с запросом
Настоящий оптимизатор TokenOS на фиксированных примерах. Переключайте сценарии и смотрите, что именно меняется — и что остаётся нетронутым.
Измерено · 23.10.2026
Сколько экономит TokenOS на самом деле
Одинаковые задания отправлены дважды: напрямую в модель и через TokenOS. Экономия зависит от доли повторов в вашей нагрузке: на смешанном потоке с 20% повторов — минус 33% входных токенов, на уникальных запросах — 0%.
| Провайдер / модель | Сценарий | Запросов | Без TokenOS | С TokenOS | Стоимость | Входные токены | Качество |
|---|---|---|---|---|---|---|---|
| GigaChat · GigaChat-2 | Повторяющиеся вопросы (FAQ ×3) | 15 | 0.0556 ₽ | 0.0180 ₽ | −67.6% | −66.7% | — |
| GigaChat · GigaChat-2 | RAG: документ в каждом сообщении | 4 | 0.0618 ₽ | 0.0618 ₽ | 0% | 0% | ключевой факт: 4/4 → 4/4 |
| GigaChat · GigaChat-2 | Уникальные запросы (контроль) | 5 | 0.0218 ₽ | 0.0220 ₽ | +0.6% | 0% | — |
| Локальная · qwen2.5:7b-instruct | Поддержка клиентов (40 % повторов) | 12 | — | — | 0 ₽ за токен | −41.7% | ключевой факт: 12/12 → 12/12 |
| Локальная · qwen2.5:7b-instruct | Повторяющиеся FAQ (каждый ×3) | 15 | — | — | 0 ₽ за токен | −66.7% | ключевой факт: 9/15 → 9/15 |
| Локальная · qwen2.5:7b-instruct | RAG: документ в каждом ходе | 4 | — | — | 0 ₽ за токен | −43.4% | ключевой факт: 4/4 → 4/4 |
| Локальная · qwen2.5:7b-instruct | Код: агент дважды читает файл | 4 | — | — | 0 ₽ за токен | −26.8% | ключевой факт: 2/4 → 2/4 |
| Локальная · qwen2.5:7b-instruct | Суммаризация уникальных документов (контроль) | 5 | — | — | 0 ₽ за токен | 0% | ключевой факт: 5/5 → 5/5 |
| Локальная · qwen2.5:7b-instruct | Смешанный поток: 30 запросов, 20 % повторов | 30 | — | — | 0 ₽ за токен | −33% | ключевой факт: 26/30 → 26/30 |
- — Запросы отправлялись поочерёдно (напрямую / через TokenOS, порядок чередуется), temperature 0. Стоимость GigaChat — по фактическим токенам в ответах и тарифу GigaChat 2 Lite 65 ₽ за 1 млн.
- — Локальная модель Qwen 2.5 7B работает на GPU TokenOS: цены за токен нет, поэтому показано изменение входных токенов. Это не то же самое, что GigaChat или OpenAI по качеству.
- — На уникальных запросах экономии нет (контроль: 0%). Задержка TokenOS на некэшированном запросе — около 5 мс. Ответ из кэша приходит за ~8 мс.
- — GigaChat сам кэширует начало промпта. В прогоне удаление повторов уменьшило входной текст на 37%, но увеличило оплачиваемые токены на 33%, поэтому для GigaChat TokenOS контекст не меняет — работает только точный кэш.
- — Качество — доля ответов с правильным ключевым фактом (цена, срок, количество). Выборка маленькая; проверяйте на своих данных.
Как работает
Три шага, без переписывания приложения
- 01
Подключаете существующий API
Добавляете в кабинете свой ключ GigaChat или OpenAI-совместимого провайдера и получаете ключ TokenOS. В коде меняете base_url и api_key.
- 02
TokenOS оптимизирует совместимые запросы
Повторы отдаются из кэша, дословные дубли в разрешённых частях контекста заменяются ссылкой. Маршрутизация — только если вы её включили.
- 03
Видите расходы и экономию
Стоимость каждого запроса, cache hit rate, измеренная и оценочная экономия, лимит бюджета на месяц.
SAFE · По умолчанию
Запрос не меняется. Только точный кэш одинаковых запросов с temperature=0.
BALANCED · Без потерь
Дословные повторы от 300 символов — только в результатах инструментов или в разрешённых вами ролях.
AGGRESSIVE · С риском
Плюс сокращение длинных результатов инструментов и окно истории. Только по вашему выбору.
Для кого
Тем, у кого нейросети уже в работе
Разработчики
Один base_url вместо самописного кэша и учёта токенов.
ИИ-стартапы
Видно себестоимость запроса и где теряются деньги.
Компании
Лимиты бюджета, изоляция данных, серверы в России.
ИИ-агенты
Повторные результаты инструментов, защита от зацикливания.
Обычные пользователи
TokenOS Chat — в планах. Сейчас — через приложения с поддержкой своего API.
Модели и провайдеры
Честные статусы интеграций
«Проверено» — только то, что прошло реальные запросы в нашем тестовом прогоне.
GigaChat (Сбер)
Ваш ключ авторизации; OAuth и сертификат Минцифры
GigaChat 2 Lite, Pro, Max
ПровереноЛокальные модели TokenOS
Бесплатный тестовый лимит, GPU TokenOS
Qwen 2.5 7B, Qwen 2.5 1.5B
ПровереноOpenAI-совместимые API
Подключение по протоколу; не проверено с реальным ключом
OpenAI, DeepSeek, OpenRouter, RouterAI, ProxyAPI…
СовместимоOllama / vLLM у вас
Только публичный HTTPS-адрес
Любые модели с OpenAI API
СовместимоAnthropic (нативный API)
Messages API ещё не реализован
Claude
В планахGoogle Gemini, YandexGPT
Нужны отдельные адаптеры
—
В планахТарифы
Ранний доступ — без оплаты
Тарифы — ориентир на после запуска. Сейчас оплата не подключена и ничего не списывается. Запросы к провайдеру вы оплачиваете ему напрямую.
Оплата не подключена — деньги не списываются
Free
0 ₽
- — 300 запросов в день к локальным моделям
- — Свои ключи провайдеров
- — Статистика экономии
Developer
1 990 ₽/мес
планируемая цена · сейчас бесплатно
- — Больше лимиты
- — Все режимы оптимизации
- — Лимиты бюджета
Business
9 900 ₽/мес
планируемая цена · сейчас бесплатно
- — Команда и несколько проектов
- — Аудит нагрузки
- — Приоритетная поддержка
Enterprise
по запросу
- — Развёртывание в вашем контуре
- — Индивидуальные адаптеры
- — Договор и SLA
Вопросы
Частые вопросы
Нужно ли менять провайдера?
Нет. TokenOS работает поверх API, которым вы уже пользуетесь: вы подключаете свой ключ провайдера (GigaChat или любой OpenAI-совместимый, включая агрегаторы), а в приложении меняете только base_url и API-ключ на ключ TokenOS.
Какие модели поддерживаются?
Проверены реальными запросами: GigaChat 2 Lite / Pro / Max (через ваш ключ) и локальные модели Qwen 2.5 на сервере TokenOS. Любой OpenAI-совместимый endpoint (OpenAI, DeepSeek, OpenRouter, RouterAI, ProxyAPI) подключается по протоколу, но помечен «Совместимо» до проверки с реальным ключом. Нативные API Anthropic и Gemini — в планах.
Влияет ли оптимизация на качество?
В режиме SAFE (по умолчанию) запрос уходит провайдеру без изменений — работает только точный кэш одинаковых детерминированных запросов. BALANCED заменяет только дословные повторы и только в разрешённых частях контекста; для GigaChat контекст не меняется вовсе — у него свой кэш начала промпта, и в нашем прогоне сокращение текста сделало запросы дороже. Если запрошен JSON и после оптимизации ответ невалиден, TokenOS автоматически повторяет исходный запрос и честно учитывает стоимость этой попытки. Мы не утверждаем, что качество не меняется никогда — проверяйте на своих данных.
Где хранятся API-ключи?
Ключи провайдеров хранятся в базе TokenOS в зашифрованном виде (Fernet, AES-128 + HMAC), в интерфейсе виден только хвост. Ключи TokenOS хранятся как хэш SHA-256 и показываются один раз при создании. Серверы — в России. Тексты запросов не сохраняются в истории; ответы, подходящие для кэша, хранятся в Redis до 7 дней только для вашего аккаунта, кэш можно отключить.
Как считается экономия?
Три отдельные цифры. Измеренная: ответ выдан из кэша, а стоимость исходного вызова была записана — провайдер не вызывался. Оценочная: запрос реально выполнен, но «стоимость без TokenOS» рассчитана (по доле удалённого текста или по цене запрошенной модели). Потенциальная: что можно было бы сэкономить при включённой маршрутизации. Если нет цены или токенов — показываем «Недостаточно данных».
Можно ли подключить Claude Code или Codex?
Пока нет подтверждённой интеграции. Claude Code использует Anthropic Messages API, которого в TokenOS ещё нет. Codex CLI умеет работать с OpenAI-совместимыми провайдерами, но с TokenOS мы это ещё не проверили — поэтому не обещаем.
Поддерживаются ли российские провайдеры?
Да: GigaChat протестирован (OAuth, корневой сертификат Минцифры). Российские агрегаторы с OpenAI-совместимым API подключаются как «Совместимо». YandexGPT — в планах.
Сколько стоит?
Сейчас ранний доступ: тарифы ниже — ориентир, оплата не подключена и деньги не списываются. Стоимость запросов к провайдеру вы оплачиваете провайдеру напрямую по своему ключу.
Бесплатный аудит
Узнайте, сколько можно сэкономить на ваших ИИ-запросах
Расскажите о нагрузке — разберём, где теряются деньги, и предложим конфигурацию TokenOS. Без обязательств.