Агентская полка

TokenRouter

Шлюз для ИИ-API: один вход к разным моделям и провайдерам с учётом расхода токенов.

APIOpenAI
Открыть оригинал ↗

TokenRouter - это платформа и шлюз для управления ИИ-интерфейсами (API), которую можно установить на собственный сервер. Она объединяет различные сторонние нейросети в одну систему. Пользователи делают запросы через ключи API, созданные на платформе, а сама система отвечает за проверку прав, выбор маршрута, распределение аккаунтов, пересылку запросов, подсчет лимитов и оплату.

Проект включает удобный веб-интерфейс как для пользователей, так и для администраторов. Он отлично подходит для команд или разработчиков, которым нужно собрать свои ИИ-аккаунты в одном месте, распределять лимиты между пользователями и управлять доступом к нейросетям.

TokenRouter создан на базе проекта Sub2API.

Мы потратили много времени на оптимизацию веб-интерфейса, скорости работы и логики распределения запросов (планировщика) для этого шлюза. Он полностью заменяет и превосходит sub2api, при этом оставаясь абсолютно бесплатным и открытым проектом

Основные возможности

  • Единая панель управления. Подключение и контроль множества аккаунтов и сторонних ИИ-сервисов в одном месте.

  • Гибкий доступ. Управление ключами API, пользователями, командами и тарифными группами.

  • Умная переадресация. Настройка подмены моделей, маршрутизации запросов и автоматического переключения на резервные серверы при сбоях.

  • Ограничение нагрузки. Контроль количества одновременных запросов, скорости их отправки и доступных лимитов.

  • Финансы и аналитика. Статистика использования, учет баланса, управление подписками и тарификация.

  • Все под контролем. Удобный личный кабинет для пользователей, панель администратора для управления и графики мониторинга системы.

  • Поддерживаемые ИИ-платформы На данный момент TokenRouter работает с Anthropic, OpenAI, Gemini, Antigravity, Grok (xAI) и Qoder.