Portkey AI

Portkey AI решает другую задачу, чем большинство строк каталога: это шлюз с открытым кодом для управления трафиком языковых моделей — наблюдаемость, ограничители ответов и хранилище промптов поверх единого API к 1600+ моделям. Проект набрал 10,2 тыс. звёзд на GitHub, им пользуются 3000+ команд, через шлюз проходит свыше 25 млн запросов в день.

Работает со стандартными OpenAI SDK, так что переписывать интеграции не нужно. Распределённая сеть серверов держит задержку самого шлюза в пределах 20–40 мс. Для корпоративных требований заявлены сертификации ISO 27001 и SOC 2.

Начать можно бесплатно и без дедлайна: план Developer включает 10 тыс. записываемых логов в месяц, а открытый код позволяет развернуть шлюз на своём сервере вовсе без оплаты. Платные планы Production и Enterprise расширяют лимиты логов. Валюта расчётов — доллар; способы оплаты на собранных страницах сервиса не заявлены.

Кому не подойдёт: если нужен просто дешёвый доступ к токенам GPT или Claude с оплатой в рублях, Portkey избыточен — это инструмент управления трафиком, а не реселлер токенов. За токенами смотрите API-прокси в каталоге и их наценки в таблицах цен. Поддержка — Discord и почта.