Replicate

Replicate — платформа-хаб: тысячи ML-моделей запускаются через единый облачный API, от языковых до нишевых генеративных. Биллинг непривычный и двухрежимный: часть моделей тарифицируется за входные и выходные токены, часть — за секунды работы железа, от дешёвых CPU-инстансов до связок из восьми A100.

Платить можно по предоплате (prepaid credit) или ежемесячной постоплатой. Избранные модели доступны бесплатно на пробу — затем сервис попросит настроить биллинг. Стриминг вывода поддерживается.

Два честных нюанса. Первый: способы оплаты на сайте не перечислены — какие карты принимаются, по открытым страницам не видно. Второй: приватные модели оплачиваются за всё время работы экземпляра, включая простой, — забытый инстанс продолжит списывать деньги.

Расчёты в долларах. Replicate силён там, где нужны редкие модели из хаба, которых нет у обычных прокси, и оплата за секунды GPU честнее потокенной.

Кому не подойдёт: тем, кому нужен только чистый LLM-доступ за токены, — сравните расценки в таблицах цен каталога, у потоковых API-прокси схема прозрачнее.