Replicate

Replicate — платформа-хаб: тысячи моделей машинного обучения запускаются через единый облачный API, от языковых до нишевых генеративных. Биллинг непривычный и двухрежимный: часть моделей тарифицируется за входные и выходные токены, часть — за секунды работы железа, от дешёвых процессорных машин до связок из восьми A100.

Платить можно по предоплате или ежемесячной постоплатой. Избранные модели доступны бесплатно на пробу — затем сервис попросит настроить биллинг. Стриминг вывода поддерживается.

Два нюанса, которые видно не сразу. Первый: способы оплаты на сайте не перечислены — какие карты принимаются, по открытым страницам не видно. Второй: приватные модели оплачиваются за всё время работы экземпляра, включая простой, — забытый экземпляр продолжит списывать деньги.

Расчёты в долларах. Replicate силён там, где нужны редкие модели из хаба, которых нет у обычных прокси, и оплата за секунды GPU честнее потокенной.

Кому не подойдёт: тем, кому нужен только чистый LLM-доступ за токены, — сравните расценки в таблицах цен каталога, у потоковых API-прокси схема прозрачнее.