:free позволяет получить доступ к бесплатным версиям моделей на LLMSTORE.
Использование
Добавить:free на любой идентификатор модели:
Ограничения скорости
Бесплатные варианты не имеют стоимости за токен, но каждый запрос по Модель:free учитывается при расчете лимитов ставок для бесплатной модели на уровне аккаунта. Ограничения применяются к вашей учетной записи LLMSTORE в целом — они не для каждой модели, а закрепляют конкретную Модель :free их не поднимает.
Порог учитывает кредиты, приобретенные за все время, поэтому однократное пополнение как минимум на кредитов позволит вам сохранить более высокий дневной лимит даже после того, как ваш текущий баланс снова упадет. См. Ограничения скорости за полное поведение, включая обработку 429.
Подробности
Бесплатные варианты предоставляют бесплатный доступ к моделям, но их доступность может отличаться от платных версий — бесплатная емкость предоставляется вышестоящими поставщиками и может меняться или быть временно недоступной. Если вам нужна гарантированная мощность или более высокая пропускная способность, используйте платный вариант той же модели (нет суффикс:free ), на который не распространяется ограничение на количество запросов бесплатной модели.
Ресурсы по теме
- Ограничения ставок - Полная информация о квотах на бесплатные модели и обработке 429.