Расходы на модели оплачиваются API-ключами LLMSTORE. API аутентифицирует запросы по Bearer-токенам. Это позволяет использовать curl или OpenAI SDK напрямую с LLMSTORE.
Ключи API LLMSTORE обладают более широкими возможностями, чем ключи, используемые напрямую в API моделей.Они позволяют задавать кредитные лимиты для приложений и могут использоваться в OAuth-сценариях.

Использование API-ключа

Чтобы использовать API-ключ, сначала создайте его в личном кабинете на llmstore.ru. Задайте имя и при желании — кредитный лимит. При прямом вызове API LLMSTORE установите заголовок Authorization в Bearer-токен с вашим API-ключом. При использовании OpenAI SDK укажите base_url (или baseURL) https://api.llmstore.ru/v1 и ваш API-ключ в api_key / apiKey.
Пример стриминга на Python — в репозитории OpenAI.

Если ваш ключ скомпрометирован

Защищайте свои API-ключи и никогда не коммитьте их в публичные репозитории.
Если вы подозреваете, что ключ раскрыт, немедленно удалите скомпрометированный ключ в личном кабинете на llmstore.ru и создайте новый. Настоятельно рекомендуется использовать переменные окружения и не держать ключи в кодовой базе.