Создать пресет из тела запроса сообщения
Создает пресет (или новую версию существующего) из тела запроса на вывод. Сохраняются только поля, которые перекрываются с предустановленной конфигурацией; другие поля (например, «сообщения», «поток», «подсказка») игнорируются.
Authorizations
API-ключ в качестве токена носителя в заголовке авторизации
Path Parameters
URL-безопасный фрагмент, идентифицирующий предустановку. Создается, если он не существует.
1"my-preset"
Body
Схема запроса для эндпоинта API Anthropic Messages
Включите автоматическое кэширование подсказок. Если установлено на верхнем уровне, система автоматически применяет точки останова кэша к последнему кэшируемому блоку в запросе. Если он установлен для отдельного блока контента, он отмечает явную точку останова в кэше; Токены уровня блоков также работают с моделями OpenAI, которые поддерживают явное кэширование подсказок — LLMSTORE преобразует их в собственный формат провайдера.
Резервные модели, которые можно попробовать в случае сбоя или отказа основной модели, по порядку. Управляется многомодельной маршрутизацией LLMSTORE, а не резервными средствами Anthropic на стороне сервера; не могут быть объединены с моделями. Каждая запись принимает только «модель». Максимум 3 записи.
Конфигурация для управления поведением вывода. Поддерживает параметр усилий и формат структурированного вывода.
Плагины, которые вы хотите включить для этого запроса, включая их настройки.
- Option 1
- Option 2
- Option 3
- Option 4
- Option 5
- Option 6
- Option 7
- Option 8
- Option 9
- Option 10
Если доступно несколько поставщиков моделей, при необходимости укажите предпочтения маршрутизации.
УСТАРЕЛО Вместо этого используйте parts.sort.partition. Обратно совместимый псевдоним дляпровайдеров.sort.partition. Принимает устаревшие значения: «резервный» (сопоставляется с «моделью»), «сортировка» (сопоставляется с «нет»).
fallback, sort, null "fallback"
Уникальный идентификатор для группировки связанных запросов (например, разговора или рабочего процесса агента). Если он предоставлен, LLMSTORE использует его в качестве липкого ключа маршрутизации, направляя все запросы в сеансе к одному и тому же поставщику, чтобы максимизировать попадание в кэш запросов. Также используется для группировки наблюдаемости. Если оно указано как в теле запроса, так и в заголовке x-session-id, значение body имеет приоритет. Максимум 256 символов.
256Управляет скоростью генерации выходных данных. Если установлено значение «быстро», используется более высокоскоростная конфигурация вывода по более высокой цене. По умолчанию используется значение «стандарт», если оно опущено.
fast, standard, null "fast"
Условия остановки цикла агента серверного инструмента. Любое срабатывание условия останавливает цикл (логика ИЛИ). Если установлено, это переопределяет max_tool_calls. Когда условие срабатывает, пока модель все еще генерирует вызовы инструментов, ожидающие вызовы инструментов выполняются, и выполняется последний поворот с отключенными вызовами инструментов, поэтому ответ заканчивается ответом на естественном языке вместо незавершенного вызова инструмента.
1Единственное условие, при выполнении которого цикл агента серверного инструмента останавливается.
- Option 1
- Option 2
- Option 3
- Option 4
- Option 5
- Option 1
- Option 2
- Option 3
- Option 1
- Option 2
- Option 3
- Option 4
- Option 1
- Option 2
- Option 3
- Option 4
- Option 5
- Option 6
- Option 7
- Option 8
- Option 9
- Option 10
- Option 11
- Option 12
- Option 13
- Option 14
- Option 15
- Option 16
Метаданные для наблюдения и отслеживания. Известные ключи (trace_id, Trace_name, Span_Name, Generation_Name, Parent_span_id) имеют специальную обработку. Дополнительные ключи передаются в виде пользовательских метаданных в настроенные пункты назначения широковещательной передачи.
Уникальный идентификатор, представляющий вашего конечного пользователя, который помогает различать разных пользователей вашего приложения. Это позволяет вашему приложению идентифицировать конкретных пользователей в случае сообщений о злоупотреблениях, предотвращая влияние действий отдельных пользователей на все ваше приложение. Максимум 256 символов.
256Response
Предустановка успешно создана или обновлена.
Ответ, содержащий созданный пресет и его назначенную версию.
Пресет с назначенной на данный момент версией.