Нулевое сохранение данных (ZDR) означает, что провайдер не будет хранить ваши данные в течение какого-либо периода времени. LLMSTORE имеет настройки конфиденциальности , которые, если они включены, позволяют маршрутизироваться только к эндпоинтам, имеющим политику нулевого хранения данных. Вы можете применять ZDR глобально, для каждой группы моделей, для каждого ограждения или для каждого запроса. Поставщики, которые не сохраняют ваши данные, также не могут проводить обучение на ваших данных. Однако у нас есть некоторые эндпоинты и поставщики, которые не обрабатывают ваши данные, но сохраняют их (например, для сканирования на предмет злоупотреблений или по юридическим причинам). LLMSTORE дает вам возможность контролировать обе эти политики.
Применение ZDR применяется только к маршрутизации поставщика для запросов вывода. Это не относится к плагинам и инструменты, которые вы хотите включить, например веб-поиск. Они могут управляться сторонними службами со своими собственными политиками хранения данных. Просмотрите политику данных всех плагинов или инструментов, которые вы включаете, если у вас есть строгие требования к хранению данных.

​
Как LLMSTORE управляет политикой данных

LLMSTORE работает с поставщиками, чтобы понять каждую из их политик данных, и структурирует данные политики таким образом, чтобы вы могли контролировать, к каким поставщикам вы хотите направить данные. Обратите внимание, что общая политика провайдера может отличаться от конкретной политики для данной эндпоинта. LLMSTORE отслеживает конкретную политику для каждой эндпоинта, работает с поставщиками, чтобы поддерживать эти политики в актуальном состоянии, а в некоторых случаях заключает специальные соглашения с поставщиками, чтобы гарантировать политику хранения данных или обучения, которая в большей степени ориентирована на конфиденциальность, чем их политики по умолчанию.
Если LLMSTORE не может установить или установить четкую политику для поставщика или эндпоинта, мы занимаем консервативную позицию и предполагаем, что эндпоинт одновременно сохраняет и обучает данные и помечает их как таковые.
Полный список провайдеров и их политику в отношении данных можно найти здесь. Обратите внимание, что в этом списке показана политика по умолчанию для каждого поставщика; Если существует определенная эндпоинт, политика которой отличается от политики поставщика по умолчанию, она может быть недоступна, если включен параметр «Только ZDR».

​
Применение ZDR для каждой модели в группе

Вместо единого глобального переключателя LLMSTORE позволяет применять ZDR независимо для разных групп моделей. Это доступно в настройках конфиденциальности аккаунта. Пять областей действия группы моделей:
Когда использовать ZDR для каждой группы моделейZDR для каждой группы моделей полезен, когда вам нужно применять ZDR только для определенных групп моделей. Например, вы можете захотеть применить ZDR для неграничных моделей, сохраняя при этом доступность собственных эндпоинтов Anthropic, OpenAI и Google без ограничения ZDR.

​
Настройки на уровне аккаунта

В ваших настройках конфиденциальности, каждая группа моделей имеет свой собственный переключатель. Включение области ограничивает все ваши запросы эндпоинтами ZDR для этой группы моделей.

​
Настройки уровня guardrail

При создании или редактировании guardrail через API можно установить ZDR независимо для каждой группы моделей. Это позволяет применять разные политики ZDR к разным ключам API или членам организации. В API они представлены в виде отдельных полей объекта guardrail:
Наследие Поле enforce_zdr устарело. Если оно предоставлено, его значение копируется во все поля для каждой группы моделей, которые не заданы явно в запросе. Используйте поля для каждой группы моделей непосредственно для новых интеграций.

​
Применение ZDR по каждому запросу

В дополнение к настройкам уровня учетной записи и уровня защиты вы можете обеспечить нулевое сохранение данных для каждого запроса с помощью Параметр zdr в ваших вызовах API. Уровень запроса Параметр zdr работает как «ИЛИ» с настройками ZDR для всей учетной записи и ограждения — если какой-либо из них включен, будет применено принудительное применение ZDR. Это означает, что параметр каждого запроса можно использовать только для обеспечения включения ZDR для конкретного запроса, а не для переопределения или отключения принудительного применения на уровне учетной записи или защиты. Это полезно для клиентов, которые не хотят применять ZDR глобально, но должны обеспечить маршрутизацию определенных запросов только к эндпоинтам ZDR.

​
Использование

Включите Параметр zdr в настройках вашего провайдера:
Когда zdr установлено на trueзапрос будет перенаправляться только на эндпоинты, имеющие политику нулевого хранения данных. Когда zdr это false или не указано, применение ZDR по-прежнему применяется, если оно включено в настройках вашей учетной записи или ограждения.

​
Кэширование

Некоторые эндпоинты/модели обеспечивают неявное кэширование подсказок. При этом данные повторяющихся подсказок сохраняются в кэше в памяти в центре обработки данных поставщика, поэтому повторяющуюся часть подсказки не нужно повторно обрабатывать. Это может привести к значительной экономии средств. LLMSTORE придерживается позиции, согласно которой кэширование подсказок в памяти не считается «сохранением» данных, и поэтому мы разрешаем воздействие на эндпоинты/модели с неявным кэшированием, когда действует политика маршрутизации ZDR.

​
Политика хранения LLMSTORE

LLMSTORE сам имеет политику ZDR; ваши подсказки не сохраняются, если вы специально не разрешите регистрацию подсказок.

​
Эндпоинты нулевого хранения

Следующие эндпоинты имеют политику ZDR. Обратите внимание, что этот список также доступен программно через https://api.llmstore.ru/v1/endpoints/zdr. Он автоматически обновляется при изменении политики использования данных провайдера.: