Плагин Response Healing автоматически проверяет и исправляет неверные ответы JSON от моделей искусственного интеллекта. Когда модели возвращают несовершенное форматирование — отсутствующие скобки, конечные запятые, обертки уценки или смешанный текст — этот плагин пытается исправить ответ, чтобы вы получили действительный, анализируемый JSON.

Обзор

Response Healing обеспечивает:
  • Автоматическое восстановление JSON: исправляет пропущенные скобки, запятые, кавычки и другие синтаксические ошибки.
  • Извлечение уценки: извлекает JSON из блоков кода уценки.

Как это работает

Плагин активируется для непотоковых запросов при использовании response_format с любым type: "json_schema" или Сообщения type: "json_object"и включите плагин восстановления ответов в свой plugins массив. См. Полный пример ниже для полной реализации.

Что исправляется

Плагин Response Healing решает распространенные проблемы в ответах LLM:

Синтаксические ошибки JSON

Ввод: отсутствует закрывающая скобка.
Вывод: Исправлено

Блоки кода Markdown

Ввод: Завернуто в уценку
Вывод: извлечено

Смешанный текст и JSON

Ввод: Текст перед JSON
Вывод: извлечено

Завершающие запятые

Ввод: Неверная завершающая запятая.
Вывод: Исправлено

Ключи без кавычек

Ввод: в стиле JavaScript
Вывод: Исправлено

Полный пример

Ограничения

Только запросы, не связанные с потоковой передачейResponse Healing применяется только к непотоковым запросам.
Не будет восстанавливать весь JSONНекоторые некорректные ответы JSON могут по-прежнему оставаться неисправимыми. В частности, если ответ усекается на max_tokens, плагин не сможет его исправить.