← 返回首页
🧠

JSON模式

📂 llm ⏱ 1 min 108 words
JSON Mode结构化输出API设计

JSON模式概述

JSON模式（JSON Mode）是LLM API提供的一种确保输出为合法JSON的机制。通过API参数设置，模型会保证输出可以被JSON解析器正确解析，大大简化了应用开发。

工作机制

API参数

在API请求中设置输出格式：

{
  "model": "gpt-4",
  "messages": [...],
  "response_format": { "type": "json_object" }
}

生成保证

开启JSON模式后：

Schema约束

更高级的JSON Schema模式：

使用场景

API集成

LLM输出需要被下游系统处理：

数据提取

从非结构化文本中提取结构化数据：

配置生成

生成系统配置或参数：

实现细节

系统提示配合

在系统提示中定义JSON结构：

你是一个数据提取助手。请以JSON格式返回提取结果，包含：
- entities: 实体列表
- relationships: 关系列表
- summary: 摘要

错误处理

JSON模式不保证内容正确性：

嵌套结构

支持复杂的嵌套JSON：

与其他方式的对比

方式 格式保证 Schema保证 灵活性
JSON Mode 合法JSON 无 高
JSON Schema 合法+结构 有 中
函数调用 自动格式化 有 中
约束解码 100%正确 有 低

模型支持

最佳实践

  1. 明确定义期望的JSON结构
  2. 提供JSON示例帮助模型理解
  3. 实现Schema验证和错误重试
  4. 处理模型可能生成的意外结构
  5. 使用流式JSON解析提升体验

JSON模式是LLM结构化输出的基础能力，为LLM与程序系统的集成提供了可靠的格式保证。