功能指南

深度思考

文档最后更新于 2026年10月16日 02:29

各协议用自己的原生参数控制推理:Anthropic 的 thinking.budget_tokens 与 Responses API 的 reasoning.effort,推理消耗单独记录在 usage 里。

深度思考按各协议的原生参数透传。是否返回思考内容取决于模型:实测 claude-opus-4-8 返回 thinking 块,GPT 系列在 Responses API 中通过 reasoning.effort 控制力度。

控制推理 Token

推理 Token 上限

Anthropic 格式在请求体加 thinking,用 budget_tokens 限制思考用量,max_tokens 需大于 budget_tokens:

json
{
  "model": "claude-opus-4-8",
  "max_tokens": 3000,
  "thinking": { "type": "enabled", "budget_tokens": 2000 },
  "messages": [{ "role": "user", "content": "用三步证明根号 2 是无理数" }]
}

推理力度

OpenAI Responses API 用 reasoning.effort 指定力度(如 low):

json
{
  "model": "gpt-5.6-sol",
  "input": "1+1=?",
  "reasoning": { "effort": "low" }
}

推理消耗的 token 记录在 usage.output_tokens_details.reasoning_tokens 中。

各模型推理强度

所有协议都可以用统一字段控制推理:Chat Completions 用 reasoning_effort,Responses 用 reasoning.effort,Messages 用 thinking,Gemini 原生用 thinkingConfig.thinkingBudget。平台按模型把它转成上游的原生写法(例如通义千问转成 enable_thinking + thinking_budget),你只写一份代码即可;各家原生字段也照收。下表「推理强度」列是每个模型的可调形态:

模型推理强度说明
gpt-6.1-sol、gpt-6-astra、gpt-6-sol、gpt-6-luna、gpt-5.6-sol、gpt-5.6-terra、gpt-5.6-luna、gpt-5.5档位:none / low / medium / high—
claude-opus-5-5、claude-sonnet-5-5、claude-fable-5-1、claude-fable-5、claude-opus-5、claude-sonnet-5档位:none / low / medium / highMessages 下 low / medium / high 对应 budget_tokens 1024 / 8192 / 16384
gemini-3.8-flash、grok-4.7、grok-4.6、grok-4.5档位:none / low / medium / high—
gemini-4-argon档位:none / low / medium / high不支持 minimal
DeepSeek 全部 6 款档位:none / low / medium / highnone = 关闭思考
豆包 7 款(doubao-seed-*)、glm-5.2档位:none / low / medium / high—
glm-5.3、glm-5.3-flash、glm-5.3-flash-free、kimi-k3档位:low / medium / high(始终思考,不可关闭)low / medium / high 分别对应上游的 low / high / max;传 none 会被忽略(按始终思考处理)
通义千问 8 款(qwen3.8-max、qwen3.8-flash、qwen3.7-max、qwen3.7-plus、qwen3.6-plus、qwen3.6-flash、qwen3.6-max-preview、qwen3.5-plus)预算:none / low / medium / high,或直接传 thinking_budget档位对应思考预算 1024 / 8192 / 16384 token;none = 关闭
glm-5.1、glm-5、glm-5-turbo、glm-5v-turbo、minimax-m3开关:none = 关,其余任一档 = 开不区分强度。平台转成上游原生值:GLM 为 enabled / disabled,minimax-m3 为 adaptive / disabled;直接传原生值也照收
kimi-k2.6开关:none = 关,其余任一档 = 开(默认开)不传也按开启;上游原生值为 enabled / disabled
kimi-k2.7、minimax-m2.7始终思考(不可调)不需要传推理参数,传了也不生效
其余文本模型(gpt-5.5-pro、gpt-5.4 系、gpt-5.3-codex、Claude 4.x 系、其余 Gemini、grok-4.3)不支持传了推理参数会被忽略

保留推理块

Anthropic 格式开启思考后,响应 content 里先是 type 为 thinking 的块,再是 text 块;usage.output_tokens 包含思考部分。多轮对话回传历史消息时,将 thinking 块原样带回即可。

豆包(OpenAI 兼容格式)的思考参数

豆包(doubao-seed)系列经 OpenAI 兼容接口调用时,thinking 参数只接受 enabled 与 disabled 两档,不接受 `auto`(上游会返回 400 Unsupported thinking type)。要思考传 {"type": "enabled"},不要思考传 {"type": "disabled"} 或不传该参数。

共 30 篇文档。文中出现的模型名与价格以模型广场的实时数据为准。