reasoning_content 字段返回。先思考再回答,让模型在复杂推理、代码生成、多步工具调用等任务上表现更好,代价是更高的延迟和更多的 token 消耗。
按场景选择思考模型
本页使用以下思考模型:kimi-k3.1-pro:旗舰思考模型,始终进行推理且保留式思考(Preserved Thinking)始终开启,并可能返回reasoning_content;请求通过顶层reasoning_effort配置推理强度,支持"low"/"high"/"max"(默认"max")。kimi-k3:支持 1M token 上下文,思考行为与 K3.1 Pro 一致。
如果您使用 kimi api 进行基准测试,请参考这篇 基准测试最佳实践
基本调用
调用 kimi-k3.1-pro
kimi-k3.1-pro 始终进行推理且保留式思考始终开启,无需(也不应)传入 thinking 参数;只需指定 model,并按需通过顶层 reasoning_effort 调节推理强度:
- curl
- python
messages(包括 reasoning_content),详见保留式思考。更多 K3.1 Pro 用法见 Kimi K3.1 Pro 快速开始。
控制思考行为
K3.1 Pro:用 reasoning_effort 调节推理强度
kimi-k3.1-pro 始终进行推理,不支持 thinking 参数。通过请求顶层 reasoning_effort 调节推理强度,支持 "low" / "high" / "max" 三档(默认 "max"),用法与示例见推理强度。
从响应中读取 reasoning_content
使用思考模型并启用思考能力时,API 响应通过reasoning_content 字段承载模型的思考内容。读取该字段时注意:
- openai SDK 中的
ChoiceDelta和ChatCompletionMessage类型并不提供reasoning_content字段,因此无法直接通过.reasoning_content的方式访问该字段,仅支持通过hasattr(obj, "reasoning_content")来判断是否存在字段,如果存在,则使用getattr(obj, "reasoning_content")获取字段值 - 如果你使用其他框架或自行通过 HTTP 接口对接,可以直接获取与
content字段同级的reasoning_content字段 - 在流式输出(
stream=True)的场合,reasoning_content字段一定会先于content字段出现,你可以在业务代码中通过判断是否出现content字段来识别思考内容(或称推理过程)是否结束 reasoning_content中包含的 Tokens 也受max_tokens参数控制,reasoning_content的 Tokens 数加上content的 Tokens 数应小于等于max_tokens
配置多步工具调用
思考模型支持通过深度推理进行多步工具调用,进而完成复杂任务。为确保最佳效果,使用思考模型时请务必按以下方式配置调用:- 单轮任务和多轮对话中,均应原样回传完整 assistant message,包括
reasoning_content。kimi-k3.1-pro和kimi-k3始终启用 Preserved Thinking。 - 设置
max_tokens>=16000以避免无法输出完整的reasoning_content和content。 - 无需设置
temperature。kimi-k3.1-pro和kimi-k3的temperature固定为1.0,请勿显式传入(详见模型参数参考)。 - 使用流式输出(
stream=True):思考模型的输出内容包含了reasoning_content,相比普通模型其输出内容更多,启用流式输出能获得更好的用户体验,同时一定程度避免网络超时问题。
完整示例:生成今日新闻报告
下面的示例展示了一个”今日新闻报告生成”的场景,模型会依次调用date(获取日期)和 web_search(搜索今日新闻)等官方工具,并在这个过程中展现深度思考过程:
reasoning_content),并且思考内容会保留在上下文中,以确保工具调用的准确性。
在多轮对话中保留思考(Preserved Thinking)
保留式思考指在多轮对话中,把历史轮次的reasoning_content 一并透传给模型,让模型在本轮推理时能延续之前的思考脉络。
kimi-k3.1-pro 和 kimi-k3 始终启用 Preserved Thinking。多轮对话和工具调用中,请把 API 返回的完整 assistant message 原样追加到 messages,包括 reasoning_content,不要只保留最终回答文本。
常见问题
Q1: 为什么需要保留 reasoning_content?
A: 保留 reasoning_content 可以确保多步推理的连贯性,特别是在工具调用过程中。对 K3.1 Pro 和 K3,多轮对话和工具调用都必须把 API 返回的完整 assistant message 原样回传到 messages。
Q2: reasoning_content 会消耗额外的 token 吗?
A: 是的,reasoning_content 会计入输入/输出 token 消耗。具体计费方式请参考产品定价。