跳转到主要内容
思考模型在给出最终回答前,会先用推理 token 进行“思考”——分解问题、规划步骤、评估多种方案,推理过程通过响应中的 reasoning_content 字段返回。先思考再回答,让模型在复杂推理、代码生成、多步工具调用等任务上表现更好,代价是更高的延迟和更多的 token 消耗。

按场景选择思考模型

本页使用以下思考模型:
  • kimi-k3.1-pro:旗舰思考模型,始终进行推理且保留式思考(Preserved Thinking)始终开启,并可能返回 reasoning_content;请求通过顶层 reasoning_effort 配置推理强度,支持 "low" / "high" / "max"(默认 "max")。
  • kimi-k3:支持 1M token 上下文,思考行为与 K3.1 Pro 一致。
如果您使用 kimi api 进行基准测试,请参考这篇 基准测试最佳实践

基本调用

调用 kimi-k3.1-pro

kimi-k3.1-pro 始终进行推理且保留式思考始终开启,无需(也不应)传入 thinking 参数;只需指定 model,并按需通过顶层 reasoning_effort 调节推理强度:
多轮对话和工具调用必须把 API 返回的完整 assistant message 原样回传到 messages(包括 reasoning_content),详见保留式思考。更多 K3.1 Pro 用法见 Kimi K3.1 Pro 快速开始。

控制思考行为

K3.1 Pro:用 reasoning_effort 调节推理强度

kimi-k3.1-pro 始终进行推理,不支持 thinking 参数。通过请求顶层 reasoning_effort 调节推理强度,支持 "low" / "high" / "max" 三档(默认 "max"),用法与示例见推理强度。

从响应中读取 reasoning_content

使用思考模型并启用思考能力时,API 响应通过 reasoning_content 字段承载模型的思考内容。读取该字段时注意:
  • openai SDK 中的 ChoiceDelta 和 ChatCompletionMessage 类型并不提供 reasoning_content 字段,因此无法直接通过 .reasoning_content 的方式访问该字段,仅支持通过 hasattr(obj, "reasoning_content") 来判断是否存在字段,如果存在,则使用 getattr(obj, "reasoning_content") 获取字段值
  • 如果你使用其他框架或自行通过 HTTP 接口对接,可以直接获取与 content 字段同级的 reasoning_content 字段
  • 在流式输出(stream=True)的场合,reasoning_content 字段一定会先于 content 字段出现,你可以在业务代码中通过判断是否出现 content 字段来识别思考内容(或称推理过程)是否结束
  • reasoning_content 中包含的 Tokens 也受 max_tokens 参数控制,reasoning_content 的 Tokens 数加上 content 的 Tokens 数应小于等于 max_tokens

配置多步工具调用

思考模型支持通过深度推理进行多步工具调用,进而完成复杂任务。为确保最佳效果,使用思考模型时请务必按以下方式配置调用:
  • 单轮任务和多轮对话中,均应原样回传完整 assistant message,包括 reasoning_content。kimi-k3.1-pro 和 kimi-k3 始终启用 Preserved Thinking。
  • 设置 max_tokens>=16000 以避免无法输出完整的 reasoning_content 和 content。
  • 无需设置 temperature。 kimi-k3.1-pro 和 kimi-k3 的 temperature 固定为 1.0,请勿显式传入(详见模型参数参考)。
  • 使用流式输出(stream=True):思考模型的输出内容包含了 reasoning_content,相比普通模型其输出内容更多,启用流式输出能获得更好的用户体验,同时一定程度避免网络超时问题。

完整示例:生成今日新闻报告

下面的示例展示了一个”今日新闻报告生成”的场景,模型会依次调用 date(获取日期)和 web_search(搜索今日新闻)等官方工具,并在这个过程中展现深度思考过程:
整个过程展现了思考模型在启用思考能力时,如何通过深度思考规划和执行复杂的多步骤任务。每个步骤都有完整的推理过程(reasoning_content),并且思考内容会保留在上下文中,以确保工具调用的准确性。

在多轮对话中保留思考(Preserved Thinking)

保留式思考指在多轮对话中,把历史轮次的 reasoning_content 一并透传给模型,让模型在本轮推理时能延续之前的思考脉络。 kimi-k3.1-pro 和 kimi-k3 始终启用 Preserved Thinking。多轮对话和工具调用中,请把 API 返回的完整 assistant message 原样追加到 messages,包括 reasoning_content,不要只保留最终回答文本。
reasoning_content 会计入 token 消耗。历史思考内容会持续占用上下文长度并计费,请合理控制上下文。

常见问题

Q1: 为什么需要保留 reasoning_content?

A: 保留 reasoning_content 可以确保多步推理的连贯性,特别是在工具调用过程中。对 K3.1 Pro 和 K3,多轮对话和工具调用都必须把 API 返回的完整 assistant message 原样回传到 messages。

Q2: reasoning_content 会消耗额外的 token 吗?

A: 是的,reasoning_content 会计入输入/输出 token 消耗。具体计费方式请参考产品定价。