跳转到主要内容
在长程任务中,如果每一步都调用旗舰模型,会增加耗时与 token 消耗;如果全程只用轻量模型执行工具调用,又可能在排查复杂问题或权衡方案时卡住。此时可以在客户端将旗舰模型封装为 advisor 工具(作为顾问),供负责日常调用的执行模型在遇到瓶颈时按需提问。

实现客户端顾问工具

本示例基于 工具调用流程 实现,以 kimi-k2.6 作为执行模型、kimi-k3.1-pro 作为顾问模型。运行前请在环境变量 MOONSHOT_API_KEY 中配置 API Key:
代码中各组成部分的作用如下:

在工具调用循环中接入顾问

将 ADVISOR_TOOL 与应用原有的工具列表(business_tools)一起传给执行模型,并在循环中按工具名称分发调用:

常见问题

可以在客户端维护计数器限制单次任务的调用上限(例如每次任务最多调用 1~2 次 consult_advisor()),避免执行模型在每一步都发起高成本的顾问请求。当达到调用上限或顾问请求异常时,不要抛出异常中断主循环,而是直接向 messages 追加一条普通 tool 消息(例如 "已达顾问调用上限,请根据已有工具结果继续完成任务"),让执行模型基于现有信息继续推进。
执行模型返回的 reasoning_content 用于维持其自身跨步工具调用的推理连贯性,需要原样保留在执行模型自己的 messages 中(详见 思考模型 )。而向顾问模型发起独立请求时,顾问只需要客观的对话历史与已执行的工具结果。过滤掉 reasoning_content 既能减少顾问请求的输入 token,也能避免执行模型尚未验证的中间推理想法干扰顾问判断。