messages。此时可以在客户端定义 run_code 工具:让模型编写一段 Python 代码,在隔离容器中循环调用工具函数并完成计算,只将最终汇总结果回传给模型。
实现客户端代码执行工具
本示例基于 工具调用流程 实现。运行前请确保本地已安装 Docker,并在环境变量MOONSHOT_API_KEY 中配置 API Key:
在工具调用循环中执行代码
将RUN_CODE_TOOL 传入 tools,当模型返回 run_code 调用时,在容器中执行生成的 Python 代码并将输出结果回传给模型:
常见问题
实际业务里,生成的代码怎么访问我自己的数据或函数?
实际业务里,生成的代码怎么访问我自己的数据或函数?
示例为演示方便,把
ORDERS 和查询函数直接写进 SANDBOX_TOOLS。实际接入时,生成的代码访问业务数据有两种常见做法:- 传入数据快照:启动沙箱前,把当前步骤要筛选或汇总的数据序列化为 JSON,通过标准输入或只读文件传入沙箱。沙箱内的代码只做计算,不访问外部数据,适合数据量小、所需数据能提前确定的步骤。
- 通过受控接口转发查询:沙箱内只放轻量客户端桩函数(stub);桩函数被调用时,经本地套接字或内部只读接口把请求转发给宿主服务,由宿主执行真实查询并返回结果。数据库密码和 API Key 只留在宿主侧,不进入沙箱,适合数据量大或需要边算边查的场景。
执行环境一定要用 Docker 吗?
执行环境一定要用 Docker 吗?
模型生成的代码需要在隔离环境中执行。在宿主进程里直接调用
exec() 执行,代码会以宿主权限运行,可以读写宿主文件、读取 MOONSHOT_API_KEY 等环境变量中的凭据;死循环或内存暴涨还会直接卡死主进程。示例选用无网络的一次性 Docker 容器(--rm --network none),因为 Docker 在本地最容易跑通。生产环境可以换成启动更快的隔离环境,如 V8 isolate、WebAssembly 沙箱、Firecracker microVM 或云端代码沙箱服务。无论换成哪种,都要满足三个条件:生成的代码接触不到宿主凭据、单次执行有超时限制、执行报错时把错误文本作为普通 tool 结果回传给模型。