Agent Runtime

Agent runtime 是包住模型的执行环境与控制层,负责 run loop、状态、工具分发、权限、审批、追踪和停止条件。

#tech / ai #type / concept #status / growing

[!info] related notes

Agent Runtime

一句话定义

Agent runtime 是包住模型的执行环境,负责把“模型会想”变成“系统能跑”,包括 run loop、工具分发、状态管理和控制约束。

核心机制 / 工作原理

runtime 往往负责这些事情:

  • 维护 session、上下文和短期状态
  • 接收模型产出的 tool call 或 handoff
  • 调度 shell、文件、浏览器、API 等工具执行
  • 把 stdout、stderr、返回值、页面状态等结果回填给模型
  • 记录 tracing、审计和 replay 信息
  • 执行超时、预算、权限、审批和停止条件

可以把它理解成 agent 的 harness。没有这层,模型就很难形成稳定的执行闭环。

最小例子 / 最小场景

一个 coding agent 调用“运行测试”工具时,runtime 会:

  • 在受控环境里执行命令
  • 捕获退出码和输出
  • 把结果写进 trace
  • 再把这些反馈送回模型,决定下一步是修代码、继续跑还是停下

边界与易混淆点

  • runtime 不等于模型本体。模型负责理解与生成,runtime 负责执行与控制。
  • runtime 不等于单独的 Orchestration。orchestration 更偏流程编排;runtime 范围更大。
  • runtime 也不等于 memory。memory 只是其中一层状态来源,不覆盖权限、追踪、工具执行等问题。
创建于 2026/5/4 更新于 2026/5/27