如何构建你自己的 Agent 运行时
文章剖析了当前AI Agent运行时框架的单体式缺陷，指出如LangChain等框架将运行时组件捆绑为整体，导致定制和扩展困难。iii引擎提出一种模块化架构，将运行时拆分为多个独立worker，包括turn-orchestrator、approval-gate、session、llm-budget等，每个worker通过共享引擎和WebSocket协议连接，使用触发器机制（如iii.trigger()）实现通信。这种设计允许开发者替换特定worker而无需重写整个系统。文章详细列出Agent运行时必须完成的15项核心工作，涵盖持久化turn请求、凭证管理、模型目录查询、状态机驱动、策略检查、审批处理、预算追踪、上下文压缩等，并展示了iii引擎如何通过worker映射这些职责。执行流程从客户端请求开始，经过引擎触发、turn编排、模型调用、工具执行到结果返回，强调了自动化的OpenTelemetry集成用于调试。此外，文章通过五个示例说明构建自定义运行时的方法，如替换模型目录为实时API、添加新AI provider、从私有库提供技能、覆盖系统提示词以及替换审批UI，突出了模块化和可组合性优势。