护栏（Guardrails）

围绕 AI 系统的安全控制：过滤有害内容、限制工具权限并强制执行策略，约束其言行边界。

对操作真实系统的 Agent 至关重要：限制循环次数、不可逆操作需审批、记录每次工具调用。Bedrock 等托管平台已内置护栏能力。

相关资源

AWS 托管服务，用一个 API 接入多家厂商的基础模型，内置 Agent、护栏与知识库。

LangChain 团队推出的底层编排框架，用于构建有状态、多步骤的 Agent 工作流，控制粒度精细。

Dify LLM 应用开发平台

开源的 LLM 应用开发平台，提供可视化编排、RAG 引擎和 Agent 能力，支持快速构建 AI 应用。