ガードレール

AI システムの発言や行動を制約する安全制御。有害コンテンツのフィルタリング、ツール権限の制限、ポリシーの強制など。

実システムに作用するエージェントには必須。ループ回数の上限、不可逆操作の承認、全ツール呼び出しのログ。Bedrock などは標準機能として提供。