가드레일
AI 시스템의 발언과 행동을 제한하는 안전 통제로, 유해 콘텐츠 필터링·도구 권한 제한·정책 집행을 포함합니다.
실제 시스템을 건드리는 에이전트에는 필수입니다. 루프 횟수를 제한하고, 되돌릴 수 없는 작업엔 승인을 요구하고, 모든 도구 호출을 기록하세요. Bedrock 같은 관리형 플랫폼은 가드레일을 기본 기능으로 제공합니다.
관련 리소스
아마존 베드락
Amazon Bedrock는 Anthropic, Meta, Amazon 등 여러 공급자의 파운데이션 모델을 통합 API로 제공하는 AWS 관리형 서비스입니다. 에이전트·가드레일·지식베이스를 더해 AWS 보안·모니터링 체계 안에서 프로덕션 AI 앱을 구축할 수 있으며, 사용한 만큼 지불하는 방식입니다.
랭그래프
LangGraph는 상태 유지·다단계 에이전트 워크플로를 구축하기 위한 LangChain 팀의 로우레벨 오케스트레이션 프레임워크입니다. 영속 상태, human-in-the-loop 체크포인트, 사이클 지원으로 실행 흐름을 정밀 제어할 수 있어 단순 체인 이상의 복잡한 에이전트에 적합합니다.
Dify LLM 앱 개발 플랫폼
Dify는 시각적 워크플로 오케스트레이션, 내장 RAG 엔진, 에이전트 기능을 결합한 오픈소스 LLM 앱 개발 플랫폼입니다. 개발자와 비기술 사용자 모두 여러 모델 제공자를 지원하고 원활한 API 통합으로 AI 앱을 빠르게 구축·테스트·배포할 수 있습니다.