LLM 에이전트의 도구 호출 — 가드레일·승인·감사 로그

AI

에이전트가드레일보안

이 글은 누구를 위한 것인가

LLM이 이메일·파일·결제처럼 실제 행동을 하게 설계하는 분을 위한 글입니다. 챗봇과 달리, 에이전트는 잘못되면 되돌리기 어려운 결과를 낼 수 있습니다.

최소 권한

에이전트에 주는 API 키는 필요한 액션만 수행할 수 있게 스코프를 쪼갭니다. “편의를 위해 전 권한”은 프로덕션에서 통하지 않습니다.

승인 워크플로

돈·메일·삭제 같은 파괴적 액션은 사람 승인 없이 실행되지 않게 합니다. 승인 UX가 느리다고 빼면, 나중에 사고 대응이 더 느려집니다.

감사

요청 ID·툴 입력·응답·모델 버전을 한 줄로 추적 가능하게 남깁니다.

맺으며

에이전트는 ‘똑똑한 챗봇’이 아니라 권한 있는 자동화입니다. 운영 규칙이 선행되어야 합니다.