AI 에이전트 시대의 보안·거버넌스: ‘내 대신 클릭하는 AI’가 사고를 만드는 지점과 막는 법

상위 허브 문서: AI 에이전트 도입 가이드: 실행 권한·승인·로그를 어디까지 통제할 것인가

AI 에이전트 시대의 보안 문제는 모델이 얼마나 똑똑한가가 아닙니다. 내 대신 실행하는 도구에 어떤 권한을 열어주느냐가 본체입니다.

이 글은 기능 소개가 아니라, 개인·팀이 실제로 적용할 수 있는 권한 설계 기준과 운영 체크리스트를 정리합니다.

핵심 요약

  • 문제의 본질: 챗봇은 틀리면 대화가 깨지지만, 에이전트는 틀리면 메일 발송, 파일 삭제, 권한 변경 같은 실행 사고로 이어질 수 있습니다.
  • 결론: 모델을 믿기보다 권한·비밀값·실행 게이트·감사/복구를 설계해야 합니다.
  • 예외 조건: 읽기 전용 에이전트는 상대적으로 안전하지만, 쓰기·실행 권한이 붙는 순간 거버넌스가 필수가 됩니다.
  • 바로 할 일: 지금 쓰는 에이전트를 L0~L3 권한 레벨로 먼저 분류해 보세요.

왜 지금 에이전트 보안이 별도 문서로 필요할까

AI가 더 똑똑해져서가 아니라, 내 대신 실제 행동을 시작했기 때문입니다.

그래서 보안의 질문도 바뀝니다. “환각을 줄이는 법”보다 “환각이 나와도 사고가 안 나게 만드는 법”이 더 중요해집니다.

핵심 원리: 모델을 믿지 말고 실행 경로를 믿게 만들어라

에이전트 보안은 화려한 탐지 기술보다 실행 관문에 규칙을 박는 작업입니다.

  • 권한: 무엇을 할 수 있는가
  • 비밀값: 토큰·키가 어디에 있고 어떻게 쓰이는가
  • 실행 게이트: 어떤 규칙을 통과해야 실제 실행되는가
  • 감사/복구: 사고가 나도 누가 멈추고 되돌릴 수 있는가

시각 앵커: 권한 레벨 결정표

레벨 허용 작업 필수 안전장치 초기 금지 항목
L0 읽기 전용 검색, 요약, 문서 읽기 외부 텍스트는 데이터로만 취급, 로그 최소화 파일 수정, 발송, 결제, 삭제
L1 쓰기 제한 초안 생성, 지정 폴더 저장 폴더 allowlist, 확장자 제한, 자동 백업 시스템 설정 변경, 대량 발송
L2 실행+승인 발송·배포·티켓 생성 등 승인 후 실행 스키마 검증, 승인 UX, 롤백 루틴 승인 없는 대량 작업, 자동 결제
L3 제한적 자율 반복 작업 자동화 업무 단위 권한 분리, 실시간 알림, 강제 제한 범위 미정 자율 실행, 무검증 플러그인

대부분의 개인·중소팀은 L2까지만으로도 충분합니다. L3는 성능 자랑 단계가 아니라 운영 비용이 급격히 커지는 단계입니다.

실전 가드레일 6개

1. 도구 실행은 자연어가 아니라 스키마로만

모델은 JSON 스키마를 채우고, 실제 실행은 코드가 담당하게 해야 합니다. 문장 하나가 바로 행동이 되면 사고가 커집니다.

2. allowlist는 도메인만이 아니라 도구·행동까지

어디로 + 무엇으로 + 무엇을의 3층 allowlist가 필요합니다. 도메인만 막아서는 부족합니다.

3. 비밀값은 에이전트가 아니라 런타임이 소유

토큰을 프롬프트나 설정 파일에 박아두면 로그·백업·동기화로 흘러갑니다. 짧은 수명 토큰과 최소 권한 키가 기본입니다.

4. 외부 텍스트는 데이터 전용으로 취급

문서·웹·메일 안의 문장을 실행 지시로 해석하지 않도록 시스템 규칙을 박아야 합니다. 이 지점이 간접 인젝션의 핵심입니다.

5. 승인만 두지 말고 안전 검증을 먼저 강제

  • 되돌릴 수 있는가
  • 민감정보가 포함되는가
  • 권한 범위를 넘어서는가

사람 승인은 바쁘면 무력해집니다. 그래서 시스템 검증이 먼저입니다.

6. 샌드박스와 롤백 없는 자동화는 금지

실행 전에 스냅샷·백업·커밋이 자동으로 남아야 합니다. 복구 가능성이 곧 안전입니다.

개인·팀용 빠른 체크리스트

질문 YES면 위험한 이유 오늘 할 1가지
에이전트가 메일·메신저를 자동 발송할 수 있다 실수 1번이 외부 사고로 직결 초안만 생성 + 승인 강제
API 키가 텍스트 파일·프롬프트에 있다 로그·백업·동기화로 유출 키 교체 + 단기 토큰화
플러그인을 출처 확인 없이 설치한다 공급망 리스크가 곧 실행 권한 허용 플러그인 목록 만들기
접근 가능한 폴더가 전체 디스크다 유출·삭제 반경이 무한대 작업 폴더 격리
실행 로그가 거의 남지 않는다 문제 발생 시 원인 추적 불가 도구 실행 로그부터 남기기

같이 보면 좋은 글

한 줄 결론

AI 에이전트 보안은 모델 품질이 아니라 실행 권한을 얼마나 좁히고, 멈추고, 되돌릴 수 있게 설계했는가의 문제입니다.