RSS

DUOLABS AI 기능 탐구 15: 에이전트의 실행 능력을 검증하는 도구 카탈로그

AI 자동화글: , Duolabs5분 읽기agent-securityblogduolabs-aiduolabs-ai-seriesmcp-toolsmodel-openai-gpt-5.5technical-notetool-governance

DUOLABS AI 기능 탐구 열다섯 번째 글은 에이전트가 사용할 수 있는 도구의 입력 규격을 확인하고 직접 실행해 보는 도구 카탈로그입니다.

언어 모델은 문장을 만들 수 있지만 실제 날씨를 조회하거나 계산하고 업무 시스템을 변경하려면 외부 도구가 필요합니다. 에이전트의 능력과 위험은 어떤 모델을 쓰는가만큼 어떤 도구를 어떤 권한으로 연결했는가에 따라 달라집니다.

기능 직접 보기: DUOLABS AI 도구 카탈로그

이 화면은 공개 데모이며 도구를 실제 서버에서 실행합니다. 비밀번호, 토큰, 고객정보, 내부 주소나 사내 시스템 식별자를 입력하지 마세요. 제공된 예제 수준의 값으로만 시험해야 합니다.

도구 카탈로그는 에이전트의 능력 목록입니다

카탈로그에는 AI 어시스턴트가 호출할 수 있는 것과 같은 도구 레지스트리가 표시됩니다. 도구마다 이름, 설명, 입력 필드, 자료형과 필수 여부를 확인할 수 있습니다.

도구 등록
→ 입력 스키마에서 실행 폼 생성
→ 사용자가 인자 입력
→ 서버에서 스키마 검증
→ 실제 도구 실행
→ JSON 결과와 실행 시간 표시

도구를 추가하면 카탈로그와 에이전트 실행 경로가 같은 정의를 사용합니다. 설명과 입력 규격이 서로 어긋나는 문제를 줄이고, 에이전트에 연결하기 전에 사람이 독립적으로 동작을 확인할 수 있습니다.

스키마 검증은 첫 번째 방어선입니다

문자열, 숫자와 불리언 입력은 실행 전에 정의된 스키마로 검증됩니다. 필수값 누락이나 잘못된 자료형은 도구 코드에 도달하기 전에 오류로 정리됩니다.

하지만 형식이 맞는 입력이 안전한 입력이라는 뜻은 아닙니다. URL 문자열이 올바르더라도 내부망을 향할 수 있고, 숫자가 정상이어도 비정상적으로 큰 작업을 요청할 수 있습니다. 운영 도구에는 허용 목록, 길이·범위 제한, 대상 객체 권한과 업무 규칙 검증이 추가로 필요합니다.

직접 실행은 에이전트 문제를 분리합니다

에이전트가 도구 호출에 실패했을 때 원인은 여러 층에 있을 수 있습니다.

  • 모델이 잘못된 도구를 선택함
  • 도구 설명을 오해해 인자를 잘못 만듦
  • 입력 검증에서 거부됨
  • 외부 API나 데이터베이스 연결 실패
  • 도구 실행은 성공했지만 결과 형식이 예상과 다름

카탈로그에서 같은 인자로 직접 실행하면 모델 선택 문제와 도구 자체 문제를 분리할 수 있습니다. 결과 JSON과 실행 시간을 확인한 뒤 에이전트 흐름에서 다시 시험하면 디버깅 범위가 줄어듭니다.

도구 권한은 모델 권한보다 엄격해야 합니다

읽기 전용 조회와 메시지 발송, 결제, 삭제 같은 상태 변경 도구를 같은 수준으로 취급하면 안 됩니다. 운영 환경에서는 최소한 다음 통제가 필요합니다.

  • 사용자와 에이전트별 도구 허용 목록
  • 테넌트·프로젝트·데이터 행 단위 권한
  • 결제·삭제·외부 발송 전 사람 승인
  • 요청 횟수, 금액과 처리량 제한
  • 중복 요청을 막는 멱등성 키
  • 실행 전후 입력·결과·승인자의 감사 로그
  • 오류 시 보상 작업과 재시도 정책

시스템 프롬프트에 “삭제하지 마라”라고 쓰는 것만으로는 권한 통제가 되지 않습니다. 위험한 동작은 서버가 강제로 거부해야 합니다.

도구 결과도 신뢰할 수 없는 데이터입니다

외부 검색과 API 결과에는 잘못된 값이나 프롬프트 인젝션 문장이 섞일 수 있습니다. 도구 결과를 곧바로 다음 명령으로 해석하지 말고 데이터로 구분해 전달해야 합니다.

에이전트가 결과를 요약하거나 후속 도구를 고를 때는 출처, 스키마, 최대 크기와 허용되는 다음 행동을 제한해야 합니다. 민감한 응답 필드는 모델에 보내기 전에 제거하거나 마스킹하는 것이 안전합니다.

공개 데모와 운영 감사의 차이

현재 카탈로그의 직접 실행은 도구 자체를 확인하는 경로이며 일반 AI 실행 트레이스에는 별도 기록되지 않습니다. 실서비스에서는 사람이 직접 실행한 도구도 에이전트가 호출한 도구와 같은 수준으로 감사해야 합니다.

DUOLABS AI 도구 카탈로그에서 인자 없는 도구나 단순 계산처럼 안전한 샘플부터 실행해 보세요. 입력 필드와 결과 JSON이 어떻게 연결되는지 확인하는 것이 핵심입니다.

운영 도구를 공개 카탈로그에 그대로 노출해서는 안 됩니다. 인증, 역할 기반 접근통제, 승인, 속도 제한과 완전한 감사 로그를 갖춘 뒤 필요한 사용자에게만 제공해야 합니다.

이전 글: DUOLABS AI 기능 탐구 14: LLM 인프라 상태를 한눈에 보는 3D 서버룸

다음 글: DUOLABS AI 기능 탐구 16: AI 실행 과정을 추적하는 실행 트레이스

함께 읽기