DUOLABS AI 기능 탐구 8: 역할과 도구 권한을 묶어 만드는 에이전트 빌더

DUOLABS AI 기능 탐구 여덟 번째 글은 AI의 역할, 시스템 프롬프트, 사용할 모델과 도구 권한을 하나로 묶어 저장하는 에이전트 빌더입니다.

범용 어시스턴트는 여러 질문에 답하고 다양한 도구를 사용할 수 있습니다. 실제 업무에서는 모든 기능을 한 AI에 맡기기보다 목적별로 역할과 권한을 좁힌 에이전트를 만드는 편이 관리하기 쉽습니다.

기능 직접 보기: DUOLABS AI 에이전트 빌더

이 화면은 여러 방문자가 같은 목록을 볼 수 있는 공개 데모입니다. 내부 시스템 프롬프트, 고객 정보, API 키나 비밀 업무 규칙을 저장하지 마세요. 테스트용 에이전트도 다른 사용자가 보거나 수정·삭제할 수 있다고 가정해야 합니다.

에이전트는 무엇으로 구성될까요?

업무용 에이전트는 단순한 이름이 붙은 채팅방이 아닙니다. 최소한 다음 요소를 함께 정의해야 합니다.

이름: 어떤 역할인지 구분하는 식별자

설명: 사용자가 에이전트의 목적을 이해하기 위한 안내

시스템 프롬프트: 역할, 답변 원칙과 금지 사항

모델: 대화와 도구 호출을 수행할 언어 모델

도구 권한: 에이전트가 실제로 사용할 수 있는 기능 목록

DUOLABS AI 에이전트 빌더는 이 구성을 저장하고 바로 대화로 테스트할 수 있게 합니다.

범용 어시스턴트와 무엇이 다른가요?

앞선 글의 AI 어시스턴트는 데모에 등록된 도구를 폭넓게 사용할 수 있습니다. 에이전트 빌더에서는 에이전트마다 사용할 도구의 부분집합을 선택합니다.

예를 들어 환율 안내 에이전트라면 환율과 계산 도구만 허용할 수 있습니다.

역할: 해외 견적의 통화 환산을 돕는다
허용 도구: 환율 조회, 계산
허용하지 않는 도구: 날씨, 시스템 정보
답변 규칙: 적용 환율의 기준일을 함께 표시한다

모델이 다른 도구의 존재를 알고 있더라도 실행 가능한 목록에 포함되지 않으면 호출할 수 없습니다. 도구를 하나도 선택하지 않으면 대화만 하는 에이전트로 사용할 수 있습니다.

이것이 최소 권한 원칙입니다. 업무에 필요한 기능만 허용하면 잘못된 도구 선택과 예상하지 못한 실행 범위를 줄일 수 있습니다.

DUOLABS AI에서는 어떻게 만드나요?

1. 이름과 설명을 정합니다

“업무 비서”처럼 넓은 이름보다 “해외 견적 환율 도우미”, “배송 문의 분류기”처럼 목적이 드러나는 이름이 좋습니다.

설명에는 누구를 위한 기능인지, 어떤 질문에 답하는지를 짧게 적습니다. 사용자가 기능 범위를 이해하면 엉뚱한 요청을 줄일 수 있습니다.

2. 시스템 프롬프트로 역할과 규칙을 작성합니다

시스템 프롬프트는 매 대화에 적용되는 기본 지침입니다.

너는 해외 견적을 준비하는 직원을 돕는 환율 에이전트다.

규칙:
1. 환율이 필요한 질문에는 반드시 환율 조회 도구를 사용한다.
2. 기준 통화, 대상 통화와 금액이 빠지면 먼저 질문한다.
3. 결과에는 조회 기준일과 적용 환율을 표시한다.
4. 환율 변동에 따른 최종 계약 금액은 담당자 확인이 필요하다고 안내한다.

역할만 적기보다 입력이 부족할 때의 행동, 도구 사용 기준, 답변 형식과 사람이 확인해야 하는 상황을 함께 적는 편이 좋습니다.

3. 사용할 도구만 선택합니다

현재 공개 데모에서는 계산, 날씨, 환율, 시간 같은 도구 중 필요한 항목을 선택할 수 있습니다. 저장할 때 등록된 도구 이름인지 다시 검사합니다.

실서비스에서는 사용자 검색, 주문 조회, 문서 검색과 티켓 생성처럼 조직의 API를 도구로 연결할 수 있습니다. 이때 에이전트 설정의 도구 선택은 편의 기능이 아니라 권한 경계가 됩니다.

4. 모델을 지정하거나 기본값을 사용합니다

특정 모델을 에이전트에 고정하거나 모델 콘솔의 챗 기본값을 사용할 수 있습니다. 모델을 바꿀 때는 답변 품질뿐 아니라 도구 선택, 입력 인자와 규칙 준수 여부를 다시 평가해야 합니다.

5. 저장한 에이전트를 대화로 테스트합니다

에이전트 카드에서 테스트 화면을 열면 저장된 시스템 프롬프트, 모델과 도구 목록으로 대화할 수 있습니다. 응답에 사용한 도구 이름과 처리 시간이 함께 표시됩니다.

테스트는 “정상 질문에 답하는가”만 확인해서는 부족합니다. 필요한 정보가 빠진 질문, 허용되지 않은 작업, 모호한 요청과 도구 오류도 시험해야 합니다.

시스템 프롬프트에 무엇을 써야 할까요?

좋은 시스템 프롬프트는 길기보다 경계가 명확합니다.

역할과 대상 사용자

누구를 돕고 어떤 업무를 처리하는지 적습니다.

사용할 정보와 도구

어떤 상황에 어떤 도구를 사용하고, 결과에서 무엇을 확인해야 하는지 정합니다.

답변 형식

표, 단계 목록, 짧은 요약처럼 업무에 필요한 형식을 지정합니다.

중단과 사람 연결 조건

정보가 부족하거나 영향이 큰 결정일 때 추측하지 않고 확인을 요청하도록 합니다.

금지 사항

개인정보 노출, 권한 밖 데이터 조회, 확정되지 않은 가격 약속처럼 하면 안 되는 행동을 명시합니다.

프롬프트만으로 보안을 완성할 수는 없습니다. 실제 권한 검사는 도구와 서버에서 다시 수행해야 합니다.

도구 권한은 서버에서도 강제해야 합니다

화면에서 체크박스를 숨기는 것만으로는 권한 통제가 되지 않습니다. 서버가 저장된 허용 목록을 읽고, 목록에 포함된 도구만 모델에 제공해야 합니다.

또한 각 도구는 다시 사용자의 신원과 권한을 확인해야 합니다. 예를 들어 주문 조회 도구가 연결되어 있다면 에이전트에게 권한이 있다는 사실만으로 모든 고객의 주문을 보여 주면 안 됩니다.

사용자 권한 확인
→ 에이전트에 허용된 도구 확인
→ 도구별 입력값 검증
→ 업무 대상에 대한 권한 재검사
→ 실행과 결과 기록

쓰기 작업은 실행 전에 사용자 확인을 받고 중복 실행을 막는 장치도 필요합니다.

어떤 에이전트부터 만들면 좋을까요?

조회 중심 에이전트

환율, 재고, 일정, 주문 상태처럼 읽기 도구만 사용하는 에이전트는 영향 범위가 비교적 작아 첫 적용 대상으로 적합합니다.

상담원 지원 에이전트

고객에게 직접 답하는 대신 상담원이 문서 검색과 답변 초안을 확인하도록 하면 사람의 검토를 유지할 수 있습니다.

분류와 전달 에이전트

문의 유형을 판별하고 필요한 정보를 정리해 담당자 큐에 전달할 수 있습니다. 실제 전송 전에 분류 결과와 필수 필드를 검사해야 합니다.

승인 전 단계 에이전트

견적, 환불이나 게시물 초안을 만들되 최종 실행은 담당자가 승인하도록 구성할 수 있습니다. 자동화의 이점과 통제를 함께 유지하는 방식입니다.

공개 데모에서는 저장 범위를 조심하세요

DUOLABS AI 에이전트 빌더는 기능을 보여 주기 위한 공유 환경입니다. 테스트하려면 가상의 이름과 공개 정보만 포함한 짧은 프롬프트를 사용하세요.

실제 고객용 에이전트를 만들 때는 설정 열람·수정 권한, 버전 관리, 변경 승인, 비밀정보 보관과 감사 로그가 필요합니다. 프롬프트 안에 API 키를 직접 적지 말고 별도의 보안 저장소와 도구 서버에서 관리해야 합니다.

에이전트를 만들었다는 사실보다 어떤 권한을 부여했고, 실패하거나 불확실할 때 어디에서 멈추는지가 더 중요합니다.