DUOLABS AI 기능 탐구 7: 대화 중 필요한 도구를 호출하는 AI 어시스턴트

DUOLABS AI 기능 탐구 일곱 번째 글은 대화만 하는 AI를 넘어, 질문에 필요한 도구를 직접 선택해 호출하는 AI 어시스턴트입니다.

언어 모델은 문장을 이해하고 생성하는 데 강하지만 현재 날씨, 최신 환율이나 정확한 계산 결과를 스스로 알고 있는 것은 아닙니다. AI 어시스턴트는 이런 질문을 받았을 때 연결된 도구를 사용해 데이터를 확인하고 그 결과를 자연어 답변으로 정리합니다.

기능 직접 보기: DUOLABS AI 어시스턴트

공개 데모에는 개인정보, 고객 문의, 사내 문서나 비밀정보를 입력하지 마세요. 화면에 제시된 날씨·환율·시간·계산 예시처럼 공개 정보만 사용해야 합니다.

일반 채팅과 도구를 쓰는 어시스턴트는 다릅니다

일반적인 채팅 모델에 “지금 서울 날씨가 어때?”라고 물으면 학습된 지식이나 추측에 의존할 수 있습니다. 최신 데이터에 접근할 수 없다면 그럴듯하지만 틀린 답을 만들 가능성이 있습니다.

도구가 연결된 어시스턴트는 질문의 의도를 파악한 뒤 날씨 조회 도구를 호출합니다.

사용자: 지금 서울 날씨가 어때?
→ AI가 날씨 조회가 필요하다고 판단
→ get_weather 도구 호출
→ 도구가 현재 데이터 반환
→ AI가 결과를 읽기 쉬운 문장으로 설명

계산도 마찬가지입니다. 모델이 머릿속으로 수식을 추론하게 하기보다 계산 도구에 정확한 수식을 전달하고 결과를 받아 설명하는 편이 안정적입니다.

핵심은 AI가 모든 일을 직접 하는 것이 아니라, 무슨 도구가 필요한지 판단하고 도구의 결과를 대화에 연결하는 것입니다.

DUOLABS AI 어시스턴트에서는 무엇을 볼 수 있나요?

현재 공개 데모는 계산, 날씨, 환율과 현재 시간처럼 결과를 확인하기 쉬운 조회형 도구를 중심으로 구성되어 있습니다.

1. 질문하거나 추천 예시를 선택합니다

처음 화면에는 다음과 같은 추천 질문이 표시됩니다.

서울 날씨 알려줘

1,200달러를 원화로 환산해 줘

지금 몇 시야?

(120 + 30) * 2를 계산해 줘

추천 질문을 선택하거나 직접 메시지를 입력할 수 있습니다.

2. 사용할 모델을 선택합니다

모델 콘솔의 기본값을 사용하거나 연결된 챗 모델 중 하나를 고를 수 있습니다. 모델마다 도구 선택과 인자 생성 능력, 답변 속도와 표현이 다를 수 있습니다.

같은 질문을 여러 모델로 비교할 때는 답변 문장뿐 아니라 올바른 도구를 선택했는지, 입력값을 정확하게 전달했는지도 확인해야 합니다.

3. 도구 호출과 답변을 함께 확인합니다

답변은 생성되는 순서대로 화면에 표시됩니다. 도구를 사용한 경우 답변 아래에 호출된 도구 이름이 배지로 남습니다.

사용자는 AI가 외부 데이터를 조회했는지, 단순히 문장을 생성했는지 구분할 수 있습니다. 도구 호출 과정이 보이는 것은 디버깅과 신뢰 형성에 중요합니다.

4. 대화 맥락을 이어갑니다

앞선 대화를 바탕으로 후속 질문을 할 수 있습니다. 예를 들어 달러 환산을 요청한 뒤 “그 금액의 10%는?”이라고 물으면 이전 대화의 금액과 계산 도구를 함께 사용할 수 있습니다.

새 대화 버튼을 누르면 현재 화면의 대화 맥락을 비우고 다시 시작할 수 있습니다.

도구 호출은 어떻게 결정될까요?

각 도구에는 이름, 용도와 입력 형식이 정의되어 있습니다.

도구 이름: get_exchange_rate
용도: 두 통화 사이의 환율 조회와 금액 환산
입력: 기준 통화, 대상 통화, 금액

모델은 사용자의 질문과 도구 설명을 비교해 필요한 도구를 고르고 입력값을 만듭니다. 도구 실행부는 입력이 약속된 형식인지 검증한 뒤 외부 API나 내부 함수를 호출합니다.

도구 결과는 다시 모델에 전달되고, 모델은 원시 JSON을 사람이 이해하기 쉬운 답변으로 바꿉니다.

질문
→ 도구 선택
→ 입력값 생성·검증
→ 도구 실행
→ 결과 반환
→ 최종 답변 생성

도구 설명이 모호하면 잘못된 도구를 선택할 수 있고, 입력 스키마가 느슨하면 위험한 값이 들어갈 수 있습니다. 에이전트 품질은 모델뿐 아니라 도구 설계에도 크게 좌우됩니다.

어떤 업무로 확장할 수 있을까요?

현재 데모는 안전하게 확인할 수 있는 조회 기능을 사용하지만, 같은 패턴을 실제 업무 도구와 연결할 수 있습니다.

고객지원 정보 조회

주문번호로 배송 상태를 확인하거나, 제품 문서에서 관련 사용법을 찾은 뒤 답변할 수 있습니다. 고객 본인 확인과 조회 권한은 AI 바깥의 업무 시스템에서 검증해야 합니다.

영업 지원

상품 정보, 재고, 일정과 견적 기준을 조회해 상담 준비를 도울 수 있습니다. 가격 확정이나 계약 발송처럼 영향이 큰 작업은 담당자 승인 뒤 실행해야 합니다.

사내 업무 도우미

회의실 일정, 휴가 잔여일, 문서 위치와 시스템 상태를 한 대화에서 조회할 수 있습니다. 직원마다 접근 가능한 데이터가 다르므로 사용자 권한이 도구 호출에도 그대로 적용되어야 합니다.

운영 자동화

장애 현황을 조회하고 관련 로그나 매뉴얼을 찾는 도우미로 활용할 수 있습니다. 서버 재시작이나 설정 변경 같은 쓰기 작업은 별도 승인과 감사 로그가 필요합니다.

읽기 도구와 쓰기 도구를 구분해야 합니다

날씨와 환율 조회는 결과를 읽기만 합니다. 주문 취소, 환불, 이메일 발송과 데이터 삭제는 외부 상태를 바꾸는 쓰기 작업입니다.

쓰기 도구를 연결할 때는 다음 장치가 필요합니다.

사용자에게 실행 대상과 영향을 다시 보여 주기

명시적인 확인을 받은 뒤 실행하기

사용자의 실제 권한을 서버에서 다시 검사하기

허용된 금액, 수량과 대상 범위를 제한하기

요청과 결과를 감사 로그로 남기기

반복 호출에도 중복 처리되지 않게 만들기

“AI가 도구를 호출할 수 있다”와 “AI가 마음대로 실행해도 된다”는 전혀 다른 의미입니다.

도구 결과도 실패할 수 있습니다

외부 API가 느리거나 중단될 수 있고, 지원하지 않는 통화나 잘못된 도시명이 들어올 수 있습니다. 모델이 적절한 도구를 선택했더라도 도구 자체가 오류를 반환할 수 있습니다.

실서비스에서는 다음 상황을 구분해 안내해야 합니다.

사용자의 입력이 부족한 경우

도구 입력값이 유효하지 않은 경우

외부 서비스가 응답하지 않는 경우

권한이 부족한 경우

결과는 받았지만 신뢰 기준을 통과하지 못한 경우

실패를 숨기고 답을 추측하기보다, 무엇을 확인하지 못했는지 설명하고 사람 또는 다른 경로로 넘기는 편이 안전합니다.

공개 예시로 직접 확인해 보기

DUOLABS AI 어시스턴트에서 추천 질문을 하나씩 실행해 보세요. 답변 아래에 어떤 도구가 표시되는지, 같은 질문에서 모델을 바꾸면 도구 선택과 응답 시간이 어떻게 달라지는지 확인할 수 있습니다.

현재 데모 도구는 계산과 공개 정보 조회 중심입니다. 공개 화면에는 실제 업무 데이터나 민감한 질문을 입력하지 마세요.

다음 글에서는 이 어시스턴트의 역할, 모델과 사용할 도구를 묶어 저장하는 에이전트 빌더를 살펴봅니다.