DUOLABS AI 기능 탐구 1: 사내 문서를 근거로 답하는 지식베이스·RAG

DUOLABS AI의 기능을 하나씩 살펴보는 연속 기획 첫 번째 글입니다. 첫 주제는 사내 문서에서 근거를 찾아 답하는 지식베이스와 RAG 질의응답입니다.

일반적인 생성형 AI는 폭넓은 질문에 답할 수 있지만, 우리 회사의 최신 업무 지침이나 제품 매뉴얼까지 자동으로 아는 것은 아닙니다. 그럴듯한 답변보다 “어느 문서의 어떤 내용에 근거한 답인가”가 중요하다면 지식베이스와 RAG가 필요합니다.

기능 직접 보기: 지식베이스 · 근거 기반 질의응답

공개 데모에는 실제 고객 문서, 개인정보, 영업비밀을 입력하지 마세요. 제공된 샘플 또는 충분히 익명화한 테스트 자료만 사용해야 합니다.

이 기능은 무엇을 해결하나요?

조직에는 이미 많은 정보가 있습니다. 문제는 정보가 없어서가 아니라 필요한 순간에 찾기 어렵다는 데 있습니다.

• 고객지원 매뉴얼은 파일 서버에 있습니다.
• 제품 정책은 여러 문서에 나뉘어 있습니다.
• 신규 입사자 안내는 오래된 버전과 최신 버전이 섞여 있습니다.
• 담당자는 같은 질문에 반복해서 답합니다.

지식베이스는 이런 문서를 AI가 검색할 수 있는 자료로 정리합니다. RAG는 질문이 들어왔을 때 관련 내용을 먼저 찾고, 검색한 문맥을 근거로 답변을 생성하는 방식입니다. 영어 이름은 Retrieval-Augmented Generation, 즉 검색 증강 생성입니다.

핵심은 AI가 기억에만 의존하지 않는다는 점입니다. 질문마다 관련 문서를 다시 찾고, 그 결과를 답변의 재료로 사용합니다.

DUOLABS AI에서는 어떻게 동작하나요?

DUOLABS AI의 흐름은 문서 등록과 질의응답 두 단계로 나뉩니다.

1. 자료를 컬렉션으로 나눕니다

먼저 관련 문서를 하나의 컬렉션으로 묶습니다. 예를 들어 고객지원, 제품 매뉴얼, 인사 규정처럼 목적별로 지식 범위를 분리할 수 있습니다.

컬렉션을 나누면 질문할 때 어느 자료를 기준으로 답할지 선택하기 쉬워집니다. 고객용 답변에 내부 인사 문서가 섞이는 것처럼 서로 다른 맥락이 충돌하는 문제도 줄일 수 있습니다.

2. 긴 문서를 검색 가능한 단위로 나눕니다

AI가 긴 문서 전체를 매번 읽게 하면 비용과 시간이 커지고 중요한 문맥을 놓치기 쉽습니다. DUOLABS AI는 문서의 제목과 하위 제목 구조를 고려해 작은 청크로 나눕니다.

문단 경계와 제목 경로를 보존하기 때문에 검색 결과에서 “어느 문서의 어느 항목인가”를 함께 확인할 수 있습니다. 인접 문맥이 갑자기 끊기지 않도록 일부 내용을 겹쳐 나누는 방식도 사용합니다.

3. 의미 검색과 키워드 검색을 함께 사용합니다

같은 뜻을 서로 다른 표현으로 질문할 수 있습니다. “해지 절차”를 찾는 사람이 “계약 종료는 어떻게 하나요?”라고 물을 수도 있습니다.

의미 검색은 문장 표현이 달라도 뜻이 가까운 내용을 찾는 데 유리합니다. 키워드 검색은 제품명이나 정책명처럼 정확한 단어가 중요한 경우에 강합니다. DUOLABS AI의 하이브리드 검색은 두 결과를 함께 고려해 관련 문맥을 찾습니다.

지식베이스 화면에서는 하이브리드·벡터·키워드 검색을 직접 비교할 수 있습니다.

4. 답변과 근거를 함께 보여 줍니다

질의응답 화면에서 컬렉션을 선택하고 질문하면 검색된 문서 조각을 먼저 찾습니다. 답변의 각주 번호와 근거 카드가 연결되어 있어 사용자는 문서 제목과 해당 내용을 함께 확인할 수 있습니다.

검색된 근거가 부족할 때는 억지로 답을 만들기보다 답변을 보류하도록 설계했습니다. 물론 이 장치만으로 모든 오류가 사라지는 것은 아닙니다. 중요한 의사결정에는 원문 확인과 담당자 검토가 필요합니다.

어떤 업무에 적용하기 좋을까요?

고객지원

제품 매뉴얼, 자주 묻는 질문, 교환·환불 기준을 등록하면 상담원이 필요한 근거를 빠르게 찾을 수 있습니다. 고객에게 바로 답하는 챗봇으로 확장하기 전, 상담원용 답변 도우미로 시작하는 방법도 좋습니다.

사내 업무 안내

휴가, 장비 신청, 비용 처리처럼 반복되는 내부 질문에 활용할 수 있습니다. 규정이 바뀌면 지식 문서를 갱신하고 다시 색인해 최신 기준을 반영합니다.

기술 문서와 운영 매뉴얼

장애 대응 절차, 배포 방법, 시스템 사용법을 모아 두면 필요한 단계와 관련 근거를 찾는 시간을 줄일 수 있습니다. 다만 접근 권한이 다른 문서는 컬렉션과 사용자 권한도 함께 분리해야 합니다.

영업·제안 지원

서비스 소개서와 사례 자료를 바탕으로 고객 질문에 맞는 정보를 찾거나, 상담 전에 관련 내용을 정리하는 데 활용할 수 있습니다. 가격이나 계약 조건처럼 변경 가능성이 큰 정보에는 유효 기간과 담당자 확인 절차가 필요합니다.

도입 전에 꼭 정해야 할 것

RAG의 품질은 모델보다 문서 운영에 크게 영향을 받습니다.

• 최신 문서와 폐기된 문서를 어떻게 구분할 것인가
• 문서가 바뀌면 언제 다시 색인할 것인가
• 부서와 역할별 접근 권한을 어떻게 적용할 것인가
• 답변할 수 없는 질문을 누구에게 연결할 것인가
• 검색 결과와 최종 답변을 어떻게 평가할 것인가

문서를 많이 넣는다고 반드시 좋아지지는 않습니다. 중복되고 오래된 자료가 많으면 서로 다른 답이 함께 검색될 수 있습니다. 작고 신뢰할 수 있는 문서 묶음으로 시작해 실제 질문을 수집하고 검색 결과를 개선하는 편이 효과적입니다.

직접 확인해 보기

DUOLABS AI 지식베이스에서 샘플 컬렉션을 만들면 문서, 청크, 검색 방식을 확인할 수 있습니다. 이어서 근거 기반 질의응답에서 질문과 답변, 인용 근거가 어떻게 연결되는지 살펴볼 수 있습니다.

공개 체험 환경에서는 반드시 샘플 데이터만 사용하세요. 실제 조직에 적용할 때는 인증, 문서별 권한, 데이터 보관 정책과 모델의 실행 위치를 함께 설계해야 합니다.

DUOLABS AI 기능 탐구는 개별 기능의 화면 소개에 그치지 않고, 실제 업무 흐름에 어떻게 연결되는지 계속 다룹니다.

다음 글: DUOLABS AI 기능 탐구 2: AI 전 개인정보를 가리는 가드레일·PII 마스킹