DUOLABS AI 기능 탐구 24: 평가 질문과 기대 답을 버전으로 관리하는 데이터셋 연구소

DUOLABS AI 기능 탐구 스물네 번째 글은 평가 입력과 기대 결과를 모으고 버전으로 관리하는 데이터셋 연구소입니다.

모델이나 프롬프트를 바꾼 뒤 몇 개 질문에 답해 보는 것만으로는 품질이 좋아졌는지 판단하기 어렵습니다. 같은 기준 문제를 반복 실행하고 변경 전후를 비교해야 개선과 회귀를 구분할 수 있습니다.

기능 직접 보기: DUOLABS AI 데이터셋 연구소

공개 공유 데이터셋입니다. 실제 고객 대화, 개인정보, 내부 정답, 보안 정책과 미공개 업무 규칙을 입력하지 말고 가상 평가 사례만 사용하세요.

입력과 기대 결과를 한 쌍으로 관리합니다

데이터셋의 기본 단위는 질문 또는 작업 입력과 기대 결과입니다. 이름과 태그를 더하면 어떤 능력을 시험하는 사례인지 구분할 수 있습니다.

예를 들어 고객 문의 분류 데이터셋에는 배송 지연, 환불 요청, 제품 규격과 기타 문의를 넣을 수 있습니다. 기대 결과는 정답 문장 전체일 수도 있고, “배송” 같은 분류 라벨이나 반드시 포함해야 할 핵심 요지일 수도 있습니다.

변경할 때마다 버전이 올라갑니다

평가 데이터는 모델과 프롬프트만큼 중요한 기준입니다. 사례를 추가하거나 삭제하면 결과 평균이 달라질 수 있으므로 데이터셋 버전을 함께 기록해야 합니다.

현재 화면은 항목 변경 시 버전을 올리고, 데이터셋 이름과 버전을 붙여 평가 매트릭스로 보냅니다. 이렇게 하면 과거 평가가 어떤 기준셋으로 실행됐는지 추적하기 쉬워집니다.

실서비스에서는 변경 이유, 작성자, 검토자와 스냅샷까지 남기는 것이 좋습니다. 이미 발표한 평가 결과가 있다면 사용한 버전을 수정하지 않고 새 버전을 만들어야 재현성이 유지됩니다.

좋은 데이터셋은 실제 실패를 담습니다

쉬운 정답만 모으면 높은 점수가 나와도 실제 업무에서는 실패할 수 있습니다. 다음 유형을 의도적으로 포함해야 합니다.

표현이 다르지만 뜻이 같은 입력

날짜, 금액, 부정어처럼 작은 차이가 결과를 바꾸는 사례

정보가 부족해 “확인 필요”라고 답해야 하는 사례

정책 경계와 예외 조건

공격적 지시나 프롬프트 주입 시도

과거 운영에서 실제로 반려되거나 수정된 결과

운영 로그를 평가 사례로 전환할 때는 개인정보를 제거하고 사용 목적과 보존 정책을 확인해야 합니다.

정답 하나로 평가하기 어려운 작업도 있습니다

요약과 콘텐츠 생성은 하나의 완벽한 문장만 정답이라고 보기 어렵습니다. 이런 작업은 반드시 포함할 사실, 금지 표현, 형식과 평가 기준을 기대 결과에 명확히 적는 편이 좋습니다.

자동 채점 점수만 믿지 말고 대표 실패를 사람이 읽어야 합니다. 점수 상승이 단지 답변이 길어졌기 때문인지, 실제 정확도와 유용성이 좋아졌기 때문인지 확인할 필요가 있습니다.

공개 데모에서 확인할 점

데이터셋 연구소에서 샘플 항목을 추가하거나 탭으로 구분한 여러 사례를 가져와 보세요. 현재 버전을 평가 매트릭스로 보내면 기존 평가 기능과 바로 연결됩니다.

공개 데모는 데이터셋과 항목 수를 제한합니다. 실제 운영에서는 데이터 접근권한, 개인정보 비식별화, 변경 승인과 평가 실행 환경 고정을 더해 품질 기준의 원장으로 사용해야 합니다.