RSS

DUOLABS AI 기능 탐구 2: AI 전 개인정보를 가리는 가드레일·PII 마스킹

AI 자동화글: , Duolabs7분 읽기ai-guardrailsblogduolabs-aiduolabs-ai-seriesmodel-openai-gpt-5.5piitechnical-note

DUOLABS AI 기능 탐구 두 번째 글은 AI에 텍스트를 보내기 전에 개인정보를 찾아 가리는 가드레일·PII 마스킹입니다.

상담 기록 요약, 고객 문의 분류, 이메일 분석처럼 AI가 잘하는 업무에는 개인정보가 섞이기 쉽습니다. 이름과 전화번호, 이메일, 주소가 포함된 원문을 그대로 외부 AI에 보내기 전에 불필요한 식별 정보를 제거하는 단계가 필요합니다.

기능 직접 보기: 가드레일·PII 마스킹

공개 데모에는 실제 개인정보나 고객 데이터를 입력하지 마세요. 화면의 ‘샘플 채우기’ 기능이나 가상의 테스트 문장만 사용해야 합니다.

PII 마스킹이란 무엇인가요?

PII는 개인을 식별할 수 있는 정보, Personally Identifiable Information을 뜻합니다. 전화번호나 이메일처럼 단독으로 식별에 쓰이는 정보도 있고, 이름과 회사·직함·주소가 결합되어 특정인을 알아볼 수 있게 되는 정보도 있습니다.

마스킹은 이런 값을 삭제하거나 자리표시자로 바꾸는 과정입니다.

예를 들어 다음과 같은 문장이 있다고 가정해 보겠습니다.

김민수 고객에게 010-1234-5678로 연락하고 결과를 [email protected]으로 보내 주세요.

마스킹을 거치면 다음처럼 바뀝니다.

[이름1] 고객에게 [전화번호1]로 연락하고 결과를 [이메일1]으로 보내 주세요.

문장의 업무 맥락은 남지만 특정인을 식별하는 값은 AI 입력에서 빠집니다. 같은 종류가 여러 개라면 번호를 붙여 관계를 구분할 수 있습니다.

왜 AI 기능 앞에 가드레일이 필요할까요?

AI 도입에서 보안은 모델을 선택하는 문제만이 아닙니다. 모델 호출 전에 어떤 데이터를 보내는지 통제하는 것이 먼저입니다.

예를 들어 고객 문의를 요약하는 기능에 주민등록번호가 필요하지 않다면 원문에 있더라도 보내지 않는 편이 맞습니다. 문의 유형을 분류하는 데 카드번호가 필요하지 않다면 해당 값도 제거해야 합니다.

가드레일은 다음과 같은 흐름의 중간에 들어갑니다.

고객 문의 수집
→ 개인정보 탐지·마스킹
→ 마스킹 결과 검토
→ AI 요약·분류·추출
→ 필요한 경우 원래 업무 시스템의 식별자와 연결

AI가 받은 데이터의 양을 줄이면 사고 가능성과 사후 관리 범위도 함께 줄일 수 있습니다. 다만 마스킹은 개인정보 보호 체계 전체를 대신하지 않습니다. 수집 목적, 동의, 보관 기간, 접근 권한과 삭제 정책은 별도로 관리해야 합니다.

DUOLABS AI의 2단계 탐지 방식

개인정보는 생김새가 일정한 정보와 문맥을 읽어야 알 수 있는 정보로 나뉩니다. DUOLABS AI는 두 방식을 조합합니다.

1단계: 정규식으로 형식이 정해진 정보 찾기

전화번호, 이메일, 주민등록번호, 카드번호는 일정한 형식이 있습니다. 이런 값은 정규식 규칙으로 빠르고 일관되게 찾을 수 있습니다.

이 방식은 같은 입력에 같은 결과를 내며 별도의 AI 호출이 필요하지 않습니다. 형식이 명확한 정보를 1차로 걸러 내는 데 적합합니다.

하지만 “김민수”, “서울시 중구”, “그린테크 구매팀장”처럼 숫자 패턴이 없는 정보는 정규식만으로 판단하기 어렵습니다.

2단계: 문맥을 이해하는 모델로 보완하기

선택적으로 LLM 문맥 탐지를 켜면 이름, 주소, 회사, 직함처럼 주변 문장을 읽어야 알 수 있는 정보를 추가로 찾습니다.

이 단계는 원문 보호가 목적이므로 실제 업무 환경에서는 내부에서 실행하는 모델처럼 데이터 처리 범위를 통제할 수 있는 구성을 우선 검토해야 합니다. 선택한 모델과 배포 방식에 따라 데이터가 처리되는 위치가 달라질 수 있으므로 설정을 확인해야 합니다.

모델이 찾은 값도 원문에 실제로 존재하는지 검사한 뒤 마스킹 목록에 추가합니다. 결과 화면에서는 정규식과 문맥 탐지에서 각각 몇 건을 찾았는지 확인할 수 있습니다.

결과를 눈으로 확인할 수 있습니다

마스킹 기능이 자동으로 동작하더라도 결과 검토 단계는 필요합니다. DUOLABS AI 화면은 다음 정보를 나누어 보여 줍니다.

  • 마스킹된 최종 텍스트
  • 탐지한 개인정보 종류
  • 원문 값과 대체된 자리표시자
  • 정규식 탐지 건수와 LLM 문맥 탐지 건수
  • 처리 시간

사용자는 마스킹 결과를 복사해 추출이나 대화 기능의 입력으로 사용할 수 있습니다. 업무 시스템에 연결할 때는 이 과정을 API 파이프라인 앞단에 두어 원문이 외부 모델 호출로 넘어가기 전에 처리할 수 있습니다.

어디에 적용할 수 있을까요?

고객 상담 요약

상담 내용에서 이름, 전화번호, 이메일을 가린 뒤 문의 요약과 유형 분류를 수행할 수 있습니다. 상담 시스템에는 원문을 보관하더라도 AI 처리 단계에는 필요한 정보만 전달하는 구조를 만들 수 있습니다.

VOC와 설문 분석

자유 서술형 답변에는 고객이 스스로 연락처나 회사 정보를 적는 경우가 있습니다. 분석 전에 마스킹하면 개인 식별 정보보다 의견의 주제와 감정에 집중할 수 있습니다.

이메일과 문서 구조화

견적 요청 메일이나 신청서를 정해진 JSON 형태로 바꿀 때, 분석에 필요하지 않은 개인정보를 먼저 제거할 수 있습니다. 반대로 배송지처럼 업무 처리에 꼭 필요한 정보라면 무조건 가리지 말고 목적과 권한에 맞는 별도 처리 경로를 설계해야 합니다.

개발·테스트 데이터 준비

운영 데이터를 테스트에 재사용해야 한다면 식별 정보를 가상의 값으로 바꾸는 과정이 필요합니다. 단순 마스킹만으로 재식별 위험이 모두 사라지는 것은 아니므로 데이터 조합과 원본 접근 권한도 함께 검토해야 합니다.

자동 탐지를 과신하면 안 됩니다

개인정보 형식은 국가와 서비스마다 다르고, 문맥 탐지 모델도 누락이나 과잉 탐지를 일으킬 수 있습니다.

  • 특수한 형식의 전화번호나 계정번호를 놓칠 수 있습니다.
  • 일반 단어를 이름이나 회사로 잘못 판단할 수 있습니다.
  • 여러 정보의 조합으로 개인을 추정할 가능성이 남을 수 있습니다.
  • 이미지, 첨부파일과 메타데이터의 정보는 별도로 처리해야 합니다.

따라서 실제 도입에는 업무별 탐지 규칙, 테스트 데이터셋, 표본 검수와 실패 시 처리 절차가 필요합니다. 중요한 데이터라면 마스킹 결과를 사람이 확인하거나, 민감정보가 발견된 요청 자체를 차단하는 방식을 함께 사용할 수 있습니다.

샘플로 직접 확인해 보기

DUOLABS AI 가드레일·PII 마스킹에서 ‘샘플 채우기’를 누르면 가상의 연락처와 주소가 포함된 문장으로 기능을 확인할 수 있습니다. 먼저 정규식 탐지만 실행하고, 이어서 LLM 문맥 탐지를 켜 두 결과의 차이를 비교해 보세요.

다시 강조하지만 공개 데모에는 실제 개인정보를 입력하면 안 됩니다. 실서비스에 적용할 때는 사용하는 모델, 서버 위치, 로그와 보관 정책까지 포함해 전체 데이터 흐름을 검토해야 합니다.

이전 글: DUOLABS AI 기능 탐구 1: 사내 문서를 근거로 답하는 지식베이스·RAG

다음 글: DUOLABS AI 기능 탐구 3: 비정형 텍스트를 표와 JSON으로 바꾸는 추출 스튜디오

함께 읽기