DUOLABS AI 기능 탐구 26: 오류율·지연·비용 임계치를 감시하는 알림·SLA 센터

DUOLABS AI 기능 탐구 스물여섯 번째 글은 실행 원장의 오류율, 지연, 비용과 실행 수를 임계값으로 감시하는 알림·SLA 센터입니다.

대시보드는 상태를 보러 들어간 사람에게 문제를 보여줍니다. 알림은 문제가 기준을 넘는 순간 운영자가 행동하도록 만듭니다. AI 기능이 업무에 들어가면 답변 품질뿐 아니라 실패율, 응답 시간과 비용 급증도 서비스 수준의 일부가 됩니다.

기능 직접 보기: DUOLABS AI 알림·SLA 센터

공개 데모의 알림은 화면 안에서만 생성됩니다. 문자, 메신저, 이메일 전송이나 자동 차단은 하지 않으며 실제 운영 SLA를 보장하는 기능으로 해석하면 안 됩니다.

실행 기록에서 네 가지 지표를 계산합니다

알림 규칙은 최근 일정 시간의 공통 실행 기록을 기준으로 값을 계산합니다.

오류율: 전체 실행 중 실패한 비율

p95 지연: 대부분의 요청이 이 시간 안에 끝나는지 보여주는 상위 지연 지표

추정 비용: 선택한 구간에 기록된 모델 비용 합계

실행 수: 갑작스러운 트래픽 증가나 중단을 찾는 횟수

각 규칙에는 이상·이하 비교, 임계값, 감시 구간과 심각도를 설정할 수 있습니다. 조건을 넘으면 이벤트가 열리고 담당자가 확인 상태로 바꿀 수 있습니다.

평균만 보면 느린 요청을 놓칠 수 있습니다

평균 응답 시간이 1초여도 일부 고객이 10초씩 기다릴 수 있습니다. p95는 느린 꼬리 구간을 관찰하는 데 도움이 됩니다. 다만 요청 수가 적은 시간대에는 값이 크게 흔들릴 수 있으므로 최소 표본 수와 함께 해석해야 합니다.

오류율도 같은 원칙이 적용됩니다. 1건 중 1건 실패는 100%지만 서비스 전체 장애라고 단정할 수 없습니다. 비율과 절대 실패 건수를 함께 보는 규칙이 더 안정적입니다.

알림은 적을수록 좋은 것이 아닙니다

알림이 너무 많으면 담당자는 중요한 경고까지 무시하게 됩니다. 반대로 임계값을 지나치게 높이면 고객이 먼저 문제를 발견합니다. 좋은 규칙은 명확한 행동과 연결됩니다.

정보: 추세를 확인하고 기록합니다.

주의: 담당자가 업무 시간 안에 원인을 확인합니다.

심각: 즉시 대응하고 자동화 중지나 우회 여부를 판단합니다.

같은 문제가 계속될 때 이벤트를 반복 생성하지 않고 열린 사건으로 묶는 것도 중요합니다. 복구 후에는 발생 원인, 영향과 재발 방지 조치를 남겨야 합니다.

SLA와 SLO를 구분합니다

SLA는 고객과 약속한 서비스 수준과 보상 조건을 포함할 수 있고, SLO는 팀이 운영 목표로 삼는 내부 기준입니다. 공개 데모의 임계값은 관측 방법을 보여주는 샘플일 뿐 계약 조건이 아닙니다.

실서비스에서는 업무별 중요도, 시간대, 모델 공급자와 폴백 경로를 고려해 목표를 정해야 합니다. 전체 평균 하나로 모든 기능을 평가하면 핵심 업무의 장애가 가려질 수 있습니다.

공개 데모에서 확인할 점

알림·SLA 센터에서 오류율이나 p95 지연 규칙을 만들고 “지금 점검”을 실행해 보세요. 열린 이벤트를 확인 처리하면서 규칙, 이벤트와 실행 원장이 어떻게 연결되는지 볼 수 있습니다.

운영 환경에서는 인증된 스케줄 실행, 온콜 채널, 중복 억제, 복구 알림과 대응 절차를 더해야 합니다. 알림의 목적은 숫자를 많이 만드는 것이 아니라 문제를 더 빨리 발견하고 올바른 행동을 시작하는 것입니다.