DUOLABS AI 기능 탐구 14: LLM 인프라 상태를 한눈에 보는 3D 서버룸

DUOLABS AI 기능 탐구 열네 번째 글은 로컬·클라우드 LLM 인프라의 상태와 모델 배치를 공간적으로 보여주는 3D 서버룸입니다.

AI 기능이 많아지면 사용자는 답변 오류만 보지만 운영자는 어느 공급자, 어느 서버와 어느 모델에서 문제가 시작됐는지 찾아야 합니다. 서버룸은 흩어진 인프라 상태를 한 장면으로 묶어 현재 상황을 빠르게 파악하도록 돕습니다.

기능 직접 보기: DUOLABS AI 3D 서버룸

서버룸은 공개 데모 화면입니다. 표시되는 구성은 운영 권한이나 장애 대응 권한을 제공하지 않습니다. 공개된 서버·모델 정보를 다른 시스템의 접속 단서로 사용하거나 자동 수집하지 마세요.

3D 화면은 상태 관계를 빠르게 읽게 합니다

서버룸의 각 랙은 하나의 로컬 또는 클라우드 AI 실행 지점을 나타냅니다. 상태 색상과 서버 칩으로 온라인 여부를 확인하고, 랙을 선택하면 다음 정보를 볼 수 있습니다.

서버의 온라인·오프라인 상태

상태 확인 왕복 시간

사용할 수 있는 모델 수

현재 로드된 모델 수

모델별 용도, 규모, 양자화와 파일 크기

목록과 표는 정확한 비교에 좋고 3D 장면은 여러 서버의 관계와 이상 상태를 빠르게 발견하는 데 유리합니다. 전체화면, 자동 순회와 선택 상세를 함께 제공해 큰 관제 화면과 모바일에서도 살펴볼 수 있습니다.

상태는 10초마다 새로 확인합니다

페이지가 열릴 때 첫 인프라 스냅샷을 가져오고, 이후 브라우저가 10초 간격으로 상태를 갱신합니다. 갱신 요청이 실패하면 화면을 비우지 않고 마지막으로 성공한 스냅샷을 유지한 뒤 다음 주기에 다시 시도합니다.

초기 상태 조회
→ 3D 장면 표시
→ 10초마다 새 상태 요청
├─ 성공: 화면 갱신
└─ 실패: 마지막 상태 유지 후 다음 주기 재시도

이 방식은 일시적인 네트워크 오류로 화면 전체가 사라지는 일을 줄입니다. 반대로 마지막 상태가 현재 상태처럼 보일 수 있으므로 운영 화면에는 마지막 갱신 시각과 데이터 신선도 경고도 함께 두는 것이 좋습니다.

모델 수와 로드 상태는 서로 다릅니다

서버에 설치된 모델 수는 사용할 수 있는 후보의 수입니다. 로드된 모델 수는 지금 메모리에 올라와 즉시 추론할 준비가 된 모델의 수입니다. 설치돼 있지만 로드되지 않은 모델은 첫 요청에서 준비 시간이 더 걸릴 수 있습니다.

상태 확인 지연도 실제 생성 속도와 같지 않습니다. 네트워크 도달성과 목록 조회 시간을 빠르게 보는 지표일 뿐, 첫 토큰 시간과 초당 토큰 수, 동시 요청 처리량은 실제 추론 부하로 별도 측정해야 합니다.

시각화와 관측 시스템의 역할을 구분합니다

3D 서버룸은 관제 경험을 직관적으로 만들지만 전문 모니터링 시스템을 대체하지 않습니다. 실서비스에는 다음 데이터가 추가로 필요합니다.

CPU·GPU·메모리와 디스크 사용률

요청 수, 대기열, 첫 토큰과 전체 지연 분포

오류율, 타임아웃과 재시도 횟수

모델 로딩·언로딩 이벤트

온도, 전력과 용량 임계치

알림, 당직자 통보와 장애 이력

서버룸은 이런 지표로 들어가는 빠른 입구가 되고, 상세 분석과 알림은 시계열 모니터링·로그 시스템이 담당하는 구성이 좋습니다.

인프라 정보도 보호 대상입니다

서버 이름, 내부 주소, 모델 목록과 용량 정보는 공격자가 시스템 구조를 추정하는 데 사용할 수 있습니다. 운영 환경에서는 사용자 역할에 따라 보이는 범위를 나누고 내부 주소 대신 안전한 식별자를 사용해야 합니다.

브라우저가 직접 내부 AI 서버에 접속하게 만들지 말고, 권한을 검증하는 서버 측 관제 API를 통해 필요한 상태만 전달해야 합니다. 외부 공개 화면에는 상세 모델명과 네트워크 토폴로지를 숨기는 편이 안전합니다.

공개 데모에서 직접 살펴보기

DUOLABS AI 3D 서버룸에서 랙을 선택해 모델 정보와 상태 지표를 확인해 보세요. 자동 순회는 여러 서버를 차례로 보여주며, 오프라인 상태가 있다면 우선 살펴볼 수 있게 돕습니다.

화려한 화면보다 중요한 것은 상태의 의미와 갱신 시각입니다. 실서비스에서는 실제 경보 체계, 접근통제와 장애 대응 절차를 먼저 설계하고 시각화는 그 위에 얹어야 합니다.