AI 자동화7분
RAG 답변 품질을 메트릭 없이 지키는 법: 출처·임계값·방어 코드
RAG 답변 품질을 재는 정량 프레임워크가 있습니다. RAGAS, TruLens 같은 도구가 답변의 충실도(faithfulness), 관련성, 맥락 적합성을 점수로 냅니다. 처음엔 이런 걸 달아야 하나 고민했습니다. 그런데 막상 혼자 쓰는 RAG를 짜고 보니, 정량 점수보다 답이 거짓말을 안 하게 만드는 "코드"가 먼저…
DUOLABS BLOG
전체 글537
- AI 자동화6분
멀티모달 RAG의 현실: 모달을 섞지 않고 텍스트로 환원하는 이유
멀티모달 RAG라는 말을 처음 들었을 때, 이미지를 임베딩해서 문서 텍스트와 같은 벡터 공간에 올리는 걸 상상했습니다. CLIP 같은 모델로 그림과 글을 하나의 공간에 두면, "이런 느낌의 다이어그램 찾아줘" 같은 질문도 답이 나올 것 같았죠.
- AI 자동화6분
문서 RAG에 재고 981건을 같이 색인한 방법: 구조화 데이터의 텍스트화
RAG를 "문서 검색"이라고만 생각하면 놓치는 게 많습니다. 제가 실제로 자연어로 묻고 싶은 질문의 절반은 문서가 아니라 데이터베이스에 들어있는 구조화된 데이터에 대한 것이었습니다. "이 철제장에 뭐 있지", "이 브랜드 물건 중 정리 대기 걸린 건 뭐지", "유효기간 지난 거 있어?". 이런 건 문서로 안 적어둡니다.…
- AI 자동화7분
혼자 쓰는 RAG: 인증·권한을 빼고 남은 설계 결정들
ChatGPT에 문서를 전부 올리면 끝나는 일 아닌가,라고 한동안 생각했습니다. 그런데 제가 쓰는 데이터를 전부 올리는 건 사정이 달랐습니다. 재고 목록, 영업 리드, 기도 기록, 가계부까지 한 사람의 전 삶이 들어있는 DB였거든요. 그래서 로컬 LLM 기반 RAG를 직접 짰습니다. 이 글은 그 과정에서 내린, 그리고 …
- AI 자동화10분
[오픈소스 LLM 회사 분석 10] NVIDIA Nemotron: GPU 독점자가 모델까지 만드는 이유
9회 Cohere에 이어 열 번째이자 마지막은 NVIDIA입니다. 지금까지 다룬 아홉 회사는 전부 Llama·Qwen·Mistral을 기반 모델로 삼아 그 위에 자기 모델을 세웠습니다. NVIDIA는 그 기반 모델이 학습되고 추론되는 GPU를 만듭니다. 그 회사가 정작 자기 이름 붙은 모델(Nemotron)까지 직접 만…
- 웹 인프라11분
배포하면 CSS가 404: stale-while-revalidate 함정
"모바일에서 사이트가 이상해요."
- AI 자동화17분
RAG 답변이 얕은 이유: 검색이 아니라 청크 크기
사내 문서 1,290건을 넣어 둔 RAG 챗봇이 있습니다. 검색은 그럭저럭 맞는 문서를 찾아오는데, 답변이 계속 얕았습니다. 맞는 말이긴 한데 한 줄로 끝나거나, "문서에서 충분한 근거를 찾지 못했습니다"가 나오는 일이 잦았습니다.
- AI 자동화7분
[오픈소스 LLM 회사 분석 9] Cohere: 트랜스포머를 만든 사람이 세운 기업용 AI
8회 LG EXAONE에 이어 아홉 번째는 캐나다의 Cohere입니다. 이 회사는 시리즈 전체에서 가장 독특한 출발점을 가집니다. 설립자 한 명이 이 모든 회사가 쓰는 아키텍처의 원조라는 점입니다. 에이든 고메즈(Aidan Gomez)는 2017년 'Attention Is All You Need', 즉 트랜스포머 논문의…
- AI 자동화6분
[오픈소스 LLM 회사 분석 8] LG EXAONE: 한국어에 건 재벌의 베팅
7회 OpenAI에 이어 여덟 번째는 LG AI Research의 EXAONE입니다. 지금까지 다룬 회사와 결이 다릅니다. 미국·중국·유럽의 빅테크나 스타트업이 아니라, 한국 재벌이 만든 연구소이기 때문입니다. 그리고 한국어라는 '저자원 언어'에서 글로벌 모델이 커버 못 하는 빈틈을 노렸다는 점에서 독자적인 자리를 갖습…
- AI 자동화6분
[오픈소스 LLM 회사 분석 7] OpenAI gpt-oss: 폐쇄의 상징이 가중치를 연 이유
6회 Microsoft Phi에 이어 일곱 번째는 OpenAI입니다. 이 회사는 시리즈 전체에서 가장 모순적인 자리에 있습니다. 이름에 'Open'이 들어가지만, 실제로는 10년 가까이 가장 폐쇄적인 회사였거든요. 그래서 2025년 8월 5일 가중치를 공개했을 때의 충격은, 다른 어떤 회사의 발표보다 컸습니다.