AI 자동화7분
혼자 쓰는 RAG: 인증·권한을 빼고 남은 설계 결정들
ChatGPT에 문서를 전부 올리면 끝나는 일 아닌가,라고 한동안 생각했습니다. 그런데 제가 쓰는 데이터를 전부 올리는 건 사정이 달랐습니다. 재고 목록, 영업 리드, 기도 기록, 가계부까지 한 사람의 전 삶이 들어있는 DB였거든요. 그래서 로컬 LLM 기반 RAG를 직접 짰습니다. 이 글은 그 과정에서 내린, 그리고 …
DUOLABS BLOG
전체 글354
- AI 자동화10분
[오픈소스 LLM 회사 분석 10] NVIDIA Nemotron: GPU 독점자가 모델까지 만드는 이유
9회 Cohere에 이어 열 번째이자 마지막은 NVIDIA입니다. 지금까지 다룬 아홉 회사는 전부 Llama·Qwen·Mistral을 기반 모델로 삼아 그 위에 자기 모델을 세웠습니다. NVIDIA는 그 기반 모델이 학습되고 추론되는 GPU를 만듭니다. 그 회사가 정작 자기 이름 붙은 모델(Nemotron)까지 직접 만…
- 웹 인프라11분
배포하면 CSS가 404: stale-while-revalidate 함정
"모바일에서 사이트가 이상해요."
- AI 자동화17분
RAG 답변이 얕은 이유: 검색이 아니라 청크 크기
사내 문서 1,290건을 넣어 둔 RAG 챗봇이 있습니다. 검색은 그럭저럭 맞는 문서를 찾아오는데, 답변이 계속 얕았습니다. 맞는 말이긴 한데 한 줄로 끝나거나, "문서에서 충분한 근거를 찾지 못했습니다"가 나오는 일이 잦았습니다.
- AI 자동화7분
[오픈소스 LLM 회사 분석 9] Cohere: 트랜스포머를 만든 사람이 세운 기업용 AI
8회 LG EXAONE에 이어 아홉 번째는 캐나다의 Cohere입니다. 이 회사는 시리즈 전체에서 가장 독특한 출발점을 가집니다. 설립자 한 명이 이 모든 회사가 쓰는 아키텍처의 원조라는 점입니다. 에이든 고메즈(Aidan Gomez)는 2017년 'Attention Is All You Need', 즉 트랜스포머 논문의…
- AI 자동화6분
[오픈소스 LLM 회사 분석 8] LG EXAONE: 한국어에 건 재벌의 베팅
7회 OpenAI에 이어 여덟 번째는 LG AI Research의 EXAONE입니다. 지금까지 다룬 회사와 결이 다릅니다. 미국·중국·유럽의 빅테크나 스타트업이 아니라, 한국 재벌이 만든 연구소이기 때문입니다. 그리고 한국어라는 '저자원 언어'에서 글로벌 모델이 커버 못 하는 빈틈을 노렸다는 점에서 독자적인 자리를 갖습…
- AI 자동화6분
[오픈소스 LLM 회사 분석 7] OpenAI gpt-oss: 폐쇄의 상징이 가중치를 연 이유
6회 Microsoft Phi에 이어 일곱 번째는 OpenAI입니다. 이 회사는 시리즈 전체에서 가장 모순적인 자리에 있습니다. 이름에 'Open'이 들어가지만, 실제로는 10년 가까이 가장 폐쇄적인 회사였거든요. 그래서 2025년 8월 5일 가중치를 공개했을 때의 충격은, 다른 어떤 회사의 발표보다 컸습니다.
- AI 자동화7분
[오픈소스 LLM 회사 분석 6] Microsoft Phi: 작은 것이 아름답다는 증명
5회 DeepSeek에 이어 여섯 번째는 Microsoft입니다. 지금까지의 회사들이 '누가 가장 크게 만드느냐'로 경쟁했다면, Microsoft는 반대 방향에서 '얼마나 작게 만들 수 있느냐'를 물었습니다. 그리고 그 작은 모델이 GPT-3.5급 품질에 도달한다는 것을 증명해, 업계 전체의 스케일링 신앙에 금을 냈습니…
- AI 자동화8분
[오픈소스 LLM 회사 분석 5] DeepSeek: 헤지펀드가 만든 스푸트니크 충격
4회 Alibaba Qwen에 이어 다섯 번째는 DeepSeek입니다. 지금까지의 회사들과 결이 다릅니다. 출신이 빅테크도 연구소도 아닌, 양적 헤지펀드이기 때문입니다. 그래서 이 회사의 이야기는 '어떻게 만들었느냐'보다 '어떻게 세계를 흔들었느냐'로 읽힙니다.
- AI 자동화8분
[오픈소스 LLM 회사 분석 4] Alibaba Qwen: Llama 위에 세운 거대 공룡
3회 Mistral에 이어 네 번째는 Alibaba의 Qwen입니다. 이 회사는 특이한 출발점을 가졌습니다. 첫 모델의 아키텍처가 Meta의 Llama를 기반으로 했다는 점입니다. 1회에서 Meta가 Llama를 풀어 생태계 표준을 잡겠다고 했었는데, 그 전략이 가장 큰 경쟁자인 중국을 키운 꼴이 되었습니다.