AI 자동화7분
MIG와 NVLink의 차이: GPU를 자르는 기술과 잇는 기술
H100 서버 견적서를 보면 사양표에 NVLink 900GB/s가 적혀 있습니다. 그런데 GPU 한 장을 여러 사람이 나눠 쓰는 방법을 찾아보면 이번에는 MIG라는 말이 나옵니다. 둘 다 NVIDIA의 데이터센터 GPU 이야기이고, 이름 첫 글자도 비슷해서 같은 계열의 기능처럼 들립니다. 실제로는 방향이 정반대입니다.
DUOLABS BLOG
전체 글537
- AI 자동화9분
LLM 파인튜닝은 언제 필요할까?
사내 문서가 수천 건 있고, 그 내용을 아는 챗봇을 만들고 싶다고 해 보겠습니다. 이때 가장 먼저 떠오르는 방법이 파인튜닝입니다. 문서를 모델에 학습시키면 모델이 우리 회사를 알게 되고, 그러면 무엇을 물어도 답할 것 같습니다. 직관적이고, 이름부터 그럴듯합니다. 그런데 이 기대대로 되지 않는 경우가 많고, 같은 목적이…
- AI 자동화7분
허깅페이스와 Ollama의 차이: 모델 저장소와 실행기
로컬 LLM을 처음 돌릴 때는 대개 Ollama부터 깝니다. ollama run llama3.2 한 줄이면 모델이 받아지고, 터미널에서 바로 대화가 됩니다. 그러다 모델 이름을 검색하면 결과 맨 위에 허깅페이스(Hugging Face) 페이지가 뜹니다. 같은 모델인데 파일이 수십 개 있고, 이름 뒤에 GGUF, Q4KM…
- 기획8분
FDE는 상주 파견과 무엇이 다를까? 팔란티어식 현장 배치 엔지니어
팔란티어의 Forward Deployed Software Engineer 채용 공고에 있는 문장입니다. 「왜 비행기 지연이 이렇게 많은가」, 「자금 세탁을 어떻게 더 잘 찾아낼 것인가」. 개발자에게 주는 일감이 기능 목록이 아니라 질문입니다.
- 기획10분
PoC(개념 증명)는 왜 유료여야 할까? 성공 기준부터 정하는 시범 적용
「2주 동안 무료로 시범 적용해 드리겠습니다. 써 보시고 판단하세요.」
- 웹 인프라7분
Vercel 커스텀 도메인에 HTTPS 인증서가 안 붙을 때: 도메인을 DNS보다 먼저 추가한 경우
고객사 업무 시스템을 고객사 도메인의 서브도메인(shop.고객사도메인)에 붙이는 일이었습니다. 기존 홈페이지를 맡은 호스팅 업체에 CNAME 한 줄을 부탁했고, 이틀 뒤 「넣었다」는 답이 왔습니다. 그런데 주소를 열면 연결이 안 된다는 연락이 이어서 왔습니다.
- 데이터베이스 설계11분
공정관리 시스템, 공정 단계를 직접 바꾸는 기능이 꼭 필요할까?
제조 고객사의 공정관리 앱을 만들면서 계약서에 이런 한 줄이 들어갔습니다. 「직원이 공정 단계를 직접 정의하고, 진행 상태를 기록한다.」 진행 상태 기록은 이미 넘치게 만들어 둔 뒤였습니다. 남은 것은 「정의」 쪽이었고, 처음에는 설정 화면 하나면 끝날 일로 보였습니다.
- AI 자동화8분
컨텍스트 컴팩션과 리셋: 긴 에이전트 작업의 대화 이력 관리법
긴 작업 중간에 코딩 에이전트가 Conversation compacted라는 한 줄을 띄웁니다. 작업은 끊기지 않고 이어집니다. 그런데 몇 턴 뒤 에이전트가 앞에서 안 된다고 결론 내린 방법을 다시 꺼내 듭니다. 고친 적 있는 파일 경로를 한 글자 틀리게 부르기도 합니다.
- 보안10분
서버 침해의 폭발 반경 줄이기: VLAN, 출구 방화벽, VM 분리 비교
웹 서비스 하나가 도커 컨테이너로 떠 있다고 해 보겠습니다. 포트는 리버스 프록시 뒤에 있고, 관리 화면은 막혀 있고, 비밀번호는 길고 무작위입니다. 입구는 잘 잠겨 있습니다.
- 보안6분
VLAN만으로 망이 격리될까? 라우팅과 방화벽 규칙의 역할
업무용 PC는 VLAN 10, 손님용 Wi-Fi는 VLAN 20으로 나눴다고 해 보겠습니다. 손님 Wi-Fi에 붙은 노트북에서 업무망 프린터 주소로 ping을 보냅니다. 많은 경우 응답이 돌아옵니다.