AI 트렌드6분
OpenAI Decisions API와 Jev: 텍스트 대신 선택지를 돌려주는 결정 모델
문의 메일 한 통을 받아서 결제, 배송, 기타 중 어디로 보낼지 정하는 코드가 있다고 해 보겠습니다. 요즘 이 코드는 대개 LLM을 부릅니다. 프롬프트에 선택지 셋을 적고, JSON으로 답하라고 시키고, 돌아온 문자열을 파싱합니다. 필요한 것은 단어 하나인데 모델은 그 단어를 한 토큰씩 만들어 냅니다.
문의 메일 한 통을 받아서 결제, 배송, 기타 중 어디로 보낼지 정하는 코드가 있다고 해 보겠습니다. 요즘 이 코드는 대개 LLM을 부릅니다. 프롬프트에 선택지 셋을 적고, JSON으로 답하라고 시키고, 돌아온 문자열을 파싱합니다. 필요한 것은 단어 하나인데 모델은 그 단어를 한 토큰씩 만들어 냅니다.