Tag: llm
All the articles with the tag "llm".
-
LLM에게 도구를 쥐여주기 — Claude Tool Use와 에이전트 루프
LLM은 큰 수 계산도, 오늘 날씨도 모른다. 그 약점을 외부 함수 호출로 메우는 Tool Use를 처음 만져봤다. 메시지 흐름, 다중 도구 자동 선택, 에이전트 루프까지.
-
Claude API 스트리밍 — TTFT가 왜 중요하고, 이벤트는 어떻게 흐르는가
스트리밍은 단순한 'LLM처럼 글자가 흘러나오는 효과'가 아니다. 같은 총 시간이라도 사용자가 첫 결과를 보기까지의 시간(TTFT)이 달라지고, 그 차이가 UX의 핵심이다. 그리고 그걸 받는 이벤트 순서도 직접 찍어봤다.
-
시스템 프롬프트가 user 메시지와 다른 점 — 페르소나 일관성과 JSON 출력 강제
Claude API에서 페르소나를 실험하다 마주친 의문: 시스템 프롬프트와 'user 메시지에 ~이렇게 해줘'를 그냥 적는 건 어떻게 다른가? 일관성·보안·출력 강제 측면에서 정리했다.
-
Claude API는 기억하지 않는다 — 멀티턴 대화에서 컨텍스트를 유지하는 법
API는 stateless다. assistant 메시지를 messages 배열에 누적해서 보내야 챗봇이 직전 대화를 기억한다. 직접 비교 실험으로 확인했다.