Tag: LLM공부
All the articles with the tag "LLM공부".
-
AI 라우팅 #2 — 로컬 모델한테 OpenAI API 형식으로 말을 걸고 있었다
지난번에 세팅만 하고 안 읽었던 코드를 열어봤다. types.py 의 pydantic 모델부터 backends 의 추상 클래스까지 따라가다가, 로컬 ollama 에 보내는 요청이 OpenAI API 형식이라는 걸 알았다.
-
AI 라우팅 #1 — 큰 모델 하나면 되는데 작은 모델 넷으로 나눴다
프롬프트 내용에 따라 여러 오픈소스 LLM 으로 갈라 보내는 걸 맥북에서 먼저 해보기로 했다. 집 컴퓨터도 맥북도 사양이 모자라서 모델을 다시 골랐고, ollama 설치까지 끝냈다.
-
그래프 RAG 공부 #2 — SEARCH 는 문법 에러인데, 경고는 SEARCH 로 바꾸라고 했다
Neo4j 에 벡터 인덱스를 만들고 설비 설명을 임베딩해 노드 속성으로 붙였다. SEARCH 로 검색하려다 문법 에러가 나서 queryNodes 로 돌아갔는데, 그걸 실행하자 서버가 SEARCH 로 바꾸라는 경고를 냈다. 마지막에는 벡터로 찾은 설비의 알람까지 한 쿼리로 가져왔다.
-
그래프 RAG 공부 #1 — RETURN 을 속성으로 했더니 그래프가 안 나왔다
그래프 RAG 를 공부하기로 하고 Neo4j Aura 무료 인스턴스부터 만들었다. Cypher 로 노드와 관계를 만들어봤는데, 조회 결과가 표로만 나오고 그래프 뷰가 안 떴다. RETURN 에 무엇을 넘기느냐의 문제였다.