한 줄 정의

LlamaIndex는 문서, 데이터베이스, API 같은 바깥 지식을 LLM에 연결하는 프레임워크야. 새 모델을 학습시키는 도구라기보다 이미 있는 모델이 필요한 정보를 더 잘 찾아오게 만드는 연결층이라고 보면 돼.

어떻게 작동하나

보통은 문서를 읽어 조각내고, 인덱스와 메타데이터를 붙여서 나중에 찾기 쉽게 준비해 둬. 사용자가 질문하면 관련 조각을 꺼내 모델 프롬프트에 붙이거나, 쿼리 엔진과 에이전트 흐름에 연결해서 답을 만들게 해.

왜 중요한가

실무의 많은 문제는 모델이 더 똑똑하냐보다 회사 문서와 업무 데이터를 제대로 찾느냐에 달려 있어. LlamaIndex는 바로 그 검색 연결부를 다루기 때문에 RAG 시스템, 문서 QA, 도구 호출형 에이전트를 만들 때 자주 기준 도구로 언급돼.

주의해서 볼 점

프레임워크를 쓴다고 검색 품질이 자동으로 좋아지지는 않아. 문서를 어떻게 쪼개는지, 어떤 메타데이터를 붙이는지, 벡터 검색과 재정렬을 어떻게 섞는지에 따라 결과 차이가 크게 나.

관련 용어

  • langchain은 앱 전체 오케스트레이션을 넓게 다루는 프레임워크라서 LlamaIndex와 자주 비교돼.
  • rag는 검색 결과를 생성 단계에 붙이는 방식 자체를 말하고, LlamaIndex는 그 방식을 실제 시스템으로 구현할 때 자주 쓰여.
  • tool-use는 모델이 바깥 도구를 부르는 흐름을 뜻하고, LlamaIndex는 검색기나 쿼리 엔진을 그런 도구로 엮을 때 많이 등장해.
  • embedding은 문서 조각을 벡터로 바꿔 비슷한 내용을 찾게 하는 기반이라서 LlamaIndex의 검색 설계를 이해할 때 같이 봐야 해.