한 줄 정의

Chroma는 문서, 메타데이터, 임베딩을 함께 저장해 AI 앱의 retrieval를 빠르게 붙이는 오픈소스 저장소야. 특히 RAG 프로토타입에서 관련 문서를 다시 꺼내 오는 첫 retrieval 계층으로 이해하면 가장 정확해.

실제로 무엇을 하나

문서와 메타데이터를 컬렉션에 넣고 임베딩을 저장해 두면, 질의가 들어왔을 때 벡터 유사도와 필터 조건을 함께 써서 결과를 꺼내. 예를 들어 lang=ko와 lang=ko처럼 필터 2개를 거는 장면은 기능 상한을 말하는 게 아니라, 메타데이터 조건을 곁들여 후보를 좁히는 가정 예시야. 이 흐름은 코드 검색에서 README, ADR, API 문서를 함께 묶어 맥락을 찾거나, 문서 검색에서 FAQ와 매뉴얼을 묶어 답변 후보를 만드는 장면에 잘 맞아.

왜 중요한가

Chroma가 자주 언급되는 이유는 retrieval 스택을 빠르게 붙여 보려는 프로토타입 단계에서 마찰이 낮기 때문이야. 여기서 1~2일은 공식 구축 시간 약속이 아니라, 작은 자료 묶음으로 retrieval 흐름을 빨리 붙여 평가해 보는 가정 예시야. 문서 200~500개도 공식 권장 규모가 아니라 사내 가이드나 저장소 문서를 한 컬렉션에 묶어 검색 품질 감을 먼저 보는 초기 실험 장면을 가리키는 숫자야. 그래서 이 이름이 보이면 운영형 검색 엔진 전체를 바로 사는 장면이라기보다, 검색 흐름을 먼저 검증하는 제품 실험 단계인지부터 읽어야 해.

주의해서 볼 점

판단 기준은 분명해. 지금 필요한 게 프로토타입용 retrieval 저장소인지, 아니면 권한 분리와 백업, 장기 운영까지 먼저 봐야 하는 운영형 검색 엔진인지를 먼저 갈라야 해. 이 축은 Chroma 공식 문서와 LangChain의 Chroma 통합 문서가 빠른 retrieval 출발점을 설명하는 방식, 그리고 Qdrant 소개가 production-grade search를 전면에 두는 방식을 비교해 보면 더 또렷해져. 한 팀이 검색 흐름을 빠르게 시험하는 단계라면 Chroma가 좋은 출발점이지만, 운영 성숙도와 비교가 먼저라면 Pinecone, Qdrant, Weaviate 같은 선택지를 같이 보는 편이 맞아. 즉 Chroma는 검색을 바로 붙여 보는 저장소 쪽에 가깝고, 운영 요구가 이미 분명한 팀이라면 건너뛰는 판단도 충분히 합리적이야.