AI 자동화 프로젝트 자동화 프레임워크

Manifest (매니페스트)

에이전트와 AI 앱의 요청을 여러 모델 제공사 사이에서 라우팅하고, 실패 시 다른 모델로 넘김과 비용 추적을 한곳에 묶는 오픈소스 모델 라우터

원본

Manifest (매니페스트)은(는) 여러 환경에서 자동화 흐름을 설계하고 운영하는 데 도움이 되는 자동화 프레임워크입니다. 문서가 어느 정도 갖춰져 있고 유지 신호도 보여서 스타 5855개와 외부 언급 10개를 함께 보면 먼저 살펴볼 만합니다.

저장소 mnfst/manifest
스타 5855
외부 언급 10
유지보수 2026-05-02 최신 push, open issues 45
라이선스 MIT

환경

환경 정보는 아직 없어.

좋은 용도

OpenAI·Anthropic·로컬 모델을 섞어 쓰고 모델별 비용을 요청 단위로 보고 싶은 팀에이전트 작업 흐름에서 실패 시 다른 모델로 넘기고 팀별 예산 한도 알림을 걸어야 하는 경우라우팅 규칙과 비용 기록을 애플리케이션 코드 밖으로 빼려는 팀모델 제공사가 2곳 이상이고 실패 처리 규칙이 여러 개 생길 때

설치

Cloud app으로 바로 시작하거나, Docker로 `docker pull manifestdotbuild/manifest` 후 직접 운영한다. legacy manifest npm 패키지는 deprecated.

사용 예시

여러 제공사의 API 키와 로컬·사내 모델을 한곳에 등록하고, 앱은 /auto 주소로 요청을 보내면 Manifest가 질문 난이도를 보고 모델을 골라요.

연동 방식

OpenAI-compatible 엔드포인트로 붙여 요청별 비용을 기록하고 limit notification을 걸며, 실패하면 다음 모델로 넘기는 규칙을 여기서 관리해요.

리뷰

Manifest는 앱이 LLM에게 바로 묻지 않고 중간 서버에 먼저 요청을 보내게 하는 도구예요. 그 서버OpenAI, Anthropic, 로컬 모델, 사내 모델 중 어디로 보낼지 고르고, 실패하면 다른 모델로 넘겨요. 요청별 비용을 기록하고 예산 알림을 걸어, 쉬운 요청·어려운 요청·실패한 요청을 나누는 규칙을 애플리케이션 코드 밖으로 빼려는 developer tools에 가까워요. APISDK보다 뒤쪽에서 어떤 모델로 보낼지와 비용을 관리하는 자리를 맡아요.

사용 예시

여러 모델 제공사의 API 키, 이미 구독 중인 계정, 로컬 모델, 사내 호출 주소를 한곳에 등록해요. 앱은 /auto 주소로 요청을 보내고, Manifest는 질문 난이도나 요청 조건을 보고 모델을 골라요. 배포 전에는 /auto 요청 로그, 예산 알림 기준, 키 교체 절차를 확인하고, 실패하면 다음 모델로 넘기는 규칙을 걸어 둬요.

확인할 점

README의 비용 절감 수치는 프로젝트 쪽 주장이라, 실제 절감률은 요청 구성·실패 처리 규칙·제공사 가격표·재시도 정책에 따라 달라져요. 모델 선택 규칙이 잘못되면 저렴한 모델 절감보다 실패 재시도와 품질 하락 비용이 커질 수 있어요. 또 모든 프롬프트·키·응답 메타데이터가 중앙 서버를 지나가니, 직접 운영하더라도 감사 로그·키 교체·제공사별 데이터 보관 조건을 같이 검토해야 해요. 모델이 1~2개뿐이고 요청량이 작다면 라우팅 서버·로그·비밀키 관리가 오히려 더 큰 일이 됩니다.