한 줄 정의

Agent Platform은 여러 AI 에이전트를 만들고 배포하고 통제하는 방식을 한곳에 묶는 운영 프레임워크야. Agent가 모델 호출 한 번으로 끝나지 않고 도구 호출, 메모리, 실행 환경, 권한, 로그, 평가를 계속 물고 갈 때 그 수명주기를 표준화하는 층이라고 보면 돼. 모델은 답을 만드는 계산 단위고, 에이전트 플랫폼은 그 모델을 쓰는 에이전트를 배포·통제·관측하는 운영 구조야.

이 말이 나오면 먼저 모델 이름과 분리해서 읽어야 해. 예를 들어 Google의 Gemini Enterprise Agent Platform은 Vertex AI의 모델 선택과 에이전트 빌드 기능에 Agent Runtime, Identity, Registry, Gateway, Observability를 붙인 구체 제품이야. 반대로 “agent platform”이라는 일반 용어는 이런 기능 묶음 자체를 가리킬 때도 있어.

실제로 무엇을 하나

에이전트 플랫폼은 기능 목록보다 책임 경계를 보는 편이 좋아. 보통 네 가지를 맡아.

  • 만들기: 낮은 코드 화면이나 SDK에서 에이전트 로직을 만들고, function calling이나 MCP 같은 도구 연결 방식을 정해.
  • 실행하기: Runtime이나 샌드박스에서 에이전트를 배포하고, 장기 작업이나 이벤트 기반 작업을 돌려.
  • 통제하기: 에이전트별 신원, 레지스트리, 게이트웨이, 접근 정책, 감사 로그를 둬서 누가 어떤 도구를 썼는지 남겨.
  • 개선하기: 시뮬레이션, eval, 관측 대시보드, 실패 로그를 보면서 프롬프트와 도구 흐름을 고쳐.

예를 들어 고객지원 에이전트를 만든다면 모델만 고르면 끝나지 않아. 환불 정책 문서를 읽는 권한, CRM에 접근하는 서비스 계정, 상담 이력 저장 방식, 잘못된 도구 호출을 막는 승인 규칙, 실패한 대화의 로그를 같이 설계해야 해. 이 묶음을 직접 다 만들면 내부 플랫폼이고, Google Cloud나 Alibaba Cloud 같은 벤더가 관리형으로 주면 클라우드 에이전트 플랫폼에 가까워져.

다른 장면은 사내 데이터 분석 에이전트야. BigQuery나 Pub/Sub 같은 데이터 흐름에 붙여 배치 작업을 돌리고, 여러 하위 에이전트가 리서치·쿼리·요약을 나눠 맡게 할 수 있어. 이때 중요한 건 context window가 1M인지보다 어떤 데이터에 접근했고, 어떤 결과를 남겼고, 실패했을 때 어디서 다시 볼 수 있는지야.

왜 중요한가

이 용어가 중요한 이유는 에이전트 도입이 “좋은 모델 하나 고르기”에서 점점 “운영 가능한 작업 단위 만들기”로 넘어가기 때문이야. Google Cloud Blog는 2026년 4월 23일 새 플랫폼을 Vertex AI의 evolution으로 소개했고, 앞으로 Vertex AI 서비스와 로드맵 변화가 독립 서비스가 아니라 이 경로로 제공된다고 적었어.

모델 문서만 보면 다른 판단을 하게 돼. Gemini 2.5 Flash 상세 문서는 gemini-2.5-flash 모델 ID, 텍스트·코드·이미지·오디오·비디오 입력, 텍스트 출력, 최대 입력 1,048,576토큰, 기본 최대 출력 65,535토큰을 알려 줘. 이건 모델을 고를 때 필요한 정보야. 에이전트 플랫폼 판단은 여기에 더해 장기 실행, 세션, 메모리, 레지스트리, 게이트웨이, 관측, 비용 라벨까지 같이 보는 일이야.

AI Studio와의 차이도 여기서 갈려. AI Studio는 프롬프트와 도구 설정을 빠르게 시험해 보는 작업실에 가깝고, 에이전트 플랫폼은 그 실험을 조직의 권한·배포·로그 체계 안으로 넣는 운영 프레임워크에 가까워. 프로토타입은 전자에서 빠르게 만들 수 있지만, 사내 데이터와 결제, 고객 기록, 감사 로그가 붙으면 후자의 문제가 바로 커져.

주의해서 볼 점

첫째, “platform”이라는 말이 붙어도 어디까지 책임지는지 확인해야 해. 어떤 제품은 모델 선택과 API 호출만 제공하고, 어떤 제품은 런타임·권한·관측까지 같이 맡아. Agent Platform이라고 부를 만한지는 에이전트 수명주기 전체를 다루는지로 봐야 해.

둘째, 큰 context window가 곧 좋은 에이전트 플랫폼이라는 뜻은 아니야. 긴 입력을 넣을 수 있어도 권한 분리, 도구 오류 처리, 비용 추적, 로그 재현성이 약하면 운영 품질은 낮아져. 모델 스펙표와 플랫폼 거버넌스는 서로 다른 채점표야.

셋째, 벤더 의존도를 과소평가하면 안 돼. Google 쪽 플랫폼은 Cloud 데이터, 보안, Vertex AI 자산과 강하게 맞물리고, Alibaba Cloud Model Studio는 Qwen 계열과 OpenAI 호환 API, 지식 검색, 에이전트 앱을 Alibaba Cloud 콘솔 안에서 묶어. 이미 어느 클라우드에 데이터와 권한 체계가 있는지가 모델 점수보다 더 크게 작동할 수 있어.