Agentic AI Platform
2분 읽기
AI 플랫폼의 설계, 모델 서빙, 운영, 구현 예제를 다룹니다. 목적에 따라 아래 경로에서 시작할 수 있습니다.
추천 시작 경로
- 설계: 아키텍처 → 구현 방식 비교
- 구축: 모델 서빙 → Reference Architecture
- 운영: 운영 & 거버넌스
문서 구성
설계 & 아키텍처
3 항목모델 서빙 & 추론 인프라
3 항목운영 & 거버넌스
3 항목Reference Architecture
3 항목배경
이 매뉴얼은 플랫폼 아키텍트와 엔지니어가 요구사항을 설계 결정, 배포 구성, 운영 지표로 연결하도록 구성했습니다. 관리형 서비스와 EKS 기반 구성은 데이터 경계, 모델 제어 범위, 운영 역량에 따라 선택하거나 함께 사용할 수 있습니다. 단일 모델과 다중 모델 중 어느 쪽이 적합한지도 실제 업무의 품질·지연·비용 평가로 결정합니다.
아키텍처 문서의 6개 런타임 레이어와 3개 공통 플레인은 플랫폼의 책임을 구분합니다. 모델 서빙 문서의 L0–L5 튜닝 계층은 추론 성능을 분석하는 별도 관점입니다. 같은 번호로 대응하지 않으며, 구현 절차는 Reference Architecture에서 확인합니다. 모델 교체 시에는 API 형식뿐 아니라 도구 호출, 출력 형식, 평가 결과의 호환성도 확인해야 합니다.
관련 카테고리
- AIDLC — AI Development Lifecycle 및 AgenticOps
- EKS Hybrid Nodes — 하이브리드 환경의 AI 배포
- EKS Best Practices — EKS 운영 베스트 프랙티스