고급 패턴

개요

프로덕션 Agentic AI 시스템의 성능을 지속적으로 향상시키기 위한 고급 설계 패턴입니다. Self-Improving Agent Loop는 인간 피드백과 자동 평가를 결합해 Agent 동작을 개선하는 폐쇄 루프 아키텍처를 제공하며, ADR 문서는 설계 결정의 근거와 트레이드오프를 기록합니다. Knowledge Feature Store는 온톨로지·Knowledge Graph를 결합한 3-plane 특성 관리를, Semantic Caching은 LLM Gateway 레벨의 의미 기반 캐싱 최적화를 다룹니다.

문서 목록

📄️ Self-Improving Loop

Karpathy의 autosearch 개념을 기반으로 self-hosted SLM이 프로덕션 trace로부터 스스로 학습·강화하는 5-stage 루프 설계와 안전장치

📄️ ADR: Self-Improving Loop

Self-Improving Agent Loop(자가학습 강화 파이프라인)를 실 운영에 도입하기 전 합의해야 할 원칙·스코프·책임·롤백 경계를 정리한 Architecture Decision Record

📄️ Knowledge Feature Store

전통 Feature Store에 온톨로지·Knowledge Graph를 통합하여 환각 감소·근거 추적·도메인 엔터티 활용을 강화하는 3-plane 설계

📄️ Semantic Caching

LLM Gateway 레벨 의미 기반 캐싱 전략과 구현 옵션 비교 (GPTCache, Redis Semantic Cache, Portkey, Helicone, Bifrost+Redis)