본문으로 건너뛰기

11개 문서가 "langfuse" 태그에 분류되었습니다

모든 태그 보기

AI Agent 모니터링 및 운영

Langfuse 기반 Agent 모니터링 운영 전용 문서 — 모니터링 아키텍처·핵심 메트릭·PromQL·알림·비용 추적 (도구 비교는 LLMOps Observability 문서 참조)

Cascade Routing 실전 튜닝

Inference Gateway Cascade Routing의 분류 임계값·Canary 롤아웃·Fallback·비용 드리프트 경보를 프로덕션 trace 기반으로 튜닝하는 가이드

LLM 서빙 최적화를 위한 모니터링 전략

캐시 효율·KV 용량·지연·라우팅 지표를 7개 관측 계층으로 연결하고, 스트림 완료·평가 커버리지·품질 점수를 구분하여 서빙 최적화의 효과와 회귀를 검증하는 운영 전략입니다.

LLMOps Observability 비교 가이드

LLMOps Observability 도구 비교 전용 문서 — Langfuse·LangSmith·Helicone·CloudWatch 선택 기준과 하이브리드 아키텍처 (Langfuse 운영은 Agent 모니터링 문서 참조)

Prefix 캐시 히트율 튜닝과 정확도 상관 검증

Prefix 캐시 튜닝의 효율 개선과 품질 회귀를 구분하기 위해 cached 토큰·턴 간격·preemption의 데이터 계약, 상관 분석의 한계, 비열등성 기반 품질 게이트를 정의하는 운영 가이드입니다.

Trace → Dataset Materializer

승인·비식별화한 Langfuse generation을 Parquet 후보 데이터로 내보내고 명시적 evaluator 계약으로 점수를 부여합니다. GRPO/DPO 입력 변환은 별도 단계입니다.

관측성 & 모니터링

Agent 실행 추적·LLM 서빙 최적화 모니터링·캐시 튜닝 품질 검증·에이전트 수명주기 관측성을 다루는 문서 모음