[AI/LLM] Langfuse 설치 및 사용 가이드 (Docker 기반)
·
AI Study/[LLM]
1. 들어가며기존 소프트웨어 개발에는 Datadog, Sentry 같은 모니터링 도구가 필수입니다. 그런데 LLM 애플리케이션은 어떤가요?"RAG 체인 중 검색이 느린 건지, LLM 생성이 느린 건지 모르겠음.""지난달보다 토큰 비용이 2배 늘었는데, 어떤 프롬프트 때문인지 모름.""프롬프트 수정을 엑셀이나 노션 등으로 공유하고 있음."이런 '블랙박스' 상태를 해결해 주는 것이 바로 LLM Observability(관측 가능성) 플랫폼입니다. 오늘은 그중에서도 오픈소스이자 Self-Hosting이 강력한 Langfuse에 대해 알아봅니다.Langfuse 공식 링크: https://github.com/langfuse/langfuse GitHub - langfuse/langfuse: 🪢 Open sourc..