【GPT入门】第24课 langfuse介绍
- 1. langfuse概念与作用
- 2. 代码
- 3. 页面效果
- 4. 设计模式
-
-
- 1. 装饰器模式
- 2. 上下文管理模式
-
1. langfuse概念与作用
Langfuse是一款专为大规模语言模型（LLM）应用开发设计的开源平台。其作用主要包括以下几个方面：
- 提升开发效率：通过消除LLM应用构建与运维的复杂性，让开发者、运维团队及产品经理能更专注于核心开发与迭代优化，减少在监控与优化方面的资源投入。
- 优化应用质量：借助完备的行为追踪体系及多维度指标采集-可视化系统，破解LLM应用程序的“黑箱”困境，为数据驱动的技术决策提供支持，助力提升应用程序的性能表现、输出质量与成本控制。
- 实现时态可视化追踪：完整记录LLM应用执行链路的关键要素，如请求/响应、提示词、生成文本、模型调用参数及延迟时间等，帮助用户全面了解应用的运行过程。
- 提供日志系统与存储：通过Generations专项日志系统，结构化存储模型元数据、执行成本等关键参数，并在UI界面实现专用渲染，方便用户查看和分析。
- 支持性能全景监控：提供交互式仪表盘与可视化分析图表，实现应用性能全景监控，帮助用户精准定位瓶颈与优化点，还能进行特定场景或用户分群的精细化运营分析。
- 助力提示词评估与优化：基于数据集实现提示词评估自动化，集中记录和管理评估结果，通过自动评分与人工标注的双模评估体系，持续提升生成质量。
开源，支持 LangChain 集成或原生 OpenAI API 集成
官方网站：https://langfuse.com/
项目地址：https://github.com/langfuse
文档地址：https://langfuse.com/docs
API文档：https://api.reference.langfuse.com/
Python SDK: https://python.reference.langfuse.com/
JS SDK: https://js.reference.langfuse.com/
2. 代码
from langfuse.decorators import observe, langfuse_context
from langfuse.openai import openai # OpenAI integration
@observe()
def run():
return openai.chat.completions.create(
model="gpt-3.5-turbo",
messages=[
{
