目录
一、什么是LangChain?
二、LangChain解决了哪些问题?
三、LangChain总体架构
四、代码实践样例
总结
一、什么是LangChain?
为大模型应用提供简便之道。
LangChain,专为构建庞大的语言模型应用程序设计的框架,其角色和作用类似于Java领域的Spring框架。它极大地简化了开发者对大型语言模型应用的开发流程,提升了开发效率,同时降低了技术门槛。LangChain的模块化功能使开发者可以方便地将多个组件组合在一起,以组件化的方式构建复杂而具有特定业务逻辑的应用程序。
二、LangChain解决了哪些问题?
1. 开发效率问题
它通过提供一系列实用的工具和组件,LangChain极大地提高了开发效率,相当于spring在后端开发中的角色。开发者能够高效地定制工作流程,从而实现快速构建并部署基于语言模型的应用程序。
2. 模型选择问题
目前存在着众多的语言模型,为特定的任务挑选最合适的模型既费时又费力。因此,LangChain通过提供统一的接口和工具,抽象化底层模型的具体实现,让开发者能够更轻松地比较不同模型并进行模型切换,从而找到最适应特定应用需求的模型。
3. 数据时效性问题
由于语言模型训练所依赖的数据存在截止时间,无法反映截止时间之后产生的信息。因此,借助于LangChain's在线联网能力,开发者可轻松地获取到最新的内容,从而弥补了这一短板。
4. token的限制问题
大型语言模型如GPT在面临Token数量的限制时通常会力不从心,例如无法处理长篇PDF文件总结等任务。LangChain通过模块化的方式,使得开发者能够将复杂的任务分解成多个部分,从而有效地规避了这种限制。
5. 与外部交互问题
LangChain的Agents模块使语言模型能够和外部API以及数据库实现交互,扩展了模型能够执行的任务种类,如信息检索和数据库交互等,从而提升了模型的功能性和实用性。
三、LangChain总体架构
1、LangChain Libraries:这是一个包含多种组件接口和集成的库,可用于将这些组件集成成基本运行时的链和代理,同时也包括已经实现的链和代理。这个库由几个部分构成:
1)Langchain-core: 作为基本支撑,提供了链式表达式语言,支持并行处理、追踪、回调、批 量、流式操作、同步等功能。
2)Langchain-community:整合第三方工具,如模型操作、提示词模板、文件解析、分块、向量化、embedding等。
3)Langchain:提供了链(Chains)和代理(Agents)。链用于将多个步骤链接起来,处理复杂的业务逻辑;代理用于和外部API交互,拓展LangChain的功能,如数据库操作、接口调用、文件操作等。
2、LangChain Templates:提供了一系列容易部署的参考架构,适用于处理各种任务。
3、LangServe:用于将 LangChain 链部署为 REST API 的库。
4、LangSmith:一个开发者平台,LangSmith可以提供调试、测试、评估和监控基于任何语言模型框架构建的链。并且,它能够无缝地与LangChain进行集成。
四、代码实践样例
# 安装依赖 pip install langchain langchain-openai
from langchain_openai import ChatOpenAI
# 确认环境变量中已经配置OPENAI_API_KEY
llm = ChatOpenAI()
# 导入提示词模板
from langchain_core.prompts import ChatPromptTemplate
prompt = ChatPromptTemplate.from_messages([
("system", "You are world class technical documentation writer."),
("user", "{input}")
])
# LCEL语法操作
chain = prompt | llm
chain.invoke({"input": "how can langsmith help with testing?"})
# 引入输出解析器
from langchain_core.output_parsers import StrOutputParser
output_parser = StrOutputParser()
chain = prompt | llm | output_parser
chain.invoke({"input": "how can langsmith help with testing?"})
总结
LangChain作为一个大模型应用的构建框架,通过解决了诸多开发中的问题,为大模型应用的开发提供了有效的解决方案。帮助开发者在语言模型领域实现了许多复杂的操作,使其在构建现代、高效、安全的语言模型应用时更加轻松。
探索未知,分享所知;点击关注,码路同行,寻道人生!