AI大模型探索之路-应用篇2：Langchain框架ModelIO模块—数据交互的秘密武器

news2024/12/27 12:00:31

目录

前言

一、概述​​​​​​​

二、Model

三、Prompt

五、Output Parsers

总结

前言

随着人工智能技术的不断进步，大模型的应用场景越来越广泛。LangChain框架作为一个创新的解决方案，专为处理大型语言模型的输入输出而设计。其中，Model IO（输入输出）模块扮演着至关重要的角色，负责构建和管理数据交互的通道。本文将深入剖析ModelIO模块的工作原理、功能特性，以及如何通过该模块提升数据处理效率，进而加速AI大模型应用的开发。

一、概述

Model IO模块是LangChain框架的数据交互中枢；它不仅负责准备和处理模型的输入数据，还管理模型产出的结果。主要包括一下3部分：

  1. 提示词格式化（Input）：接收原始输入数据到将其转换为模型可理解的格式
  2. 大模型调用（Model ）：调用大语言模型API获得返回结果
  3. 结果解析处理（Output）：将大语言模型返回的结果进行解析处理。

​​​​​​

二、Model

​​​​​​​1、LLMs

LLMs是LangChain 的核心组件，但LangChain并不提供自己的LLMs，它主要允许开发者使用统一的方式与不同的大型语言模型进行交互。这包括与OpenAI、Cohere、Hugging Face等流行的LLMs服务进行接口对接。（类似于Completion，属于文本生成类模型API的支持）

from langchain_openai import OpenAI


llm = OpenAI()


llm.invoke("奥巴马当了几年总统？")

 2、Chat Model 

对于需要复杂对话管理能力的应用，LangChain框架提供了ChatModels模块。这个模块利用特殊的语言模型变体，优化了聊天场景下的信息交换和处理流程。(类似于Chat Completion，属于聊天会话类模型API的支持)

from langchain_openai import ChatOpenAI

chat_model = ChatOpenAI(model="gpt-3.5-turbo-0125")

from langchain_core.messages import (
    AIMessage,
    HumanMessage,
    SystemMessage
)

# 设置模型角色，同时设置样例
messages = [SystemMessage(content="你是一个智能助手"),
 HumanMessage(content="第二十一届世界杯在哪儿举行的?"),
 AIMessage(content="在俄罗斯"),
 HumanMessage(content="冠军是哪个球队")]

# chat_model.invoke(messages)

chat_model.invoke(messages).content

三、Prompt

通过Prompts模块提供了灵活的提示词模板和处理机制，允许用户高效地定义和格式化这些提示，以便与LLMs进行有效的交互。

 1、Prompt Template 

用于创建动态的提示词模板，可以基于一定规则插入变量。例如：

## 可以动态传入参数
from langchain.prompts import PromptTemplate

# 定义提示词模板
prompt_template = PromptTemplate.from_template(
    "Tell me a {adjective} joke about {content}."
)
# 传入参数，格式化提示词模板
prompt_template.format(adjective="funny", content="chickens")



## 也可以不传参数

from langchain.prompts import PromptTemplate


prompt_template = PromptTemplate.from_template("Tell me a joke")

prompt_template.format()

2、ChatPromptTemplate

专门用于支持聊天场景，模拟多轮对话中的上下文交换。例如：

from langchain.prompts import ChatPromptTemplate

chat_template = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a helpful AI bot. Your name is {name}."),
        ("human", "Hello, how are you doing?"),
        ("ai", "I'm doing well, thanks!"),
        ("human", "{user_input}"),
    ]
)

messages = chat_template.format_messages(name="Bob", user_input="What is your name?")

chat_model.invoke(messages)

3、Few-shot prompt templates

利用有限示例来丰富大型语言模型（LLMs）的知识基础，并指导其推理过程。向模型提供针对性的样本集合，这些样本作为参考点，有效地提升模型在处理新颖问题时的逻辑推理能力和答案生成的精确度；同时还增强了模型在面对未知或复杂情境下的思维连贯性和适应性。

from langchain.prompts.few_shot import FewShotPromptTemplate

from langchain.prompts.prompt import PromptTemplate



examples  = [

{

"question": "富兰克林·德拉诺·罗斯福和亚伯拉罕·林肯中哪个担任总统的时间更长？",

"answer":

"""

这里需要后续问题吗：是。

后续问题：富兰克林·德拉诺·罗斯福担任了几年总统？

中间答案：富兰克林·德拉诺·罗斯福担任了12年的总统。

后续问题：亚伯拉罕·林肯则担任了几年总统？

中间答案：亚伯拉罕·林肯则担任了5年的总统。

因此最终答案是：富兰克林·德拉诺·罗斯福

"""

},

{

"question": "百度的创始人是何时出生的？",

"answer":

"""

这里需要后续问题吗：是。

后续问题：百度的创始人是谁？

中间答案：百度的创始人是李彦宏。

后续问题：李彦宏是什么时候出生的？

中间答案：李彦宏于1968年11月17日出生。

因此最终答案是：1968年11月17日

"""

},

{

"question": "特雷西·麦克格雷迪和姚明，谁在NBA打的赛季多？",

"answer":

"""

这里需要后续问题吗：是。

后续问题：特雷西·麦克格雷迪在NBA打了几个赛季？

中间答案：特雷西·麦克格雷迪在NBA打了9个赛季。

后续问题：姚明在NBA打了几个赛季？

中间答案：姚明在NBA打了8个赛季。

因此最终答案是：特雷西·麦克格雷迪

"""

}

]

1）使用一个样本

# 定义提示词模板
example_prompt = PromptTemplate(
    input_variables=["question", "answer"], 
    template="Question: {question}\n{answer}")
# 使用第一个样例作为参数 并输出打印
print(example_prompt.format(**examples[0]))

#输出结果
Question: 富兰克林·德拉诺·罗斯福和亚伯拉罕·林肯中哪个担任总统的时间更长？

这里需要后续问题吗：是。
后续问题：富兰克林·德拉诺·罗斯福担任了几年总统？
中间答案：富兰克林·德拉诺·罗斯福担任了12年的总统。
后续问题：亚伯拉罕·林肯则担任了几年总统？
中间答案：亚伯拉罕·林肯则担任了5年的总统。
因此最终答案是：富兰克林·德拉诺·罗斯福

​

2）使用所有样本

# 使用所有的样例
prompt = FewShotPromptTemplate(
    examples=examples,
    example_prompt=example_prompt,
    suffix="Question: {input}",
    input_variables=["input"]
)

print(prompt.format(input="马云比马化腾大几岁？"))
Question: 富兰克林·德拉诺·罗斯福和亚伯拉罕·林肯中哪个担任总统的时间更长？

这里需要后续问题吗：是。
后续问题：富兰克林·德拉诺·罗斯福担任了几年总统？
中间答案：富兰克林·德拉诺·罗斯福担任了12年的总统。
后续问题：亚伯拉罕·林肯则担任了几年总统？
中间答案：亚伯拉罕·林肯则担任了5年的总统。
因此最终答案是：富兰克林·德拉诺·罗斯福

Question: 百度的创始人是何时出生的？

这里需要后续问题吗：是。
后续问题：百度的创始人是谁？
中间答案：百度的创始人是李彦宏。
后续问题：李彦宏是什么时候出生的？
中间答案：李彦宏于1968年11月17日出生。
因此最终答案是：1968年11月17日

Question: 特雷西·麦克格雷迪和姚明，谁在NBA打的赛季多？

这里需要后续问题吗：是。
后续问题：特雷西·麦克格雷迪在NBA打了几个赛季？
中间答案：特雷西·麦克格雷迪在NBA打了9个赛季。
后续问题：姚明在NBA打了几个赛季？
中间答案：姚明在NBA打了8个赛季。
因此最终答案是：特雷西·麦克格雷迪

Question: 马云比马化腾大几岁？

3）调用测试

llm.invoke(prompt.format(input="特朗普的爸爸的女儿的兄弟是谁？"))
'
这里需要后续问题吗：是。
后续问题：特朗普的爸爸是谁？
中间答案：特朗普的爸爸是弗雷德·特朗普。
后续问题：弗雷德·特朗普的女儿是谁？
中间答案：弗雷德·特朗普的女儿是玛丽·安娜·特朗普。
后续问题：玛丽·安娜·特朗普的兄弟是谁？
中间答案：玛丽·安娜·特朗普的兄弟是唐纳德·特朗普。
因此最终答案是：唐纳德·特朗普'

五、Output Parsers

为了进一步处理和解析LLMs的输出结果，LangChain提供了一系列的Output Parsers。这些解析器能够将模型的文本输出转换为更加结构化的格式，便于后续的处理和使用。

from langchain.output_parsers import CommaSeparatedListOutputParser
from langchain.prompts import PromptTemplate
from langchain_openai import OpenAI

model = OpenAI()

# 将输出解析为逗号分隔的列表
parser = CommaSeparatedListOutputParser()
format_instructions = parser.get_format_instructions()

prompt = PromptTemplate(
    template="List five {subject}.\n{format_instructions}",
    input_variables=["subject"],
    partial_variables={"format_instructions": format_instructions}
)


## LCEL 链式表达式语言用法 (前一个的输入，作为后一个的输出)
chain = prompt | model | parser
chain.invoke({"subject": "ice cream flavors"})

输出：
['chocolate',
 'vanilla',
 'strawberry',
 'mint chocolate chip',
 'cookies and cream']

总结

通过以上相关的功能模块，LangChain框架的Model IO模块为大型语言模型的数据交互提供了强大支持。其精心设计的接口和工具让开发者能够更加专注于模型的实际应用，同时简化了大模型调用数据流的管理细节。降低了大模型开发门槛，使得开发者可以便捷地实现高级的AI应用能力。

探索未知，分享所知；点击关注，码路同行，寻道人生！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1581326.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

苍穹外卖11（Apache ECharts前端统计，营业额统计，用户统计，订单统计，销量排名Top10）

苍穹外卖11（Apache ECharts前端统计，营业额统计，用户统计，订单统计，销量排名Top10）

目录 一、Apache ECharts【前端】 1. 介绍 2. 入门案例 二、营业额统计 1. 需求分析和设计 1 产品原型 2 业务规则 3 接口设计 2. 代码开发 3. 功能测试 三、用户统计 1. 需求分析和设计 1 产品原型 2 业务规则 3 接口设计 2. 代码开发 3. 功能测试 四、订单统…
阅读更多...
Harmony鸿蒙南向驱动开发-DAC

Harmony鸿蒙南向驱动开发-DAC

DAC（Digital to Analog Converter）是一种通过电流、电压或电荷的形式将数字信号转换为模拟信号的设备。 DAC模块支持数模转换的开发。它主要用于： 作为过程控制计算机系统的输出通道，与执行器相连，实现对生产过程的自…
阅读更多...
通过本机调试远端路由器非直连路由

通过本机调试远端路由器非直连路由

实验目的：如图拓扑，通过本机电脑发，telnet调试远程AR4设备。 重点1：通过ospf路由协议配置拓扑网络，知识点：ospf配置路由器协议语法格式，area区域的定义，区域内网络的配置&#xff0…
阅读更多...
蓝桥杯加训

蓝桥杯加训

1.两只塔姆沃斯牛&#xff08;模拟&#xff09; 思路&#xff1a;人和牛都记录三个数据&#xff0c;当前坐标和走的方向&#xff0c;如果人和牛的坐标和方向走重复了&#xff0c;那就说明一直在绕圈圈&#xff0c;无解 #include<iostream> using namespace std; const i…
阅读更多...
idea keymap用eclipse的相关快捷键

idea keymap用eclipse的相关快捷键

idea快捷键用eclipse的方式 CtrlShiftR 搜索文件shiftshift 全部文件/类搜索CtrlH 全局搜索CtrlO 快速打开Outline大纲视图ctrle 查看recent窗口文件
阅读更多...
排序算法，归并排序

排序算法，归并排序

归并排序是什么 归并排序&#xff08;Merge Sort&#xff09;是建立归并操作上的一种有效&#xff0c;稳定的排序算法&#xff0c;该算法是采用分治法的一个非常典型的应用 将已有序的子序列合并&#xff0c;得到完全有序的序列&#xff0c;即先使每个子序列有序&#xff0c;…
阅读更多...
element UI table合并单元格方法

element UI table合并单元格方法

废话不多讲&#xff0c;直接上代码&#xff0c;希望能帮到需要的朋友 // 合并单元格function spanMethod({ row, column, rowIndex, columnIndex }) {//定义需要合并的列字段&#xff0c;有哪些列需要合并&#xff0c;就自定义添加字段即可const fields [declareRegion] // …
阅读更多...
智能工业电脑在智慧电力中实现全程实时监控与调控

智能工业电脑在智慧电力中实现全程实时监控与调控

可视化编程工业电脑在化工、石油、电力等行业过程控制领域扮演着越来越重要的角色。这些基于ARM架构设计的嵌入式工业计算机凭借其高性能、低功耗以及出色的实时处理能力&#xff0c;有效提升了各行业生产过程的安全性和效率。 钡铼技术ARMxy系列采用嵌入式Linux 系统开发的产品…
阅读更多...
Idea中 maven 下载jar出现证书问题

Idea中 maven 下载jar出现证书问题

目录 1&#xff1a; 具体错误&#xff1a; 2&#xff1a; 忽略证书代码&#xff1a; 3&#xff1a; 关闭所有idea&#xff0c; 清除缓存&#xff0c; 在下面添加如上忽略证书代码 4&#xff1a;执行 maven clean 然后刷刷新依赖 完成&#xff0c;撒花&#xff01;&#x…
阅读更多...
AIoT人工智能物联网----刷机、系统安装、示例、摄像头等

AIoT人工智能物联网----刷机、系统安装、示例、摄像头等

软件链接见文末 1. jetson nano硬件介绍 载板 模组卡座:放置核心板 micro SD卡接口：插SD卡，将操作系统写入SD卡，然后插入；建议至少为32GB。当然根据使用情况可以是64GB；卡的质量一定要好，读写速度快。之前买了同品牌128G的比64G的慢很多。所以大小合适就好M.2 Key E …
阅读更多...
spark本地模拟多个task时如何启动多个Excutor

spark本地模拟多个task时如何启动多个Excutor

1、首先在9090端口下启动Excutor,作为第一个Excutor 2、然后修改9090端口为&#xff1a;9091&#xff0c;如下图点击Edit Configration 3、然后按下图操作 &#xff0c; 4、修改一下名字 5、点击apply&#xff0c;&#x1f197; 6、检查下面圈1是否是刚刚我们新建的MyExcutor(2…
阅读更多...
基于PSO优化的CNN-GRU-Attention的时间序列回归预测matlab仿真

基于PSO优化的CNN-GRU-Attention的时间序列回归预测matlab仿真

目录 1.算法运行效果图预览 2.算法运行软件版本 3.部分核心程序 4.算法理论概述 4.1卷积神经网络&#xff08;CNN&#xff09;在时间序列中的应用 4.2 GRU网络 4.3 注意力机制&#xff08;Attention&#xff09; 5.算法完整程序工程 1.算法运行效果图预览 优化前 优化…
阅读更多...
【架构师】-- 浅淡架构的分类

【架构师】-- 浅淡架构的分类

什么是架构&#xff1f; 说到架构&#xff0c;这个概念没有很清晰的范围划分&#xff0c;也没有一个标准的定义&#xff0c;每个人的理解可能都不一样。 架构在百度百科中是这样定义的&#xff1a;架构&#xff0c;又名软件架构&#xff0c;是有关软件整体结构与组件的抽象描…
阅读更多...
LeetCode 377——组合总和 Ⅳ

LeetCode 377——组合总和 Ⅳ

阅读目录 1. 题目2. 解题思路3. 代码实现 1. 题目 2. 解题思路 此题一看应该就是需要用到动态规划算法&#xff0c;假设我们以 f[d]表示总和为 d 的元素组合的个数&#xff0c;首先&#xff0c;我们遍历 nums 数组&#xff0c; 如果有 nums[i] < target&#xff0c;那么组…
阅读更多...
React ant 点击导航条闪烁

React ant 点击导航条闪烁

问题 : 点击当前位置会出现闪一下的效果 另一种点击方式 , 不会闪 原因 : 没有传递具体的参数给点击事件 , 导致在函数内部无法准确判断要展示哪个子菜单&#xff0c;可能导致页面状态的短暂变化&#xff0c;出现闪烁效果 代码 : // 左侧子菜单弹出const showSonMenu routeK…
阅读更多...
Word 画三线表模板---一键套用

Word 画三线表模板---一键套用

1、制作三线表 1&#xff09;设置为无边框 选中表格&#xff0c;点击「右键」——「边框」——「无框线」。 2&#xff09;添加上下边框线 选中表格后&#xff0c;点击【右键】——【表格属性】——【边框和底纹】&#xff0c;边框线选择【1.5磅】&#xff0c;然后点击【上框…
阅读更多...
（WSI分类）WSI分类文献小综述 2024

（WSI分类）WSI分类文献小综述 2024

2024的WSI分类。 Multiple Instance Learning Framework with Masked Hard Instance Mining for Whole Slide Image Classification &#xff08;ICCV2024&#xff09; 由于阳性组织只占 Gi- gapixel WSI 的一小部分&#xff0c;因此现有的 MIL 方法直观上侧重于通过注意力机…
阅读更多...
算法：day1

算法：day1

前缀树&#xff1a; class Trie {private Trie[] childrenIndex;// 该节点下一个可能出现的所有字符的链接private boolean isEnd;// 该节点是否是最后一个字符// 初始化根节点public Trie() {childrenIndex new Trie[26];isEnd false;}public void insert(String word) {// …
阅读更多...
ArcGIS Desktop使用入门（四）工具箱——属性域

ArcGIS Desktop使用入门（四）工具箱——属性域

系列文章目录 ArcGIS Desktop使用入门&#xff08;一&#xff09;软件初认识 ArcGIS Desktop使用入门&#xff08;二&#xff09;常用工具条——标准工具 ArcGIS Desktop使用入门&#xff08;二&#xff09;常用工具条——编辑器 ArcGIS Desktop使用入门&#xff08;二&#x…
阅读更多...
从ChatGPT到多模态大模型:现状与未来(多模态)

从ChatGPT到多模态大模型:现状与未来(多模态)

ChatGPT 训练的核心技术主要包括: 预训练语言模型;有监督微调;基于人类反馈的 强 化 学 习 (ReinforcementLearningfrom Human Feedback,RLHF) 首先,通过自监督预训练使语言模型从大规模语料库中学习语言规律,具备基础 理解和生成能力;然后,通过构造指令微调数据集 并对模型进…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023