Langchain核心模块与实战[7]:专业级Prompt工程调教LLM[输入输出接口、提示词模板与例子选择器的协同工程]
1. 大模型IO接口
任何语言模型应用的核心元素是…模型的输入和输出。LangChain提供了与任何语言模型进行接口交互的基本组件。
- 提示 prompts : 将模型输入模板化、动态选择和管理
- 语言模型 models : 通过常见接口调用语言模型
- 输出解析器 output_parsers : 从模型输出中提取信息(支持自定义)
LLM一般为文本输入,chatmodel可以是数据结构、list等,chatmodel在LLM基座上再训练一般
2.基于Prompt模板的输入工程
提示模板是生成语言模型提示的预定义配方。模板可能包括指令、少量示例以及适用于特定任务的特定上下文和问题。
LLM 提供了一些参数可以影响输出结果的创造力和确定性。 在每个步骤中,LLM 会生成一个最有可能出现的 token 列表以及其对应的概率列表。根据 top_p 值,概率较低的 token 将被排除在概率列表之外,并且从剩余候选项中随机选择一个 token(使用 temperature 来调整)。简单来说:top_