文章目录
- 一、安装LangChain
- 二、安装Ollama
- 三、Ollama下载DeepSeekR1-7b模型
本学习系列以Ollama推理后端作为大语言模型,展开对LangChain框架的入门学习。
模型采用deepseek-r1:7b
。
毕竟是免费开源的,下载过程耐心等待即可。
如果可以连接外网,也可以通过OpenAI,来建立LLM模型
一、安装LangChain
其中 langchain_chroma
是向量数据库,将转成的向量数据库存在Chroma里
pip install langchain -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_community -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_ollama -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install langchain_chroma -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install "langserve[all]" -i https://pypi.tuna.tsinghua.edu.cn/simple
二、安装Ollama
打开Ollama官网
https://ollama.com/download
找到Linux的下载链接
运行链接
curl -fsSL https://ollama.com/install.sh | sh
三、Ollama下载DeepSeekR1-7b模型
玩具版本,就用7b执行
ollama run deepseek-r1
下载过程可能会有点慢,耐心等待接口。