书生大模型实战营第三期基础岛第四课——llamaindex+Internlm2 RAG实践

news2024/11/13 9:40:20

llamaindex+Internlm2 RAG实践

  • 基础作业:
    • 配置基础环境
    • 创建LLAMAINDEX文件夹存放课程相关文件
    • 创建模型下载脚本download_hf.py
    • 下载 Sentence Transformer 模型
    • 下载 NLTK 相关资源
    • LlamaIndex HuggingFaceLLM
    • LlamaIndex RAG
    • 新建脚本llamaindex_RAG.py
    • LlamaIndex web部署
    • 来问问模型一点专业的医学知识

基础作业:

  • 任务要求:基于 LlamaIndex 构建自己的 RAG 知识库,寻找一个问题 A 在使用 LlamaIndex 之前InternLM2-Chat-1.8B模型不会回答,借助 LlamaIndex 后 InternLM2-Chat-1.8B 模型具备回答 A 的能力,截图保存。

配置基础环境

conda create -n llamaindex python=3.10
conda activate llamaindex
pip install llama-index==0.10.38 llama-index-llms-huggingface==0.2.0 "transformers[torch]==4.41.1" "huggingface_hub[inference]==0.23.1" huggingface_hub==0.23.1 sentence-transformers==2.7.0 sentencepiece==0.2.0
pip install einops==0.7.0 protobuf==5.26.1

在这里插入图片描述

创建LLAMAINDEX文件夹存放课程相关文件

mkdir LLAMAINDEX
cd LLAMAINDEX
mkdir model

创建模型下载脚本download_hf.py

touch download_hf.py

输入以下代码

import os

# 设置环境变量
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

# 下载模型
os.system('huggingface-cli download --resume-download sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 --local-dir /root/LLAMAINDEX/model/sentence-transformer')

下载 Sentence Transformer 模型

python download_hf.py

在这里插入图片描述

下载 NLTK 相关资源

cd /root
git clone https://gitee.com/yzy0612/nltk_data.git  --branch gh-pages
cd nltk_data
mv packages/*  ./
cd tokenizers
unzip punkt.zip
cd ../taggers
unzip averaged_perceptron_tagger.zip

这样使用时服务器即会自动使用已有资源,无需再次下载在这里插入图片描述

LlamaIndex HuggingFaceLLM

cd ~/LLAMAINDEX/model
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b/ ./
cd ..
touch llamaindex_internlm.py

输入以下代码

from llama_index.llms.huggingface import HuggingFaceLLM
from llama_index.core.llms import ChatMessage
llm = HuggingFaceLLM(
    model_name="/root/LLAMAINDEX/model/internlm2-chat-1_8b",
    tokenizer_name="/root/LLAMAINDEX/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)

rsp = llm.chat(messages=[ChatMessage(content="xtuner是什么?")])
print(rsp)

运行脚本,看模型输出效果

python llamaindex_internlm.py

在这里插入图片描述
模型居然认为xtuner是一个音乐播放器

LlamaIndex RAG

安装依赖

pip install llama-index-embeddings-huggingface==0.2.0 llama-index-embeddings-instructor==0.1.3

在这里插入图片描述

下载知识文档

mkdir data
cd data
git clone https://github.com/InternLM/xtuner.git
mv xtuner/README_zh-CN.md ./

新建脚本llamaindex_RAG.py

touch llamaindex_RAG.py

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings

from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.huggingface import HuggingFaceLLM

#初始化一个HuggingFaceEmbedding对象,用于将文本转换为向量表示
embed_model = HuggingFaceEmbedding(
#指定了一个预训练的sentence-transformer模型的路径
    model_name="/root/model/sentence-transformer"
)
#将创建的嵌入模型赋值给全局设置的embed_model属性,
#这样在后续的索引构建过程中就会使用这个模型。
Settings.embed_model = embed_model

llm = HuggingFaceLLM(
    model_name="/root/model/internlm2-chat-1_8b",
    tokenizer_name="/root/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)
#设置全局的llm属性,这样在索引查询时会使用这个模型。
Settings.llm = llm

#从指定目录读取所有文档,并加载数据到内存中
documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
#创建一个VectorStoreIndex,并使用之前加载的文档来构建索引。
# 此索引将文档转换为向量,并存储这些向量以便于快速检索。
index = VectorStoreIndex.from_documents(documents)
# 创建一个查询引擎,这个引擎可以接收查询并返回相关文档的响应。
query_engine = index.as_query_engine()
response = query_engine.query("xtuner是什么?")

print(response)

运行脚本,看看RAG技术后模型输出是否有认识xtuner

python llamaindex_RAG.py

在这里插入图片描述
模型给出了我们想要的答案

LlamaIndex web部署

安装依赖

pip install streamlit==1.36.0

在这里插入图片描述

创建app文件

touch app.py

输入以下代码

import streamlit as st
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.huggingface import HuggingFaceLLM

st.set_page_config(page_title="llama_index_demo", page_icon="🦜🔗")
st.title("llama_index_demo")

# 初始化模型
@st.cache_resource
def init_models():
    embed_model = HuggingFaceEmbedding(
        model_name="/root/LLAMAINDEX/model/sentence-transformer"
    )
    Settings.embed_model = embed_model

    llm = HuggingFaceLLM(
        model_name="/root/LLAMAINDEX/model/internlm2-chat-1_8b",
        tokenizer_name="/root/LLAMAINDEX/model/internlm2-chat-1_8b",
        model_kwargs={"trust_remote_code": True},
        tokenizer_kwargs={"trust_remote_code": True}
    )
    Settings.llm = llm

    documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
    index = VectorStoreIndex.from_documents(documents)
    query_engine = index.as_query_engine()

    return query_engine

# 检查是否需要初始化模型
if 'query_engine' not in st.session_state:
    st.session_state['query_engine'] = init_models()

def greet2(question):
    response = st.session_state['query_engine'].query(question)
    return response

      
# Store LLM generated responses
if "messages" not in st.session_state.keys():
    st.session_state.messages = [{"role": "assistant", "content": "你好,我是你的助手,有什么我可以帮助你的吗?"}]    

    # Display or clear chat messages
for message in st.session_state.messages:
    with st.chat_message(message["role"]):
        st.write(message["content"])

def clear_chat_history():
    st.session_state.messages = [{"role": "assistant", "content": "你好,我是你的助手,有什么我可以帮助你的吗?"}]

st.sidebar.button('Clear Chat History', on_click=clear_chat_history)

# Function for generating LLaMA2 response
def generate_llama_index_response(prompt_input):
    return greet2(prompt_input)

# User-provided prompt
if prompt := st.chat_input():
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.write(prompt)

# Gegenerate_llama_index_response last message is not from assistant
if st.session_state.messages[-1]["role"] != "assistant":
    with st.chat_message("assistant"):
        with st.spinner("Thinking..."):
            response = generate_llama_index_response(prompt)
            placeholder = st.empty()
            placeholder.markdown(response)
    message = {"role": "assistant", "content": response}
    st.session_state.messages.append(message)

部署模型app

streamlit run app.py

来问问模型一点专业的医学知识

打开浏览器,访问 http://localhost:7860
在这里插入图片描述
模型回答的很随意,看着像瞎编

现在从openxlab的数据集下载医学文档,放到 /root/LLAMAINDEX/data 目录下
在这里插入图片描述
在这里插入图片描述

再次部署模型,并访问
在这里插入图片描述

整了点医学知识后,回答就专业很多

ps:这个数据集是复制电子书的,所以上面会有一些乱码和符号,需要自己清理一下,否则模型也是回答不出来

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2082837.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Ubuntu美化为类Windows风格

博主的系统为 Ubuntu22.04 参考文献:How to Make Ubuntu Look Like Windows 11 | 22.04 GNOME 43 / 42 | Linux AF Tech 可能遇到的bug的解决方法:如何在 Linux 中安装和更改 GNOME 主题 先来一下视频演示: 下面正式开始安装。在主文件夹下打…

国产编程语言:MoonBit(月兔)发布!【送源码】

MoonBit(月兔),由中国开发者团队创建的编程语言(类似 Rust,支持 GC),由粤港澳大湾区数字经济研究院(IDEA 研究院)基础软件中心负责人张宏波领导的团队开发,目…

SpringBoot项目目录介绍(SpringBoot学2)

1、主程序的入口 2、springboot的核心配置文件 修改 tomcat端口号 : server.port接端口号(例:8081) 然后运行就更改了端口号 同级目录下创建banner.txt文件 ,在banner网址里面可以编辑我们想要的文本Spring Boot ban…

Go 安全使用goroutine

Go 安全使用goroutine go 正常使用goroutine开启一个携程很简单 var a int go func(){a11 }()这么用在日常工具什么的开发中肯定没问题,如果携程内有问题崩掉了,使用工具的人可以马上获得堆栈信息将其反应给开发人员。但是你如果在web服务器或者后台程…

stable-diffusion-webui 部署 ,启用 api 服务

stable-diffusion-webui 部署 ,启用 api 服务 api 文档参考 https://profaneservitor.github.io/sdwui-docs/api/ api 源码路径是 stable-diffusion-webui/modules/api/api.py 我系统是 ubuntu22.04 conda 环境torchpgu , python 是 3.11.7 安装 stable-diffusi…

基于协同过滤算法Spring Boot+Vue的图书商城系统

基于协同过滤算法的图书商城系统 1、系统流程图 网络书城购物系统由用户端,管理员端两大模块组成,各个模块下边又有许多小模块组成,每个模块的作用各不相同,但彼此之间又存在一定关系,通过分析上述模块之间的联系以及…

java-Spring框架01

1.Spring概念 spring是一个轻量级的,IOC和AOP的一站式java开发框架,简化企业级开发。 轻量级:框架体积小(核心模块) IOC:inversion of Control 控制反转 把创建对象的控制权,反转给Spring框架…

SX_c语言字符串赋值 “multiple definition of .. first defined here”问题_21

字符串赋值问题&#xff1a; #include <stdio.h> #include <string.h>char* my_string_cat(int position, int slot, char* content){char* gnsst NULL;static char retvalue[50];memset(retvalue, \0, sizeof(retvalue));if(position 0){//头部if(slot 0){//卡…

【TroubleShoot】Unity中JDK版本问题

在默认安装了Android SDK及OpenJDK后&#xff0c;将项目切换到Android平台&#xff0c;编译时揭示JDK设置不正确。 那就看看吧&#xff0c;警告里提示&#xff1a;You are missing the recommended JDK. Install the recommended version using the Unity Hub。但这就是从Unity…

一天完成论文初稿?来看看这10个大幅提升论文写作效率的原则

我是娜姐 迪娜学姐 &#xff0c;一个SCI医学期刊编辑&#xff0c;探索用AI工具提效论文写作和发表。 论文写作对于科研人员尤其重要&#xff0c;我们必须通过写作来获得学位&#xff08;例如&#xff0c;论文&#xff09;、分享我们的研究发现&#xff08;专业会议论文和摘要&a…

【审批流】springboot+vue+activiti平台,直接接入业务表单,成熟工作流

软件资料清单列表部分文档清单&#xff1a;工作安排任务书&#xff0c;可行性分析报告&#xff0c;立项申请审批表&#xff0c;产品需求规格说明书&#xff0c;需求调研计划&#xff0c;用户需求调查单&#xff0c;用户需求说明书&#xff0c;概要设计说明书&#xff0c;技术解…

【零基础入门】Linux环境搭建详解 | Ubuntu

文章目录 虚拟机安装对比Virtual Box 下载ubuntu 操作系统下载Virtual Box 安装安装ubuntu设置中文语言共享文件夹设置添加输入法安装步骤&#xff0c;参考官方教程 安装 vscode 虚拟机安装对比 VirtualBox和VMware两款虚拟化软件的对比 特性VirtualBoxVMware Workstation Pro许…

从python应用app向微软Microsoft Teams Channel发送消息message

一、简介 有这样的需求&#xff0c;web app需要提供功能可以发送消息到Teams来提醒用户。所以需要将发消息到Teams功能集成到web app中。由于我们的web app是python开发的&#xff0c;所以使用pyteams库。 先看效果&#xff1a;有标题、内容、链接、用户 二、步骤 2.1 首先在…

pikachu靶场XSS通关攻略

1.反射型xss(get) 在输入框中输入1 发现1会停留在页面上 可以尝试xxs攻击 当我们输入弹窗的js代码时 发现输入框的长度不允许我们输入过长的语句 我们可以打开网站控制台&#xff08;f12&#xff09;修补一下输入框的长度 我们把20改成50即可输入剩下的js代码 就会出现弹窗 …

-- 数据结构 顺序表 --Java

顺序表&#xff1a;使用一段物理地址连续的储存单元依此储存元素&#xff0c;一般使用数组实现顺序表的增删查改 实现 顺序表其实就是将元素储存到一个数组中&#xff0c;并且这个数组会根据你的插入的数据的增加而自动进行数组的扩容 字段的设计 使用了多态是为了能储存各种…

C++ | Leetcode C++题解之第377题组合总和IV

题目&#xff1a; 题解&#xff1a; class Solution { public:int combinationSum4(vector<int>& nums, int target) {vector<int> dp(target 1);dp[0] 1;for (int i 1; i < target; i) {for (int& num : nums) {if (num < i && dp[i - …

软考报名信息填错了,还可以修改吗?

软考报名信息的准确性至关重要&#xff0c;它直接关系到考生的考试资格及后续流程。若不慎填写错误&#xff0c;别担心&#xff0c;根据发现错误的时间点&#xff0c;下面是详细的修改指南。 一、报名审核前 情况说明&#xff1a;若您在报名审核前发现信息填写错误&#xff0c…

python库sqlacodegen生成sqlalchemy模型对象代码

工具介绍: 使用SQLAlchemy,需要将数据库表按照其识别的格式创建成Model,但一般情况下都是已经创建并定义好了数据库表,再创建Model。如果人工根据表结构写Model,不仅费时费力,还难免会出错。 而使用sqlacodegen,则可自动生成sqlalchemy表对象模型。 安装 首先进入虚…

黑马JavaWeb开发笔记05——JavaScript介绍、基本语法、函数、对象(Array, String, json, BOM, DOM)、事件监听

文章目录 前言一、JavaScript介绍和引入方式1. 介绍2. 引入方式3. VScode引入演示 二、JavaScript基础语法1. 书写语法2. 变量2.1 var2.2 let2.3 const 3. 数据类型、运算符、流程控制语句3.1 数据类型3.2 运算符3.3 流程控制语句 三、JavaScript函数1. 第一种定义方式2. 第二种…

【C++ Primer Plus习题】6.8

问题: 解答: #include <iostream> #include <fstream> #include <string> using namespace std;int main() {string filename;ifstream stream;char read_char;int count0;cout << "请输入要打开的文件:";getline(cin, filename);stream.op…