启智社区的启智大脑调试环境非常好用，但是里面的飞桨环境版本比较低，为了能够运行大模型（llm），需要升级飞桨到2.6版本或者开发版本。

首先创建启智大脑调试环境，注意选cuda12.1的环境。

进入调试环境后，执行：

python -m pip install paddlepaddle-gpu==0.0.0.post120 -f https://www.paddlepaddle.org.cn/whl/linux/gpu/develop.html

安装好后，看看版本：

import paddle
paddle.utils.run_check()
print(paddle.version.full_version)

会显示0.0.0版本，这就是开发板默认的版本显示。

现在准备测试下最新的PaddleNLP是否可以用，先安装PaddleNLP

pip install paddlenlp -i https://mirror.baidu.com/pypi/simple

然后测试一下

# test for paddlenlp
from paddlenlp.transformers import *

tokenizer = AutoTokenizer.from_pretrained("ernie-3.0-tiny-medium-v2-zh")

# 用于分类任务（本项目中的意图识别任务）
seq_cls_model = AutoModelForSequenceClassification.from_pretrained("ernie-3.0-tiny-medium-v2-zh")

# 用于序列标注任务（本项目中的槽位填充任务）
token_cls_model = AutoModelForTokenClassification.from_pretrained("ernie-3.0-tiny-medium-v2-zh")

# 用于阅读理解任务
qa_model = AutoModelForQuestionAnswering.from_pretrained("ernie-3.0-tiny-medium-v2-zh")

只要`from paddlenlp.transformers import *`这句没有报错，那么就证明飞桨最新版本安装成功，且PaddleNLP也能正常使用了。

PaddleNLP的飞桨大模型套件秉承了一站式体验、性能极致、生态兼容的设计理念，旨在提供业界主流大模型预训练、精调（含SFT、PEFT）、量化、推理等统一流程， 帮助开发者低成本、低门槛、快速实现大语言模型定制化。

PaddleNLP大模型套件支持LlaMA、ChatGLM以及Qwen等多种业内流行开源大模型，大家快来试试吧！