最近想了解一下大模型,查看了《2024大模型典型示范应用》文档,发现有公司使用的是书生大模型,正好发现他们有训练营,此文章记录的大模型作业。
一、各种链接
书生大模型官网:https://internlm.intern-ai.org.cn/
进训练营地址:见底部图片扫码报名
书生开发网址:https://studio.intern-ai.org.cn/console/dashboard
二、进训练营步骤
通过底部邀请链接填写信息,审核完成后会在邮箱里收到书生·浦语实战营报名成功邀请链接,里有邀请码和班级群,进入书生开发网址,注意是书生开发网址,不是大模型官网,注册,输入邀请码里面有A100的机器免费使用
三、开始学习
添加邀请码后可以创建一个10%算力的A100机器,如下是我创建的
点击SSH链接,复制登陆命令可以在PowerShell中运行,
进入机器后,可以通过如下命令查看机器信息
- hostname :查看开发机的名称
- uname -a 查看开发机内核信息
- lsb_release -a 查看开发机版本信息
- nvidia-smi 查看GPU信息
- 两次exit 退出
在root目录创建一个demo文件夹,然后创建文件hello_world.py文件,如下
import socket
import re
import gradio as gr
# 获取主机名
def get_hostname():
hostname = socket.gethostname()
match = re.search(r'-(\d+)$', hostname)
name = match.group(1)
return name
# 创建 Gradio 界面
with gr.Blocks(gr.themes.Soft()) as demo:
html_code = f"""
<p align="center">
<a href="https://intern-ai.org.cn/home">
<img src="https://intern-ai.org.cn/assets/headerLogo-4ea34f23.svg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
<h1 style="text-align: center;">☁️ Welcome {get_hostname()} user, welcome to the ShuSheng LLM Practical Camp Course!</h1>
<h2 style="text-align: center;">😀 Let’s go on a journey through ShuSheng Island together.</h2>
<p align="center">
<a href="https://github.com/InternLM/Tutorial/blob/camp3">
<img src="https://oss.lingkongstudy.com.cn/blog/202406301604074.jpg" alt="Logo" width="20%" style="border-radius: 5px;">
</a>
</p>
"""
gr.Markdown(html_code)
demo.launch()
安装文件所需依赖
pip install gradio==4.29.0
在vs中打开Terminal,然后运行以下命令,注意如果没有这个命令可以重启一下机器再试
python hello_world.py
运行成功后会显示一个地址
如果想在本地查看网页内容,可以在vscode添加映射
在浏览器中访问127.0.0.1:7860,会出现下图
四、Conda的使用
Conda 是一个开源的包管理和环境管理系统,可在 Windows、macOS 和 Linux 上运行。它快速安装、运行和更新软件包及其依赖项。使用 Conda,您可以轻松在本地计算机上创建、保存、加载和切换不同的环境。
创建环境
conda create -n name python=3.10
如果报错可以清除缓存信息
conda clean --all
安装成功截图
conda列表
conda env list
切换环境
conda activate mini-python-env
五、入营地址
入营地址如下图,扫描二维码可进营