大模型部署,运维,测试所需掌握的知识点

news2024/11/24 16:29:27

python环境部署:
python3 -m site --user-base                                                            返回用户级别的Python安装基础目录
sudo update-alternatives --install /usr/bin/python3 python3 /usr/bin/python3.8 1    将python3的默认路径/usr/bin/python3替换为/usr/bin/python3.8
sudo update-alternatives --config python                                            列出当前所有可用的Python版本
python3 --version                                                                    查看python版本
python3 -m ensurepip                                                                  安装pip3
python3 -m pip install --upgrade pip                                                
sudo python3 -m pip install --upgrade pip  -i   https://artnj.zte.com.cn/artifactory/api/pypi/public-pypi-virtual/simple       管理员权限中兴镜像下载安装pip3 // python安装库时使用的镜像源
python3 -m site --user-base                                                            查找pip3的安装位置
export PATH="$PATH:/home/yourusername/.local/bin"                                    将pip3添加到PATH:
pip3 --version                                                                        验证pip3是否可用:
python -m venv venv                                                                    创建一个venv的虚拟环境:
venv\Scripts\activate                                                                windows激活虚拟环境(venv):
source venv/bin/activate                                                            linux激活虚拟环境(venv):
deactivate                                                                            退出虚拟环境:

git常用命令:
git stash
git pull origin dev --rebase    
git stash apply
git add .
git commit -m "[keyword](A):             优化:模型市场-导入模型商品(本地导入),大模型仓库-大模型仓库sftp导入模型"
git push origin HEAD:refs/for/dev  
 
cd  .git    
git reset --soft HEAD^                  用于撤销最后一次提交,但保留该提交所做的更改在暂存区(staging area)中
git checkout xxx                        切换分支
git config --list                          查看git的配置列表    
git branch -d xxx                        删除分支
git checkout dev                        切换至dev分支
git pull origin dev --rebase            更新dev分支
git checkout -b xxx                        创建自己的分支
git stash apply stash@{1}                  应用指定分支
git stash apply                         应用最新分支


k8s及容器常用命令:
node>deploy>pod
/home/pict/nodecheck                  查询节点占用情况  要su     RCms@Zte3
kubectl get pv                        获取pv信息
kubectl get pvc                        获取pvc信息
kubectl get cm                        获取configMap信息
kubectl get rs                        获取ReplicaSet控制器信息
kubectl get sts                        获取statefulSet控制器信息
kubectl get sa                        获取serviceaccount信息
kubectl get svc                        获取默认命名空间的service
kubectl get svc -n ingress-nginx     获取指定命名空间为ingress-nginx的service
kubectl get secrets                 获取secrets信息
kubectl get sts                        获取statefulSet控制器信息
kubectl get node -o wide            查询node详细信息
kubectl get pods -n litmus             查询litmus(zchaos集群)下的pod
kubectl get deploy -n litmus        查询litmus下的deploy(控制器)
kubectl edit rs myapp                 修改ReplicaSet控制器的yaml清单内容
kubectl exec -it myapp-lmj45 -- /bin/sh                                                进入pod内的容器
kubectl exec -it myapp-lmj45 -c myapp-container sh                                    进入pod内指定容器
kubectl logs myapp-lmj45 --tail 300 -f                                                查看pod内的容器日志
kubectl explain pod                                                                    显示各种资源清单的字段解释
kubectl rollout                                                                        滚动更新
kubectl cluster-info                                                                查看集群信息
kubectl uncordon node2                                                                标记节点为可调度节点
kubectl api-resources                                                                查看k8s支持的资源类型
kubectl api-resources --api-group=storage.k8s.io                                     查看指定群组支持的资源类型
kubectl rollout pause deployment myapp-deploy                                        更新一个pod后暂停更新
kubectl describe pod podname | grep Node                                             可查看pod运行在哪个节点上
kubectl rollout resume deployment myapp-deploy                                        解除暂停状态,继续更新
kubectl rollout status deployment myapp-deploy                                        监控deployment更新状态
kubectl scale sts myapp --replicas=2                                                Kubernetes 将会确保 myapp StatefulSet 有 2 个 Pod 副本处于运行状态
kubectl set image deployment myapp-deploy myapp=ikubernetes/myapp:v3                修改deployment的镜像版本
kubectl cordon node2                                                                标记节点为不可调度节点
kubectl delete deploy xxx -n aistudio                                                  删除deploy
kubectl delete pod xxx -n aistudio                                                  删除pod
kubectl describe  pod   dep2411051954400192fc2d4f86-7f44f44958-7pkfj -n aistudio      查看推理pod详情
kubectl describe  deploy   dep241107162656019305bbd54c    -n aistudio                 查询推理deploy详情
kubectl label pods pod-demo release=canary                    给一个pod打一个没有存在的标签key=value    
kubectl label pods pod-demo release=stable --overwrite        给一个pod已经存在的标签重新赋值
kubectl label nodes node1 disktype-                            通过key删除标签
kubectl delete svc redis                                     删除service
kubectl get pods -A                                          获取所有namespace的Pod信息
kubectl get pods --show-labels                                获取Pod的labels
kubectl get pods -L apps,run                                 查看所有pod对于指定标签的key是否有value,有则显示,没有则空白
kubectl get pods -l apps --show-labels                         获取含有指定标签key的pod
kubectl get namespaces kube-system -o json                    获取指定namespace名为kube-system的json格式信息
kubectl get pg -A                                            查看环境上所有组织下申请GPU资源的任务情况


docker常用命令:
docker ps            列出容器    
docker run            创建并启动容器
docker create        创建容器(不启动)
docker start        启动容器
docker stop            停止容器
docker restart        重启容器
docker rm            删除容器
docker inspect        查看容器详情

linux常用命令总结(要保持英文状态下输入命令):
scp -r /path/to/local/directory username@remotehost:/path/to/remote/directory                      复制将本地目录及其内容复制到远程主机上(-r递归)
rcp root@218.6.132.5:./testfile testfile                                                        复制远程文件到本地    
curl -k -X GET -H "OPENSTACK_REQUEST:internal" http://127.0.0.1:19393/v1/external_ftp_server    查询FTP的地址
cd ..                                                                                                返回上级目录
pwd                                                                                             查看当前文件路径
cat filename | tail -n 10                                                                        显示文件 filename 的最后 10 行
cat -n filename                                                                                    显示文件 filename 的内容,并在每行的前面加上行号
chown root /var/run/httpd.pid                                                                    把 /var/run/httpd.pid 的所有者设置 root
diff log2014.log log2013.log                                                                    比较log2014.log ,log2013.log两个文件
find . -name file.txt                                                                            查找当前目录下名为 file.txt 的文件
find /var/log -mtime +7                                                                            查找 /var/log 目录下在 7 天前修改过的文件
find /home -size +1M                                                                            查找 /home 目录下大于 1MB 的文件
find /path/to/search -atime -7                                                                    查找过去 7 天内被访问的文件
sudo systemctl restart containerd                                                               重启容器服务
nvidia-smi                                                                                         查看GPU信息
brsmi                                                                                            查看GPU信息
du -sh                                                                                           显示指定目录或当前目录的总磁盘使用量
df -h                                                                                             查看磁盘使用量
top                                                                                              显示容器内部的实时 CPU 和内存使用情况。
find /var -type f -name "log.txt"                                                               查找 /var 目录下所有名为 log.txt 的文件 
locate log.txt                                                                                   数据库来快速查找文件
grep -R "error" /home/*.log                                                                      搜索文本内容 
which ls                                                                                          查找可执行文件的位置
ls *.log                                                                                        列出当前目录下所有以 .log 结尾的文件
find /var/log -type f -exec grep "error" {} \                                                     查找 /var/log 目录下所有包含 "error" 文本的文件
tail -f tcf_deploy_ccm_tcf_8d1bb00a-f6ee-4c23-a940-a1e0ba81935d.log                               用于实时查看并跟踪日志文件的最新内容  
touch file                                                                                         创建一个名为“file”的新的空白文件
mv aaa bbb                                                                                        将文件 aaa 改名为 bbb
which bash                                                                                        "which"查看指令"bash"的绝对路径
cp –r test/ newtest                                                                              将当前目录 test/ 下的所有文件复制到新目录 newtest 下
cp –r test newtest                                                                                将test文件复制到新目录 newtest 下
mv /usr/runoob/*  .                                                                             将 /usr/runoob 下的所有文件和目录移到当前目录下
rm  -rf   test.txt                                                                                删除文件名 test.txt
ln -s log2013.log link2013                                                                         给文件创建软链接,为log2013.log文件创建软链接link2013,如果log2013.log丢失,link2013将失效
nc -nvv 192.168.0.1 80                                                                            扫描 80端口
kill -15                                                                                        优雅停机
kill -9 -PID                                                                                    杀死进程组
kill -l                                                                                         列出所有可用信号
kill -s SIGSTOP 1234                                                                            向 PID 为 1234 的进程发送 SIGSTOP
ps -ef | grep pidname                                                                            查询指定pid进程名
shutdown -h 10                                                                                    指定 10 分钟后关机
shutdown -r now                                                                                    重新启动计算机
free                                                                                            显示内存使用信息
free -s 10                                                                                        每10s 显示内存使用信息
clear                                                                                            清屏
fdisk -l                                                                                        显示当前分区情况

vi + filename             打开文件,并将光标置于最后一行首
Ctrl+f                    向文件尾翻一屏
i                         在光标前插入(文本模式)
dd                        删除当前行
yy                        复制当前行
Esc                        退出插入模式,返回到命令模式
:w                        保存文件
:q                        不保存文件并退出vi
:wq 或 :x                保存文件并退出vi。
ZZ                         修改文件后退出。    
Ctrl+z回车                退出

tar -czvf 文件名.tar.gz 目录/ 或 tar -czvf 文件名.tgz 目录/             创建 .tar.gz 或 .tgz 压缩文件                
zip -r 文件名.zip 目录/                                             创建 .zip 压缩文件
tar -xzvf 文件名.tar.gz 或 tar -xzvf 文件名.tgz                     解压缩 .tar.gz 或 .tgz 文件
unzip 文件名.zip                                                     解压缩 .zip 文件

yum check-update                                                 列出所有可更新的软件清单
yum update                                                         更新所有软件命令
yum list                                                         列出所有可安裝的软件清单
yum remove <package_name>                                         删除软件包
yum search <keyword>                                             查找软件包
yum clean packages                                                 清除缓存目录下的软件包
yum clean headers                                                 清除缓存目录下的 headers

sudo apt update                                                     列出所有可更新的软件清单
sudo apt upgrade                                                 升级软件包
apt list --upgradable                                             列出可更新的软件包及版本信息
apt list --installed                                             列出所有已安装的包
sudo apt autoremove                                                 清理不再使用的依赖和库文件
sudo apt remove <package_name>                                     删除软件包命令

re正则表达式命令:
[ABC]                                                                                            匹配 [...] 中的所有字符,例如 [aeiou] 匹配字符串 "google runoob taobao" 中所有的 aeiou字母
[^ABC]                                                                                            匹配除了 [...] 中字符的所有字符,例如 [^aeiou] 匹配字符串 "google runoob taobao" 中除了 aeiou 字母的所有字符
[A-Z]                                                                                            [A-Z] 表示一个区间,匹配所有大写字母,[a-z] 表示所有小写字母
.                                                                                                匹配除换行符(\n、\r)之外的任何单个字符,相等于 [^\n\r]
[\s\S]                                                                                            匹配所有。\s 是匹配所有空白符,包括换行,\S 非空白符,不包括换行
\w                                                                                                匹配字母、数字、下划线。等价于 [A-Za-z0-9_]
\d                                                                                                匹配任意一个阿拉伯数字(0 到 9)。等价于 [0-9]
\cx                                                                                                匹配由x指明的控制字符。例如, \cM 匹配一个 Control-M 或回车符。x 的值必须为 A-Z 或 a-z 之一。否则,将 c 视为一个原义的 'c' 字符
\f                                                                                                匹配一个换页符。等价于 \x0c 和 \cL
\n                                                                                                匹配一个换行符。等价于 \x0a 和 \cJ    
\r                                                                                                匹配一个回车符
\s                                                                                                匹配任何空白字符,包括空格、制表符、换页符等等
\S                                                                                                匹配任何非空白字符。等价于 [^ \f\n\r\t\v]
\t                                                                                                匹配一个制表符。等价于 \x09 和 \cI
\v                                                                                                匹配一个垂直制表符。等价于 \x0b 和 \cK
$                                                                                                匹配输入字符串的结尾位置
*                                                                                                匹配前面的子表达式零次或多次。要匹配 * 字符,请使用 \*
+                                                                                                匹配前面的子表达式一次或多次。要匹配 + 字符,请使用 \+。
^                                                                                                匹配输入字符串的开始位置,除非在方括号表达式中使用,当该符号在方括号表达式中使用时,表示不接受该方括号表达式中的字符集合
^(0|[1-9][0-9]*)$                                                                                匹配零和非零开头的数字,匹配输入字符串的结束位置


     
    

    
    
     


    


        
        


 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2246757.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Ollama vs VLLM:大模型推理性能全面测评!

最近在用本地大模型跑实验&#xff0c;一开始选择了ollama,分别部署了Qwen2.5-14B和Qwen2.5-32B&#xff0c;发现最后跑出来的实验效果很差&#xff0c;一开始一直以为prompt的问题&#xff0c;尝试了不同的prompt&#xff0c;最后效果还是一直不好。随后尝试了vllm部署Qwen2.5…

.NET9 - 新功能体验(一)

被微软形容为“迄今为止最高效、最现代、最安全、最智能、性能最高的.NET版本”——.NET 9已经发布有一周了&#xff0c;今天想和大家一起体验一下新功能。 此次.NET 9在性能、安全性和功能等方面进行了大量改进&#xff0c;包含了数千项的修改&#xff0c;今天主要和大家一起体…

LeetCode 144.二叉树的前序遍历

题目&#xff1a;给你二叉树的根节点 root &#xff0c;返回它节点值的 前序 遍历。 思路&#xff1a;根 左 右 代码&#xff1a; /*** Definition for a binary tree node.* public class TreeNode {* int val;* TreeNode left;* TreeNode right;* TreeNod…

【论文阅读】WGSR

0. 摘要 0.1. 问题提出 1.超分辨率(SR)是一个不适定逆问题&#xff0c;可行解众多。 2.超分辨率(SR)算法在可行解中寻找一个在保真度和感知质量之间取得平衡的“良好”解。 3.现有的方法重建高频细节时会产生伪影和幻觉&#xff0c;模型区分图像细节与伪影仍是难题。 0.2. …

游戏引擎学习第21天

虽然没有上一节的难但是内容也很多 关于实现和使用脚本语言 以下是详细复述&#xff1a; 许多人经常问一个问题&#xff0c;反复问过好几次&#xff0c;那就是&#xff1a;是否会在项目中实现脚本语言。这个问题的具体形式通常是&#xff1a;你们会使用脚本语言吗&#xff1…

NVR接入录像回放平台EasyCVR视频融合平台加油站监控应用场景与实际功能

在现代社会中&#xff0c;加油站作为重要的能源供应点&#xff0c;面临着安全监管与风险管理的双重挑战。为应对这些问题&#xff0c;安防监控平台EasyCVR推出了一套全面的加油站监控方案。该方案结合了智能分析网关V4的先进识别技术和EasyCVR视频监控平台的强大监控功能&#…

springboot vue工资管理系统源码和答辩PPT论文

人类现已迈入二十一世纪&#xff0c;科学技术日新月异&#xff0c;经济、资讯等各方面都有了非常大的进步&#xff0c;尤其是资讯与网络技术的飞速发展&#xff0c;对政治、经济、军事、文化等各方面都有了极大的影响。 利用电脑网络的这些便利&#xff0c;发展一套工资管理系统…

部署实战(二)--修改jar中的文件并重新打包成jar文件

一.jar文件 JAR 文件就是 Java Archive &#xff08; Java 档案文件&#xff09;&#xff0c;它是 Java 的一种文档格式JAR 文件与 ZIP 文件唯一的区别就是在 JAR 文件的内容中&#xff0c;多出了一个META-INF/MANIFEST.MF 文件META-INF/MANIFEST.MF 文件在生成 JAR 文件的时候…

RabbitMQ4:work模型

欢迎来到“雪碧聊技术”CSDN博客&#xff01; 在这里&#xff0c;您将踏入一个专注于Java开发技术的知识殿堂。无论您是Java编程的初学者&#xff0c;还是具有一定经验的开发者&#xff0c;相信我的博客都能为您提供宝贵的学习资源和实用技巧。作为您的技术向导&#xff0c;我将…

SpringMVC——简介及入门

SpringMVC简介 看到SpringMVC这个名字&#xff0c;我们会发现其中包含Spring&#xff0c;那么SpringMVC和Spring之间有怎样的关系呢&#xff1f; SpringMVC隶属于Spring&#xff0c;是Spring技术中的一部分。 那么SpringMVC是用来做什么的呢&#xff1f; 回想web阶段&#x…

鸿蒙开发-文件与分享

文件分类 按所有者&#xff1a; 应用文件&#xff1a;所有者为应用&#xff0c;包括应用安装文件、应用资源文件、应用缓存文件等。 用户文件&#xff1a;所有者是登录到该终端设备的用户&#xff0c;包括用户私有的图片、视频、音频、文档等。 系统文件&#xff1a;与应用和…

内存级文件原理——Linux

目录 进程与文件 Linux下的文件系统 文件操作&#xff0c;及文件流 C语言函数 文件流 文件描述符 系统调用操作 系统调用参数 重定向与文件描述符 输出重定向 输入重定向 文件内容属性 Linux下一切皆文件 进程与文件 当我们对文件进行操作时&#xff0c;文件必…

KubeSphere 最佳实战:K8s 构建高可用、高性能 Redis 集群实战指南

首发&#xff1a;运维有术。 本指南将逐步引导您完成以下关键任务&#xff1a; 安装 Redis&#xff1a;使用 StatefulSet 部署 Redis。自动或手动配置 Redis 集群&#xff1a;使用命令行工具初始化 Redis 集群。Redis 性能测试&#xff1a;使用 Redis 自带的 Benchmark 工具进…

apr共享内存

下载&#xff1a; Download - The Apache Portable Runtime Project 编译&#xff1a; 使用cmake-gui生成库&#xff1a; apr-1.lib aprapp-1.lib libapr-1.lib libaprapp-1.lib libapr-1.dll 在Developer PowerShell for VS 2019中&#xff1a; 执行nmake -f Makefile.win来…

Javaweb前端HTML css 整体布局

最后一个是线条颜色 盒子&#xff0c;整体还是300&#xff0c;400

5.STM32之通信接口《精讲》之USART通信---实验串口接收程序

根据上节&#xff0c;我们一已经完成了串口发送程序的代码&#xff0c;并且深入的解析探索了串口的原理&#xff0c;接下来&#xff0c;Whappy小编将带领大家进入串口接收程序的探索与实验&#xff0c;并将结合上一节串口发送一起来完成串口的发送和接收实验。 上来两张图 上图…

借助算力云跑模型

算力平台&#xff1a;FunHPC | 算力简单易用 AI乐趣丛生 该文章只讲述了最基本的使用步骤&#xff08;因为我也不熟练&#xff09;。 【注】&#xff1a;进入平台&#xff0c;注册登录账号后&#xff0c;才能租用。学生认证&#xff0b;实名认证会有免费的算力资源&#xff0…

SpringMVC 执行流程详解

目录 前言1. SpringMVC 的核心组件概述1.1 DispatcherServlet1.2 HandlerMapping1.3 HandlerAdapter1.4 拦截器&#xff08;HandlerInterceptor&#xff09;1.5 ViewResolver 2. SpringMVC 的执行流程详解2.1 接收请求并分发2.2 获取 HandlerExecutionChain2.3 获取 HandlerAda…

安卓应用安装过程学习

声明&#xff1a;此文章来自http://shuwoom.com/?p60的学习记录 启动式安装 public static final IPackageManager main(Context context, Installer installer,boolean factoryTest, boolean onlyCore) {PackageManagerService m new PackageManagerService(context, inst…

如何通过OpenSSL来创建自签名的CA证书?

通过创建自签名CA证书可以让我们在没有商业支持的情况下学习与研究PKI&#xff08;公钥基础设施&#xff09;和SSL/TLS技术&#xff0c;本文将详细介绍如何通过OpenSSL来创建自签名的CA证书。 1. 初衷&#xff1a;为什么需要创建自签名CA证书&#xff1f; 除了开篇引言中提到的…