准备一台有root权限的服务器

创建用于开发的子用户

• 使用adduser命令创建新用户:

sudo adduser newuser

• 为新用户添加sudo权限,编辑sudoers文件:

sudo visudo

• 在文件中添加:

newuser ALL=(ALL:ALL) ALL

• 将新用户添加到docker用户组:

sudo usermod -aG docker newuser

• 改权限

chmod 666 /var/run/docker.sock

部署个人推理开发环境

• Dockerfile（自行构建镜像）
  该镜像最好已经安装硬件依赖

FROM your-image:test                                                                                                                                                                                                                                                                                        
ENTRYPOINT []
CMD ["sleep","100000000000"]

• docker-compose.yml

version: '3'                                                                                                                                                                                                                                                                                                                                                            
services:                                                                                                                                                                                                                                                                                                                                                               
  infer:                                                                                                                                                                                                                                                                                                                                                                
    image: lijiacai_infer:latest                                                                                                                                                                                                                                                                                                                                        
    volumes:                                                                                                                                                                                                                                                                                                                                                            
      - /usr/share/zoneinfo/Asia/Shanghai:/etc/localtime                                                                                                                                                                                                                                                                                                                
      - /usr/sbin/efsmi:/usr/sbin/efsmi                                                                                                                                                                                                                                                                                                                                 
      - ./:/workspace/                                                                                                                                                                                                                                                                                                                                                  
    network_mode: host                                                                                                                                                                                                                                                                                                                                                  
    shm_size: '8gb'                                                                                                                                                                                                                                                                                                                                                     
    privileged: true

• 启动

docker-compose up -d

使用vscode 进行远程连接开发

建议每个用户属于系统子用户 宿主机上自行配置git密钥

安装插件

• Remote SSH
• dev Container
  

选择某服务器并连接

连接某容器并进入开发容器