【零基础租赁实惠GPU推荐及大语言模型部署教程01】

news2025/1/15 12:46:42

租赁GPU推荐及大语言模型部署简易教程

  • 1 官网地址
  • 2 注册账号及登录
  • 3 租用GPU
    • 3.1 充值(不限制充值最低金额,1元亦可)
    • 3.2 容器实例(实际就是你租用的GPU电脑)
    • 3.3 选择镜像(选择基础环境:框架版本和Python版本)
    • 3.4租赁成功
    • 3.5 使用技巧说明
      • 1.只是传输数据,上传或者下载文件,无卡模式开机运行即可,更便宜;无卡模式开机运行,表示不使用GPU,仅使用CPU。
      • 2.需要分清楚系统盘和数据盘,否则可能会导致内存不足
      • 3.可以同时租多个,下线一定要记得关机,要不然会持续扣费

1 官网地址

AutoDL算力云:https://www.autodl.com/home
AutoDL帮助文档:https://www.autodl.com/docs/
(看我教程,可以直接跳过帮助文档,有更多需求再看帮助文档作为补充)

2 注册账号及登录

按图2.1提示注册,登录即可跳转主界面图2.2

图2.1 注册界面
注册账号
图2.2主界面
在这里插入图片描述

3 租用GPU

3.1 充值(不限制充值最低金额,1元亦可)

图3.1充值步骤图
在这里插入图片描述

3.2 容器实例(实际就是你租用的GPU电脑)

再通俗具体来讲,租用的是一个GPU电脑的部分给你,和他人共用但又具有隔离性,默认租用后提供的是juypter平台(可运行python代码),如果需要本地VScode或者PyCharm和租用的GPU性能结合起来,可以参考文章开头的帮助文档,也可直接在juypter平台上运行。
不用担心价钱,很便宜,按时计费,用时打开,不用时关闭
注意一点是2个星期以内需要开机一下,否则会清除数据
图3.2.1 租用步骤图1
在这里插入图片描述
图3.2.2 租用步骤图2
在这里插入图片描述

3.3 选择镜像(选择基础环境:框架版本和Python版本)

基础镜像:当自行构建或者github上的项目复现,可选择基础镜像,根据需要选择框架版本和Python版本。
社区镜像:该平台社区热门的项目,根据需要可以直接选择其环境。
社区地址:https://www.codewithgpu.com/image
图3.3.1 社区项目示例图
在这里插入图片描述

图3.3.2 租用步骤图-基础镜像示例选择3( 租用步骤图3)
当还不清楚时直接可以选择示例的镜像,接着学习后续的流程。
在这里插入图片描述

3.4租赁成功

图3.4.1租赁成功图
点击图3.4.1租赁成功图中的“关机”按钮,即可关闭,“更多”按钮可选择无卡模式开机,注释见3.5使用技巧说明。
在这里插入图片描述
图3.4.2 juypter平台
点击图3.4.1租赁成功图中的蓝色的“JuypterLab”按钮,即可打开。
后续的使用可参考链接快速开始:https://www.autodl.com/docs/quick_start/
在这里插入图片描述
图3.4.3 新建ipynb文件示例
使用方面和本地使用juypter平台一样
在这里插入图片描述

3.5 使用技巧说明

1.只是传输数据,上传或者下载文件,无卡模式开机运行即可,更便宜;无卡模式开机运行,表示不使用GPU,仅使用CPU。

2.需要分清楚系统盘和数据盘,否则可能会导致内存不足

在这里插入图片描述

3.可以同时租多个,下线一定要记得关机,要不然会持续扣费

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2277011.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Centos 宝塔安装

yum install -y wget && wget -O install.sh http://download.bt.cn/install/install_6.0.sh && sh install.sh 安装成功界面 宝塔说明文档 https://www.bt.cn/admin/servers#wcu 或者可以注册宝塔账号 1 快速部署 安装docker 之后 2 需要在usr/bin下下载do…

新版AndroidStudio通过系统快捷创建带BottomNavigationView的项目踩坑记录

选择上面这个玩意创建的项目 坑点1 :配置的写法和不一样了 镜像的写法: 新的settings.gradle.kts中配置镜像的代码: pluginManagement {repositories {mavenCentral()google {content {includeGroupByRegex("com\\.android.*")…

Java中网络编程的学习

目录 网络编程概述 网络模型 网络通信三要素: IP 端口号 通信协议 IP地址(Internet Protocol Address) 端口号 网络通信协议 TCP 三次握手 四次挥手 UDP TCP编程 客户端Socket的工作过程包含以下四个基本的步骤: 服务器程序…

浅谈云计算03 | 云计算的技术支撑(云使能技术)

云计算的技术支撑 一、定义与内涵1.1 定义与内涵 二、云计算使能技术架构2.1 宽带网络和 Internet 架构2.2 数据中心技术2.3 虚拟化技术2.4 Web 技术2.5 多租户技术2.6 服务技术 一、定义与内涵 1.1 定义与内涵 云计算技术包含一些基础的关键技术,这里称为使能技术…

腾讯云AI代码助手编程挑战赛-智能聊天助手

作品简介 本作品开发于腾讯云 AI 代码助手编程挑战赛,旨在体验腾讯云 AI 代码助手在项目开发中的助力。通过这一开发过程,体验到了 AI 辅助编程的高效性。 技术架构 前端: 使用 VUE3、TypeScript、TDesign 和 ElementUI 实现。 后端: 基于 Python 开发…

pip install hnswlib安装不成功

参考这个文章解决了问题:ERROR: Could not build wheels for hnswlib, which is required to install pyproject.toml-based projects 以下是我安装的时候,报错: Building wheel for hnswlib (pyproject.toml) ... errorerror: subprocess-e…

OpenGL学习笔记(四):Shader 着色器(GLSL、Shader类封装)

文章目录 GLSL数据类型输入与输出Uniform的使用Shader类封装练习0练习1练习2练习3 前面的文章提到,着色器(Shader)是运行在GPU上的小程序。这些小程序为图形渲染管线的某个特定部分运行。从本质上来说,着色器只是一种把输入转化为输出的程序。着色器也是…

移动云自研云原生数据库入围国采!

近日,中央国家机关2024年度事务型数据库软件框架协议联合征集采购项目产品名单正式公布,移动云自主研发的云原生数据库产品顺利入围。这一成就不仅彰显了移动云在数据库领域深耕多年造就的领先技术优势,更标志着国家权威评审机构对移动云在数…

vLLM私有化部署大语言模型LLM

目录 一、vLLM介绍 二、安装vLLM 1、安装环境 2、安装步骤 三、运行vLLM 1、运行方式 2、切换模型下载源 3、运行本地已下载模型 四、通过http访问vLLM 一、vLLM介绍 vLLM(官方网址:https://www.vllm.ai)是一种用于大规模语言模型&#x…

Dify社区版部署,更换docker.io避免出现安装失败

这几天在部署Dify的社区版,用docker compose进行部署,看Dify里面的部署文档也是相当简单,只需要几个命令就可以执行完成了,但当开始执行的时候就发现会有各种问题。 Docker Compose最好是升级到最新的版本,我们以前用…

IntelliJ IDEA Type Hierarchy Scope Pattern 学习指南

IntelliJ IDEA Type Hierarchy Scope Pattern 学习指南 什么是 Type Hierarchy? Type Hierarchy 是 IntelliJ IDEA 提供的一个工具,允许开发者查看某个类的继承关系及其实现的接口结构。它是理解类关系的重要工具,尤其在处理复杂的继承体系…

Redis数据结构服务器

Redis数据结构服务器 什么是Redis数据结构服务器 的概念和特点 是一个开源(BSD许可),内存中的数据结构存储服务器,可用作数据库、缓存和消息中间件。它支持多种类型的数据结构,如字符串(strings&#xff09…

【Linux】进程结束和进程等待

进程的结束 退出码的认识 在我们学习C/C的时候我们通常在进行写main函数时,main函数主体写完后通常会进行写一条语句 " return 0 " ,这里的这条语句到底是什么意思呢?? 我们知道当在主函数中调用其他函数或者在其他函…

Spring Boot教程之五十五:Spring Boot Kafka 消费者示例

Spring Boot Kafka 消费者示例 Spring Boot 是 Java 编程语言中最流行和使用最多的框架之一。它是一个基于微服务的框架,使用 Spring Boot 制作生产就绪的应用程序只需很少的时间。Spring Boot 可以轻松创建独立的、生产级的基于 Spring 的应用程序,您可…

1月14日作业

将图形类的获取周长和获取面积函数设置成虚函数&#xff0c;完成多态 #include <iostream> #include <cmath> #define PI 3.14159 using namespace std;// 父类&#xff1a;图形类 class Shape { protected:double perimeter;double area; public:Shape():perimet…

基于Springboot + vue实现的文档管理系统

&#x1f942;(❁◡❁)您的点赞&#x1f44d;➕评论&#x1f4dd;➕收藏⭐是作者创作的最大动力&#x1f91e; &#x1f496;&#x1f4d5;&#x1f389;&#x1f525; 支持我&#xff1a;点赞&#x1f44d;收藏⭐️留言&#x1f4dd;欢迎留言讨论 &#x1f525;&#x1f525;&…

Spring Boot 2 学习指南与资料分享

Spring Boot 2 学习资料 Spring Boot 2 学习资料 Spring Boot 2 学习资料 在当今竞争激烈的 Java 后端开发领域&#xff0c;Spring Boot 2 凭借其卓越的特性&#xff0c;为开发者们开辟了一条高效、便捷的开发之路。如果你渴望深入学习 Spring Boot 2&#xff0c;以下这份精心…

高级软件工程-复习

高级软件工程复习 坐标国科大&#xff0c;下面是老师说的考试重点。 Ruby编程语言的一些特征需要了解要能读得懂Ruby程序Git的基本命令操作知道Rails的MVC工作机理需要清楚&#xff0c;Model, Controller, View各司什么职责明白BDD的User Story需要会写&#xff0c;SMART要求能…

easyui datagrid表头和网格错位问题

问题&#xff1a;表头与数据网格错位 解决&#xff1a; 在onLoadSuccess事件中调用fitColumns方法 $(this).datagrid(‘fitColumns’);

React方向:react中5种Dom的操作方式

1、通过原生JS获取Dom去操作 通过document.querySelector(#title)原生js的方式去拿到dom节点&#xff0c;然后去进行操作。 import {Component} from "react";class App extends Component {//定义获取Dom的函数handleGetDom(){let title document.querySelector(#t…