昇思25天学习打卡营第1天|快速入门

news2024/7/30 2:58:26

一、简介:

本节通过MindSpore已经封装好的API,快速实现一个深度学习模型的数据集准备、训练评估,模型参数保存和加载,对新手朋友十分友好。这里非常感谢华为昇思团队在算力和代码方面的指导。

二、环境准备:

在开始使用MindSpore开发一个简单的深度学习模型之前,我们需要先下载一些相关的依赖包:

import mindspore
from mindspore import nn
from mindspore.dataset import vision, transforms
from mindspore.dataset import MnistDataset

这里注意,第一次使用MindSpore的友友们,需要从MindSpore官网下载对应的版本,这里和pytorch的下载是一样的,选择你设备对应的mindspore版本:

 三、数据集处理:

1、下载mnist数据集:

from download import download

url = "https://mindspore-website.obs.cn-north-4.myhuaweicloud.com/" \
      "notebook/datasets/MNIST_Data.zip"
path = download(url, "./", kind="zip", replace=True)

train_dataset = MnistDataset('MNIST_Data/train')
test_dataset = MnistDataset('MNIST_Data/test')

这里的url后面分别是下载数据集的地址和下载完成后数据集的目录,中间用"\"隔开,这段代码的作用就是使用download模块从mindspore官网上下载mnist数据集,保存到指定的目录下,并将其划分为训练和测试的数据集。

2、数据集处理:

下面使用mindsporeData processing Pipeline将数据处理成可以模型训练需要的格式:

def datapipe(dataset, batch_size):
    image_transforms = [
        vision.Rescale(1.0 / 255.0, 0),
        vision.Normalize(mean=(0.1307,), std=(0.3081,)),
        vision.HWC2CHW()
    ]
    label_transform = transforms.TypeCast(mindspore.int32)

    dataset = dataset.map(image_transforms, 'image')
    dataset = dataset.map(label_transform, 'label')
    dataset = dataset.batch(batch_size)
    return dataset

# 调用datapipe函数处理下载的mnist数据集
train_dataset = datapipe(train_dataset, 64)
test_dataset = datapipe(test_dataset, 64)

for image, label in test_dataset.create_tuple_iterator():
    print(f"Shape of image [N, C, H, W]: {image.shape} {image.dtype}")
    print(f"Shape of label: {label.shape} {label.dtype}")
    break

for data in test_dataset.create_dict_iterator():
    print(f"Shape of image [N, C, H, W]: {data['image'].shape} {data['image'].dtype}")
    print(f"Shape of label: {data['label'].shape} {data['label'].dtype}")
    break

 这里用MindSpore定义了一个名为datapipe的函数,这个函数接受两个参数,分别是:dataset(原始数据集)和bach_size(批处理大小)。

在函数内部首先定义了一个image_transforms的列表,包含了三个图像变换操作:

  • vision.Rescale:将图像像素值缩放到[0, 1]范围内。
  • vision.Normalize:对图像进行归一化处理,使用给定的均值和标准差。
  • vision.HWC2CHW:将图像的维度从(height, width, channel)转换为(channel, height, width),这是深度学习框架中常见的要求的输入格式。

label_transform是一个变换操作,用于将标签数据类型转换为mindspore.int32。

之后,再调用map方法,将mnist数据集当中的image,label标签的数据进行变换处理和分批操作,最后返回处理完成的数据集。

下面两个for循环主要是对被处理完成之后的数据集的具象化展示:

第一段循环使用create_tuple_iterator()方法创建一个元组迭代器,并遍历测试数据集。在循环中,它打印出第一个图像和标签的形状和数据类型,然后使用break语句退出循环。

第二段循环使用create_dict_iterator()方法创建一个字典迭代器,并遍历测试数据集。同样地,它打印出第一个图像和标签的形状和数据类型,然后退出循环。

四、模型训练:

1、构建深度学习网络:

class Network(nn.Cell):
    def __init__(self):
        super().__init__()
        self.flatten = nn.Flatten()
        self.dense_relu_sequential = nn.SequentialCell(
            nn.Dense(28*28, 512),
            nn.ReLU(),
            nn.Dense(512, 512),
            nn.ReLU(),
            nn.Dense(512, 10)
        )

    def construct(self, x):
        x = self.flatten(x)
        logits = self.dense_relu_sequential(x)
        return logits

# 实例化Network类
model = Network()
print(model)

 创建一个名为Network的类,作为神经网络模型。首先,继承了Mindspore中的nn.Cell类(和pytorch中继承nn.Model类是一样的)用于构建神经网络。下面就是常规操作了:

①:def __init__(self): 定义类的初始化函数:

(1)super().__init__()调用父类的初始化函数,确保父类的初始化代码被执行。

(2)self.flatten = nn.Flatten(): 创建一个Flatten层,用于将输入张量展平为一维张量。

(3)创建一个SequentialCell对象,用于将多个层按照顺序组合在一起。在这个例子中,SequentialCell包含了三个Dense层和两个ReLU激活层。

②:定义construct函数(等于pytorch的forward函数):

(1)self.flatten = nn.Flatten(): 创建一个Flatten层,用于将输入张量展平为一维张量。

(2)logits = self.dense_relu_sequential(x):

将展平后的输入x通过dense_relu_sequential层进行处理,得到最终的输出logits并返回

2、模型训练:

# 定义损失函数和优化器:
loss_fn = nn.CrossEntropyLoss()
optimizer = nn.SGD(model.trainable_params(), 1e-2)

# 前向传播函数
def forward_fn(data, label):
    logits = model(data)
    loss = loss_fn(logits, label)
    return loss, logits


grad_fn = mindspore.value_and_grad(forward_fn, None, optimizer.parameters, has_aux=True)

def train_step(data, label):
    (loss, _), grads = grad_fn(data, label)
    optimizer(grads)
    return loss
# 循环训练:
def train(model, dataset):
    size = dataset.get_dataset_size()
    model.set_train()
    for batch, (data, label) in enumerate(dataset.create_tuple_iterator()):
        loss = train_step(data, label)

        if batch % 100 == 0:  # 确定没一百个batch打印一次损失
            loss, current = loss.asnumpy(), batch  # 将损失函数转换成一个数组,并返回批次编号
            print(f"loss: {loss:>7f}  [{current:>3d}/{size:>3d}]")

 mindspore.value_and_grad是一个高阶函数,它用于计算给定函数的输出值和梯度。这个函数在训练深度学习模型时非常有用,因为它可以同时返回前向传播的输出值和关于模型参数的梯度,这是通过自动微分(auto-differentiation)技术实现的。

3、模型评估:

def test(model, dataset, loss_fn):
    num_batches = dataset.get_dataset_size()
    model.set_train(False)
    total, test_loss, correct = 0, 0, 0
    for data, label in dataset.create_tuple_iterator():
        pred = model(data)
        total += len(data)
        test_loss += loss_fn(pred, label).asnumpy()
        correct += (pred.argmax(1) == label).asnumpy().sum()
    test_loss /= num_batches
    correct /= total
    print(f"Test: \n Accuracy: {(100*correct):>0.1f}%, Avg loss: {test_loss:>8f} \n")

4、开始训练:

epochs = 3
for t in range(epochs):
    print(f"Epoch {t+1}\n-------------------------------")
    train(model, train_dataset)
    test(model, test_dataset, loss_fn)
print("Done!")
print(time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(time.time())), "VertexGeek")

效果如下:

 

五、模型的保存和加载:

1、保存模型:

mindspore.save_checkpoint(model, "model.ckpt")
print("Saved Model to model.ckpt")
print(time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(time.time())), "VertexGeek")

 

2、加载并推理:

# 实例化模型对象
model = Network()
# 加载模型参数
param_dict = mindspore.load_checkpoint("model.ckpt")
param_not_load, _ = mindspore.load_param_into_net(model, param_dict)
# print(param_not_load)


# 模型推理
model.set_train(False)
for data, label in test_dataset:
    pred = model(data)
    predicted = pred.argmax(1)
    print(f'Predicted: "{predicted[:10]}", Actual: "{label[:10]}"')
    break
    
print(time.strftime("%Y-%m-%d %H:%M:%S", time.localtime(time.time())), "VertexGeek")

 

这一章的难度相对较小,适合新手入门

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1840706.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

YOLOv10改进 | Conv篇 |YOLOv10引入DBB卷积(助力涨点)

1. DBB介绍 1.1 摘要:我们提出了卷积神经网络(ConvNet)的通用构建块来提高性能,而无需任何推理时间成本。 该块被称为多样化分支块(DBB),它通过组合不同尺度和复杂度的不同分支来丰富特征空间,从而增强单个卷积的表示能力,包括卷积序列、多尺度卷积和平均池化。 训练后…

参花实业增收不增利:曾被执行近3000万,资产负债比率高达166%

《港湾商业观察》廖紫雯 日前,参花实业控股有限公司(以下简称:参花实业)再度递表港交所,保荐机构为中泰国际,参花实业国内运营主体为固安县参花面粉有限公司、廊坊固安县参花企业管理有限公司。 作为一家…

【linux】Valgrind工具集详解(十六):交叉编译、移植到arm(失败)

1、源码下载 官网:https://valgrind.org/ 源码:https://valgrind.org/downloads/current.html 2、配置 ./configure CC=arm-linux-gnueabihf-gcc \CXX=arm-linux-gnueabihf-g++ \AR=arm-linux-gnueabihf-ar \--host=arm-linux-gnueabihf \--pr

Mkdocs中文系列教程补充(1)

什么是requirements.txt 我的理解是mkdocs依赖的py库 第一次建立MKdocs文档使用 mkdocs new . 完后,比较建议执行一下: pip install -r requirements.txt 不然mkdocs serve后会出现什么 xxx not found ,比如下面这位老哥 示例 mkdocs …

CleanShot X for Mac v4.7 屏幕截图录像工具(保姆级教程,小白轻松上手,简单易学)

Mac分享吧 文章目录 一、准备工作二、部分特有功能效果1、截图软件的普遍常用功能(画框、箭头、加文字等)都具备,不再详细介绍2、ABCD、1234等信息标注(每按一下鼠标,即各是A、B、C、D...等)3、截图更换背…

MySQL日志(三):数据安全

先来看一个结论:只要redo log和binlog保证持久化到磁盘, 就能确保MySQL异常重启后, 数据可以恢复。 binlog写入逻辑 binlog的写入逻辑比较简单: 事务执行过程中, 先把日志写到binlog cache, 事务提交的时候…

【论文阅读】-- MIRIA:用于时空交互数据原位可视化和分析的混合现实工具包

MIRIA: A Mixed Reality Toolkit for the In-Situ Visualization and Analysis of Spatio-Temporal Interaction Data 摘要1 引言2 背景及相关工作2.1 用户交互和运动数据分析2.2 沉浸式分析 3 时空用户交互分析3.1 现有系统的用例和分析3.2 要求 4 MIRIA 工具包4.1 一般概念4.…

基于matlab的RRT算法路径规划(附带案例源码)

文章中的所有案例均为博主手动复现,用于记录博主学习路径规划的过程,如有不妥,欢迎在评论区交流 目录 1 标准RRT1.1 算法原理1.2 演示 2 GBRRT2.1 算法原理2.2 算法演示 3 RRT-STAR3.1 算法原理3.2 算法演示 4 RRT-CONNECT4.1 算法原理4.2 算…

[NewStarCTF 2023 公开赛道]R!C!E!

好久没写了。今天儿弄一个rce 题很直接&#xff0c;好久没这么直白的题了&#xff0c;看源码 <?php highlight_file(__FILE__); if(isset($_POST[password])&&isset($_POST[e_v.a.l])){$passwordmd5($_POST[password]);$code$_POST[e_v.a.l];if(substr($password…

css怎么绘制一个三角形

说在前面 在CSS中画三角形通常利用border属性来实现&#xff0c;通过设置三个边的宽度为0&#xff0c;并为一个边提供颜色&#xff0c;结合transform属性进行旋转&#xff0c;可以创建一个三角形。以下是几种常见的CSS三角形的实现方法&#xff1a; 方法1&#xff1a;使用borde…

EXCELITAS电源维修TLX302高压电源维修

埃赛力达电源维修 EXCELITAS电源维修 海曼电源维修 高压电源维修 EXCELITAS高压电源维修故障包括&#xff1a;无输出&#xff0c;高压达不到&#xff0c;电流达不到标准&#xff0c;高压打火,高压线接头处太靠近铁壳部分。无光,风扇不转。保险丝断&#xff0c;可以强制发光,不…

RadioML 2016.10a 调制方式识别

RadioML 2016.10a 调制方式识别 MLP、CNN、ResNet X [] lbl [] for mod in mods:for snr in snrs:X.append(Xd[(mod,snr)])for i in range(Xd[(mod,snr)].shape[0]):lbl.append((mod,snr)) X np.vstack(X) file.close()上述论文的分类任务是识别和区分不同类型的无线电调制…

深度解析ISO9001质量管理体系认证的核心优势

ISO9001质量管理体系认证是一项全球通用的标准&#xff0c;旨在帮助企业优化质量管理&#xff0c;提升市场竞争力。本文将详细解析ISO9001认证为企业带来的多重核心优势。 首先&#xff0c;ISO9001认证显著提升了企业的产品和服务质量。通过建立和实施系统化的质量管理流程&…

一个简单、快速用于训练和微调中等规模GPT模型的开源项目

大家好&#xff0c;今天给大家分享的是一个简单、快速用于训练和微调中等规模GPT模型的开源项目&#xff0c;该项目旨在拓宽深度学习领域的应用&#xff0c;特别是为深度学习的入门者提供便利。 Nano GPT是一个基于PyTorch的开源项目&#xff0c;由前特斯拉AI负责人Andrej Ka…

【Windows】一键设置默认浏览器

最近&#xff0c;有人向我求助&#xff0c;希望我能帮助他们实现一键设置Chrome为默认浏览器。我心想&#xff0c;这有何难&#xff1f;改个注册表不就搞定了嘛。很多软件不都是这么做的吗&#xff1f;找到对应的注册表项&#xff0c;快速、准确地修改&#xff0c;然后…结果却…

24计算机应届生的活路是什么

不够大胆❗ 很多小伙伴在找工作时觉得自己没有竞争力&#xff0c;很没有自信&#xff0c;以至于很害怕找工作面试&#xff0c;被人否定的感觉很不好受。 其实很多工作并没有想象中的高大上&#xff0c;不要害怕&#xff0c;计算机就业的方向是真的广&#xff0c;不要走窄了&…

用android如何实现计算机计算功能

一.新建一个项目 步骤&#xff1a; 1.新建项目 2.选择 二.用户界面构建 找到项目的res的下面layout里面的activity.xml文件进行约束布局界面构建。 activity.xml代码如下&#xff1a; <?xml version"1.0" encoding"utf-8"?> <androidx.c…

Word页码设置,封面无页码,目录摘要阿拉伯数字I,II,III页码,正文开始123为页码

一、背景 使用Word写项目书或论文时&#xff0c;需要正确插入页码&#xff0c;比如封面无页码&#xff0c;目录摘要阿拉伯数字I&#xff0c;II&#xff0c;III为页码&#xff0c;正文开始以123为页码&#xff0c;下面介绍具体实施方法。 所用Word版本&#xff1a;2021 二、W…

【机器学习】第3章 K-近邻算法

一、概念 1.K-近邻算法&#xff1a;也叫KNN 分类 算法&#xff0c;其中的N是 邻近邻居NearestNeighbor的首字母。 &#xff08;1&#xff09;其中K是特征值&#xff0c;就是选择离某个预测的值&#xff08;例如预测的是苹果&#xff0c;就找个苹果&#xff09;最近的几个值&am…

Ollama(docker)+ Open Webui(docker)+Comfyui

Windows 系统可以安装docker desktop 相对比较好用一点&#xff0c;其他的应该也可以 比如rancher desktop podman desktop 安装需要windows WSL 安装ollama docker docker run -d --gpusall -v D:\ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama 这里…