入门pytorch

news2024/11/16 19:56:13

卷积神经网络模型

卷积神经网络（简称 CNN）是一种专为图像输入而设计的网络。它最明显的特征就是具有三个层次，卷积层，池化层，全连接层。

借用一张图，下图很好的表示了什么是卷积（提取特征），什么是池化（减少数据量），而全连接层就是一个简单普通的神经网络。

在这里插入图片描述

如下代码，该代码定义了一个卷积神经网络。其中仅有一个简单的函数前向传播forward函数，这个函数的功能其实就是输入数据，给出预测，并不复杂。

from numpy import argmax, vstack
from sklearn.metrics import accuracy_score
from torch.nn import Module, Conv2d, ReLU, MaxPool2d, Linear, CrossEntropyLoss, Softmax
from torch.nn.init import kaiming_uniform_, xavier_uniform_
from torch.optim import SGD
from torch.utils.data import DataLoader
from torchvision.datasets import MNIST
from torchvision.transforms import Compose, ToTensor, Normalize


# 定义模型
class CNN(Module):
    def __init__(self, n_channels):
        # 模型属性
        super(CNN, self).__init__()
        # 隐藏层1。采用了Conv2d函数，n_channels输入数据的通道（彩色RGB图像为3），out_channels即输出的通道数量，kernel_size卷积核的大小
        self.hidden1 = Conv2d(n_channels, 32, kernel_size=(3, 3))
        kaiming_uniform_(self.hidden1.weight, nonlinearity='relu') # 初始化权重
        self.act1 = ReLU() # 激活函数
        # 池化层1。二维最大池化（Max Pooling）层，kernel_size池化窗口的大小，stride池化窗口的滑动步长
        self.pool1 = MaxPool2d((2, 2), stride=(2, 2))
        # 隐藏层2
        self.hidden2 = Conv2d(32, 32, kernel_size=(3, 3))
        kaiming_uniform_(self.hidden2.weight, nonlinearity='relu')
        self.act2 = ReLU()
        # 池化层2
        self.pool2 = MaxPool2d((2, 2), stride=(2, 2))
        # 全连接层
        self.hidden3 = Linear(5 * 5 * 32, 100)
        kaiming_uniform_(self.hidden3.weight, nonlinearity='relu')
        self.act3 = ReLU()
        # 输出层
        self.hidden4 = Linear(100, 10)
        xavier_uniform_(self.hidden4.weight)
        self.act4 = Softmax(dim=1)

    # 前向传播
    def forward(self, X):
        # 输入到隐藏层1
        X = self.hidden1(X)
        X = self.act1(X)
        X = self.pool1(X)
        # 输入到隐藏层2
        X = self.hidden2(X)
        X = self.act2(X)
        X = self.pool2(X)
        # 扁平化
        X = X.view(-1, 4 * 4 * 50)
        # 输入到隐藏层3
        X = self.hidden3(X)
        X = self.act3(X)
        # 输入到输出层
        X = self.hidden4(X)
        X = self.act4(X)
        return X

然后准备数据，开始划分训练集和测试集

# 准备数据集
def prepare_data(path):
    # 定义标准化
    trans = Compose([ToTensor(), Normalize((0.1307,), (0.3081,))])
    # 加载数据集
    train = MNIST(path, train=True, download=True, transform=trans)
    test = MNIST(path, train=False, download=True, transform=trans)
    # 创建 DataLoader
    train_dl = DataLoader(train, batch_size=64, shuffle=True)
    test_dl = DataLoader(test, batch_size=1024, shuffle=False)
    return train_dl, test_dl

所准备是数据如下图，是一种手写数字，通过识别图片分析来得到答案

在这里插入图片描述

然后我们就要看是训练模型了

# 训练模型
def train_model(train_dl, model):
    criterion = CrossEntropyLoss() # 损失函数
    # 定义优化器，SGD（随机梯度下降），lr学习率，momentum动量，用于加速 SGD 在相关方向上的收敛，并抑制震荡
    optimizer = SGD(model.parameters(), lr=0.01, momentum=0.9)
    # 枚举 epochs
    for epoch in range(10):
        # 枚举 mini batches
        for i, (inputs, tragets) in enumerate(train_dl):
            # 梯度清零
            optimizer.zero_grad()
            # 计算模型输出
            yhat = model(inputs)
            # 计算损失
            loss = criterion(yhat, tragets)
            # 反向传播，通过pytorch的自动求导系统（Autograd）间接地影响模型的参数
            loss.backward()
            # 升级模型权重，然后优化器根据反向传播所存储的数据来优化
            optimizer.step()

训练完模型，还要评估一下模型的准确率

# 评估模型
def evaluate_model(test_dl, model):
    predictions, actuals = list(), list()
    for i, (inputs, tragets) in enumerate(test_dl):
        # 在测试集上评估模型
        yhat = model(inputs)
        # 转化为 numpy 数据类型
        yhat = yhat.detach().numpy()
        actual = tragets.numpy()
        # 转化为类标签
        yhat = argmax(yhat, axis=1)
        # 为 stack 格式化数据集
        actual = actual.reshape(len(actual), 1)
        yhat = yhat.reshape(len(yhat), 1)
        # 保存
        predictions.append(yhat)
        actuals.append(actual)
    predictions, actuals = vstack(predictions), vstack(actuals)
    # 计算准确度
    acc = accuracy_score(actuals, predictions)
    return acc

最后我们利用如下代码开始运行

# 准备数据
path = './'
train_dl, test_dl = prepare_data(path)
print(len(train_dl.dataset), len(test_dl.dataset))
# 定义网络
model = CNN(1)
train_model(train_dl, model)
acc = evaluate_model(test_dl, model)
print('Accuracy: %.3f' % acc)

在这里插入图片描述

多层感知机模型

from numpy import vstack, argmax
from pandas import read_csv
from sklearn.metrics import accuracy_score
from sklearn.preprocessing import LabelEncoder
from torch import Tensor
from torch.nn import Module, Linear, ReLU, Softmax, CrossEntropyLoss
from torch.nn.init import kaiming_uniform_, xavier_uniform_
from torch.optim import SGD
from torch.utils.data import Dataset, random_split, DataLoader


# 数据集定义
class CSVDataset(Dataset):
    # 导入数据集
    def __init__(self, path):
        # 导入数据集
        df = read_csv(path, header=None)
        # 设置神经网络的输入与输出
        self.X = df.values[:, :-1]
        self.y = df.values[:, -1]
        # 确保输入数据是浮点数
        self.X = self.X.astype('float32')
        # 使用浮点型标签编码原输出
        self.y = LabelEncoder().fit_transform(self.y)

    # 定义获取数据集长度的方法
    def __len__(self):
        return len(self.X)

    # 定义获取某一行数据的方法
    def __getitem__(self, idx):
        return [self.X[idx], self.y[idx]]

    # 在类内部定义划分训练集和测试集的方法
    def  get_splits(self, n_test = 0.33):
        # 确定训练集和测试集的尺寸
        test_size = round(len(self.X) * n_test)
        train_size = len(self.X) - test_size
        # 根据尺寸划分训练集和测试集并返回
        return random_split(self, [train_size, test_size])


# 模型定义
class MLP(Module):
    # 定义模型属性
    def __init__(self, n_inputs):
        super(MLP, self).__init__()
        # 隐藏层1（输入）
        self.hidden1 = Linear(n_inputs, 10)
        kaiming_uniform_(self.hidden1.weight, nonlinearity='relu')
        self.act1 = ReLU()
        # 隐藏层2
        self.hidden2 = Linear(10, 8)
        kaiming_uniform_(self.hidden2.weight, nonlinearity='relu')
        self.act2 = ReLU()
        # 隐藏层3（输出）
        self.hidden3 = Linear(8, 3)
        xavier_uniform_(self.hidden3.weight)
        self.act3 = Softmax(dim=1)

    # 前向传播
    def forward(self, X):
        # 输入
        X = self.hidden1(X)
        X = self.act1(X)
        # 隐藏层2
        X = self.hidden2(X)
        X = self.act2(X)
        # 输出
        X = self.hidden3(X)
        X = self.act3(X)
        return X


# 准备数据集
def prepare_data(path):
    # 导入数据集
    dataset = CSVDataset(path)
    train, test = dataset.get_splits()
    train_dl = DataLoader(train, batch_size=32, shuffle=True)
    test_dl = DataLoader(test, batch_size=1024, shuffle=False)
    return train_dl, test_dl

# 训练模型
def train_model(train_dl, model):
    # 定义优化器
    criterion = CrossEntropyLoss()
    optimizer = SGD(model.parameters(), lr=0.01, momentum=0.9)
    # 枚举 epochs
    for epoch in range(500):
        # 枚举 mini batches
        for i, (inputs, targets) in enumerate(train_dl):
            # 梯度清除
            optimizer.zero_grad()
            # 计算模型输出
            yhat = model(inputs)
            # 计算损失
            loss = criterion(yhat, targets)
            # 反向传播
            loss.backward()
            # 更新
            optimizer.step()

def evaluate_model(test_dl, model):
    predictions, actuals = list(), list()
    for i, (inputs, targets) in enumerate(test_dl):
        # 在测试集上评估模型
        yhat = model(inputs)
        # 转化为 numpy 数据类型
        yhat = yhat.detach().numpy()
        actual = targets.numpy()
        # 转化为类标签
        yhat = argmax(yhat, axis=1)
        # 为 stacking reshape 矩阵
        actual = actual.reshape((len(actual), 1))
        yhat = yhat.reshape((len(yhat), 1))
        # 保存
        predictions.append(yhat)
        actuals.append(actual)
    predictions, actuals = vstack(predictions), vstack(actuals)
    # 计算准确度
    acc = accuracy_score(actuals, predictions)
    return acc

# 对一行数据进行类预测
def predict(row, model):
    # 转换源数据
    row = Tensor([row])
    # 做出预测
    yhat = model(row)
    # 转化为 numpy 数据类型
    yhat = yhat.detach().numpy()
    return yhat

# 准备数据
path = 'https://raw.githubusercontent.com/jbrownlee/Datasets/master/iris.csv'
train_dl, test_dl = prepare_data(path)
print(len(train_dl), len(test_dl))
# 定义网络
model = MLP(4)
# 训练模型
train_model(train_dl, model)
# 评估模型
acc = evaluate_model(test_dl, model)
print('Accuracy: %.3f' % acc)
# 进行单个预测
row = [5.1,3.5,1.4,0.2]
yhat = predict(row, model)
print('Predicted: %s (class=%d)' % (yhat, argmax(yhat)))

这个就比较简单了，最简单的感知机（最简单的两层神经网络），这里只不过是多层的感知机。它的思想还是比较好理解的，主要是如何针对不同的应用来实现它

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/2116906.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

机器学习：多种算法处理填充后的数据

机器学习：多种算法处理填充后的数据

在机器学习中，填充数据（即处理缺失值）后，选择合适的算法并优化模型以提高召回率是一个常见的任务。召回率是指模型正确识别的正例占所有实际正例的比例。 代码思路： 数据预处理： 导入填充后的数据 …
阅读更多...
FastGPT自定义插件的icon

FastGPT自定义插件的icon

最近研究FastGPT的自定义插件，经过好几天的折磨，终于实现了一个简单的发送邮件功能，但是呢在使用的时候发现插件的icon是默认的fastgpt的logo，那肯定得自定义一个啊。直接说方法： 1、自定义插件下面的template.json文件…
阅读更多...
zookeeper相关面试题

zookeeper相关面试题

zk的数据同步原理？zk的集群会出现脑裂的问题吗？zk的watch机制实现原理？zk是如何保证一致性的？zk的快速选举leader原理？zk的典型应用场景zk中一个客户端修改了数据之后，其他客户端能够马上获取到最新的数据吗…
阅读更多...
握 手 问 题

握 手 问 题

目录 一：问题描述 二：思路: 三：代码： 四：结果：1204 一：问题描述 小蓝组织了一场算法交流会议，总共有50 5050 人参加了本次会议。在会议上，大家进行了握手交流。按照…
阅读更多...
excel如何删除某列或者某区域的重复数据

excel如何删除某列或者某区域的重复数据

先，鼠标选中想要去除重复数据的某列或者某区域 然后，点击上方栏中的【数据】-【删除重复数据】： 之后，表格里只留下了无重复的数据
阅读更多...
STM32(十一)：ADC数模转换器实验

STM32(十一)：ADC数模转换器实验

AD单通道： 1.RCC开启GPIO和ADC时钟。配置ADCCLK分频器。 2.配置GPIO，把GPIO配置成模拟输入的模式。 3.配置多路开关，把左面通道接入到右面规则组列表里。 4.配置ADC转换器， 包括AD转换器和AD数据寄存器。单次转换，连…
阅读更多...
Kafka （快速）安装部署

Kafka （快速）安装部署

文章目录 1、软件下载&配置环境1_JDK安装2_Zookeeper安装3_Kafka安装 2、单机安装1_配置主机名和IP映射2_单机Kafka配置 3、集群安装1_配置主机名和IP的映射关系2_时钟同步3_Zookeeper配置信息4_集群Kafka配置 4、kafka的其他脚本命令5、监控工具Kafka-eagle安装 1、软件下…
阅读更多...
Java并发编程实战 07 | 如何正确停止线程

Java并发编程实战 07 | 如何正确停止线程

什么时候需要停止一个线程？ 一个线程被创建并启动之后，大部分情况下都会自然运行至结束，但是也有一些情况需要主动停止线程，比如： 用户主动取消执行：用户可能会中止一个正在进行的操作，这时需…
阅读更多...
Python系统教程004（字符串）

Python系统教程004（字符串）

一、input函数的算术运算 一包奥特曼卡片卖0.5元，小华想编写一个只需要输入卡片的包数就能自动计算价格的程序，请你帮帮它。 解题 报出类型错误 注意： input函数接收到的键盘信息，默认都是字符串的数据类型。 字符串的数据类型…
阅读更多...
书生浦语三期实战营 [进阶] LMDeploy 量化部署进阶实践

书生浦语三期实战营 [进阶] LMDeploy 量化部署进阶实践

LMDeploy 量化部署进阶实践 1 配置LMDeploy环境 1.1 InternStudio开发机创建与环境搭建 在终端中，让我们输入以下指令，来创建一个名为lmdeploy的conda环境，python版本为3.10，创建成功后激活环境并安装0.5.3版本的lmdeploy及相关…
阅读更多...
IM即时通讯，稳定可靠的即时通讯服务-WorkPlus

IM即时通讯，稳定可靠的即时通讯服务-WorkPlus

在现代企业日常工作中，即时通讯已成为了一种不可或缺的沟通工具。为了满足企业对稳定可靠的即时通讯服务的需求，WorkPlus提供了一款优秀的IM即时通讯平台，以满足企业高效沟通和协作的要求。本文将深入探讨IM即时通讯服务的重要性以及WorkPlus…
阅读更多...
Linux下的RTC应用

Linux下的RTC应用

RTC RTC基础知识 1. RTC简介 RTC 全称是 Real-Time clock，翻译过来是实时时钟。实时时钟在日常生活中的应用也比较泛，比如电子时钟。实时时钟可以为系统提供精确的实时时间，通常带有电池，可以保证系统断电时还可以正常工作&…
阅读更多...
JVM虚拟机 - 基础篇

JVM虚拟机 - 基础篇

一、初始JVM 1. JVM是什么 2. JVM的三大核心功能是什么？ 3. 常见的JVM虚拟机有哪些？ 二、字节码文件详解 1. Java虚拟机的组成 2. 字节码文件的组成 （1）基本信息 Magic魔数 主副版本号 （2）常量池 &#…
阅读更多...
RabbitMQ练习（AMQP 0-9-1 Overview）

RabbitMQ练习（AMQP 0-9-1 Overview）

1、What is AMQP 0-9-1 AMQP 0-9-1（高级消息队列协议）是一种网络协议，它允许遵从该协议的客户端（Publisher或者Consumer）应用程序与遵从该协议的消息中间件代理（Broker，如RabbitMQ）…
阅读更多...
Day19_0.1基础学习MATLAB学习小技巧总结（19）——MATLAB绘图篇（2）

Day19_0.1基础学习MATLAB学习小技巧总结（19）——MATLAB绘图篇（2）

利用空闲时间把碎片化的MATLAB知识重新系统的学习一遍，为了在这个过程中加深印象，也为了能够有所足迹，我会把自己的学习总结发在专栏中，以便学习交流。 参考书目：《MATLAB基础教程 (第三版) (薛山)》 之前的章节都是…
阅读更多...
H5漂流瓶社交系统源码

H5漂流瓶社交系统源码

一个非常有创意的H5漂流瓶社交系统源码，带完整前端h5和后台管理系统。 环境：Nginx 1.20.1-MySQL 5.6.50-PHP-7.3 代码下载
阅读更多...
python简单计算入门教程|加减法

python简单计算入门教程|加减法

python通过调用numpy模块，非常擅长数学计算。再通过调用matplotlib模块，可以自由自在地输出numpy计算的结果。 今天，我们就尝试一些基本计算。 下述是正弦函数和余弦函数的加法和减法计算结果。 图1 代码为： import matplotli…
阅读更多...
【stata】处理城市名和城市代码

【stata】处理城市名和城市代码

写了两个简单的外部命令，在这里分享一下，希望能帮到大家 1.citycode_mutate 第一个命令是citycode_mutate，用于识别字符串中可能存在的城市信息，并生成城市代码（图1图2）。 2.cityname_mutate 第二个命令…
阅读更多...
如何编写Linux PCIe设备驱动器 之二

如何编写Linux PCIe设备驱动器 之二

如何编写Linux PCIe设备驱动器 之二 功能(capability)集功能(capability)APIs通过pci_bus_read_config完成功能存取功能APIs参数pos常量值PCI功能结构 PCI功能IDMSI功能电源功率管理功能 功能(capability)集 功能(capability)APIs int pcie_capability_read_word(struct pci_…
阅读更多...
C++（一）----C++基础

C++（一）----C++基础

1.C的发展史 C语言诞生后，很快普及使用，但是随着编程规模增大且越来越复杂，并且需要高度的抽象和建模时，C语言的诸多短板便表现了出来，为了解决软件危机，上世纪八十年代，计算机界提出了oop&…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023