【深度学习】pytorch训练中的一个大坑

news2024/12/28 2:43:49

在这里插入图片描述
使用的命令：iostat -x 5
可以看到 ssd的利用率已经满了。

之前在的数据集放在了 hdd上，训练结果特别慢。
所以我把它移动到了ssd上，然后训练参数用的 resume，
但是！！！！它把历史记住了，仍然不从ssd上来取数据。
配置文件的路径也换了，但它还是会去找旧的。

在这里插入图片描述
现在的100% 是扫描数据的100%
因数数据集15G~20G，还是比较多的。

engine/trainer: task=detect, mode=train, model=/home/justin/Desktop/code/python_project/Jersey-Number/yolov8n.pt, data=/home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/data.yaml, epochs=1000, time=None, patience=100, batch=64, imgsz=640, save=True, save_period=-1, cache=False, device=[0, 1], workers=8, project=None, name=train70, exist_ok=False, pretrained=True, optimizer=auto, verbose=True, seed=0, deterministic=True, single_cls=False, rect=False, cos_lr=False, close_mosaic=10, resume=False, amp=True, fraction=1.0, profile=False, freeze=None, multi_scale=False, overlap_mask=True, mask_ratio=4, dropout=0.0, val=True, split=val, save_json=False, save_hybrid=False, conf=None, iou=0.7, max_det=300, half=False, dnn=False, plots=True, source=None, vid_stride=1, stream_buffer=False, visualize=False, augment=False, agnostic_nms=False, classes=None, retina_masks=False, embed=None, show=False, save_frames=False, save_txt=False, save_conf=False, save_crop=False, show_labels=True, show_conf=True, show_boxes=True, line_width=None, format=torchscript, keras=False, optimize=False, int8=False, dynamic=False, simplify=False, opset=None, workspace=4, nms=False, lr0=0.01, lrf=0.01, momentum=0.937, weight_decay=0.0005, warmup_epochs=3.0, warmup_momentum=0.8, warmup_bias_lr=0.1, box=7.5, cls=0.5, dfl=1.5, pose=12.0, kobj=1.0, label_smoothing=0.0, nbs=64, hsv_h=0.015, hsv_s=0.7, hsv_v=0.4, degrees=0.0, translate=0.1, scale=0.5, shear=0.0, perspective=0.0, flipud=0.0, fliplr=0.5, bgr=0.0, mosaic=1.0, mixup=0.0, copy_paste=0.0, auto_augment=randaugment, erasing=0.4, crop_fraction=1.0, cfg=None, tracker=botsort.yaml, save_dir=runs/detect/train70
Overriding model.yaml nc=80 with nc=4

                   from  n    params  module                                       arguments                     
  0                  -1  1       464  ultralytics.nn.modules.conv.Conv             [3, 16, 3, 2]                 
  1                  -1  1      4672  ultralytics.nn.modules.conv.Conv             [16, 32, 3, 2]                
  2                  -1  1      7360  ultralytics.nn.modules.block.C2f             [32, 32, 1, True]             
  3                  -1  1     18560  ultralytics.nn.modules.conv.Conv             [32, 64, 3, 2]                
  4                  -1  2     49664  ultralytics.nn.modules.block.C2f             [64, 64, 2, True]             
  5                  -1  1     73984  ultralytics.nn.modules.conv.Conv             [64, 128, 3, 2]               
  6                  -1  2    197632  ultralytics.nn.modules.block.C2f             [128, 128, 2, True]           
  7                  -1  1    295424  ultralytics.nn.modules.conv.Conv             [128, 256, 3, 2]              
  8                  -1  1    460288  ultralytics.nn.modules.block.C2f             [256, 256, 1, True]           
  9                  -1  1    164608  ultralytics.nn.modules.block.SPPF            [256, 256, 5]                 
 10                  -1  1         0  torch.nn.modules.upsampling.Upsample         [None, 2, 'nearest']          
 11             [-1, 6]  1         0  ultralytics.nn.modules.conv.Concat           [1]                           
 12                  -1  1    148224  ultralytics.nn.modules.block.C2f             [384, 128, 1]                 
 13                  -1  1         0  torch.nn.modules.upsampling.Upsample         [None, 2, 'nearest']          
 14             [-1, 4]  1         0  ultralytics.nn.modules.conv.Concat           [1]                           
 15                  -1  1     37248  ultralytics.nn.modules.block.C2f             [192, 64, 1]                  
 16                  -1  1     36992  ultralytics.nn.modules.conv.Conv             [64, 64, 3, 2]                
 17            [-1, 12]  1         0  ultralytics.nn.modules.conv.Concat           [1]                           
 18                  -1  1    123648  ultralytics.nn.modules.block.C2f             [192, 128, 1]                 
 19                  -1  1    147712  ultralytics.nn.modules.conv.Conv             [128, 128, 3, 2]              
 20             [-1, 9]  1         0  ultralytics.nn.modules.conv.Concat           [1]                           
 21                  -1  1    493056  ultralytics.nn.modules.block.C2f             [384, 256, 1]                 
 22        [15, 18, 21]  1    752092  ultralytics.nn.modules.head.Detect           [4, [64, 128, 256]]           
Model summary: 225 layers, 3011628 parameters, 3011612 gradients, 8.2 GFLOPs

Transferred 319/355 items from pretrained weights
DDP: debug command /home/justin/miniconda3/bin/python -m torch.distributed.run --nproc_per_node 2 --master_port 41127 /home/justin/.config/Ultralytics/DDP/_temp_uog7ddsr140402595641744.py
WARNING:__main__:
*****************************************
Setting OMP_NUM_THREADS environment variable for each process to be 1 in default, to avoid your system being overloaded, please further tune the variable for optimal performance in your application as needed. 
*****************************************
Ultralytics YOLOv8.2.1 🚀 Python-3.11.0 torch-2.3.0+cu121 CUDA:0 (NVIDIA GeForce RTX 4090, 24210MiB)
                                                          CUDA:1 (NVIDIA GeForce RTX 4090, 24188MiB)
TensorBoard: Start with 'tensorboard --logdir runs/detect/train70', view at http://localhost:6006/
Overriding model.yaml nc=80 with nc=4
Transferred 319/355 items from pretrained weights
Freezing layer 'model.22.dfl.conv.weight'
AMP: running Automatic Mixed Precision (AMP) checks with YOLOv8n...
/home/justin/miniconda3/lib/python3.11/site-packages/torch/nn/modules/conv.py:456: UserWarning: Plan failed with a cudnnException: CUDNN_BACKEND_EXECUTION_PLAN_DESCRIPTOR: cudnnFinalize Descriptor Failed cudnn_status: CUDNN_STATUS_NOT_SUPPORTED (Triggered internally at ../aten/src/ATen/native/cudnn/Conv_v8.cpp:919.)
  return F.conv2d(input, weight, bias, self.stride,
AMP: checks passed ✅
train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/
train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/











train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/







train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/
train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/
train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/







train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/








train: Scanning /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/

我就是看这里：

train: WARNING ⚠️ /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/images/284193,42a000df17be3d.jpg: 1 duplicate labels removed
train: WARNING ⚠️ /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/images/284193,575c000f3f01e40.jpg: 1 duplicate labels removed
train: WARNING ⚠️ /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/images/284193,70d2000c58fbf86.jpg: 1 duplicate labels removed
train: WARNING ⚠️ /home/justin/Desktop/code/python_project/Jersey-Number/datasets/20240511_four_in_1/data_head_person_hoop_number/train/images/284193,880000198e8148.jpg: 1 duplicate labels removed

看出路径不对了，然后from scratch开始训练，就好使了。

然而并无卵用，确实换到ssd上了，还是很差，应该是碎文件所致，哎。。。所以，深度学习级别的hello world 用plk存储文件是有道理的，为了不让他那么碎啊 =====个人理解啊。

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1884784.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

音乐：触动心灵的艺术语言

音乐：触动心灵的艺术语言

Enjoy your music 音 乐 作为一种跨越时空和文化的艺术形式，拥有着无穷的魅力和力量。 它不仅能够带给我们愉悦的听觉享受，还对我们的身心健康、认知发展和社会交往产生着深远的影响。 一、音乐的基本元素 音乐由多个基本元素构成，包括…
阅读更多...
【MySQL备份】Percona XtraBackup全量备份实战篇

【MySQL备份】Percona XtraBackup全量备份实战篇

目录 1. 前言 2.准备工作 2.1.创建备份目录 2.2.配置/etc/my.cnf文件 2.3.授予root用户BACKUP_ADMIN权限 3.全量备份 4.准备备份 5.数据恢复 6.总结 "实战演练：利用Percona XtraBackup执行MySQL全量备份操作详解" 1. 前言 本文将继续上篇【My…
阅读更多...
【FFmpeg】av_read_frame函数

【FFmpeg】av_read_frame函数

目录 1.av_read_frame1.2 从pkt buffer中读取帧（avpriv_packet_list_get）1.3 从流当中读取帧（read_frame_internal）1.3.1 读取帧（ff_read_packet）1.3.2 解析packet（parse_packet）1.3…
阅读更多...
方正小标宋简体、仿宋GB2312、楷体GB2312字体

方正小标宋简体、仿宋GB2312、楷体GB2312字体

文章目录 下载地址所有的文件wps使用方正小标宋简体、仿宋GB2312、楷体GB2312 字体用途方正小标宋简体仿宋GB2312楷体GB2312 下载地址 【金山文档 | WPS云文档】 方正小标宋简体、仿宋GB2312、楷体GB2312 https://kdocs.cn/l/cksgHDLneqDk 所有的文件 wps使用 方正小标宋简体…
阅读更多...
Java高级重点知识点-18-线程

Java高级重点知识点-18-线程

文章目录 多线程线程线程安全线程状态线程间通信线程池 多线程 并发与并行 并发：指两个或多个事件在同一个时间段内发生。并行：指两个或多个事件在同一时刻发生（同时发生）。 对于单核CPU系统中，我们可以同时运行多个…
阅读更多...
物联网的技术和应用有哪些？

物联网的技术和应用有哪些？

随着科技的飞速发展，物联网已经成为连接世界的重要纽带，塑造着我们未来的生活。我们一起深入探索物联网的前沿技术和前瞻性应用，一窥未来的可能性。 获取物联网解决方案，YesPMP平台一站式物联网开发服务。 提示：智慧家…
阅读更多...
【计算机网络期末复习】例题汇总（一）

【计算机网络期末复习】例题汇总（一）

重点例题选择填空简答题与传输媒体的接口的特性 重点 计算机网络的性能指标计算机网络体系结构 例题 选择 填空 交换机内部各个端口之间是用【总线电路】连接的，集线器各端口之间是【存储转发】的 交换机依据【依据帧的目的地址在路由表中查找匹配 】&#xff0c…
阅读更多...
基于协同过滤的航空票务推荐系统的设计与实现（飞机票推荐系统）

基于协同过滤的航空票务推荐系统的设计与实现（飞机票推荐系统）

💗博主介绍💗：✌在职Java研发工程师、专注于程序设计、源码分享、技术交流、专注于Java技术领域和毕业设计✌ 温馨提示：文末有 CSDN 平台官方提供的老师 Wechat / QQ 名片 :) Java精品实战案例《700套》 2025最新毕业设计选题推荐…
阅读更多...
OFDM的缺点与关键技术

OFDM的缺点与关键技术

子载波间干扰英文简写ICI，ICI可能由各种原因引起 在多径信道中，CP小于最大附加时延时收发系统载波频率偏差和采样偏差收发系统相对移动，存在多普勒频移 ICI是制约OFDM系统性能的主要重要因素之一 对频率偏差敏感----->同步技术&#xff0…
阅读更多...
【C++】——【 STL简介】——【详细讲解】

【C++】——【 STL简介】——【详细讲解】

目录 ​编辑 1. 什么是STL 2. STL的版本 3. STL的六大组件 1.容器(Container)： 2.算法(Algorithm)： 3.迭代器(Iterator)： 4.函数(Function)： 5.适配器(Adapter)： 6.分配器(Allocator)： 4. STL的…
阅读更多...
振弦采集仪的工程安全监测实践与案例分析

振弦采集仪的工程安全监测实践与案例分析

振弦采集仪的工程安全监测实践与案例分析 振弦采集仪是一种常用的工程安全监测仪器，通过测量被监测结构的振动频率与振型，可以实时监测结构的安全状况。本文将结合实践经验和案例分析，探讨振弦采集仪在工程安全监测中的应用。 一&#xff0c…
阅读更多...
前端Bug 修复手册

前端Bug 修复手册

1.前端长整数精度丢失问题 （1）问题 在前后端联调时，发现后端有一个接口返回的值和前端页面上展示的值不一致。 后端Java实现的接口如下，返回一个json格式的大整数 123456789123456789： 但是前端请求这个接口后&…
阅读更多...
firewalld(5)--direct

firewalld(5)--direct

简介 direct 是 firewalld 服务的一个功能，它允许用户以更直接的方式配置防火墙规则，绕过通常的 firewalld 区域（zone）和服务的抽象层。然而，这个功能已经被弃用（deprecated），并将在未来的版本中移除。 弃用原因：直接配置可能导致与 firewalld 的其他功能（如区域和…
阅读更多...
万界星空科技铜管加工行业MES系统解决方案

万界星空科技铜管加工行业MES系统解决方案

一、行业背景与挑战 随着铜管加工行业的快速发展，传统的管理模式已难以满足日益增长的生产需求。为满足市场的高效率、高质量、低成本要求，企业急需一套智能化的管理系统来提升生产效率、优化资源配置和确保产品质量。因此，我们针对铜管加工行…
阅读更多...
波司登：2023/24财年业绩表现亮眼，用“新”提质推动高质量发展

波司登：2023/24财年业绩表现亮眼，用“新”提质推动高质量发展

2023年是全面贯彻党的二十大精神的开局之年，尽管国际国内经贸环境错综复杂，但中国经济回升向好、长期向好的基本趋势没有改变，新质生产力激活发展新动能，文化自信自强赋能国货品牌乘势而上，内需市场回暖向好&#xff0…
阅读更多...
测试驱动开发（TDD）方法详解

测试驱动开发（TDD）方法详解

目录 前言1. 什么是测试驱动开发1.1 TDD的基本原则1.2 TDD的优势 2. 测试驱动开发的流程2.1 编写测试2.2 运行测试2.3 编写实现代码2.4 重构代码 3. 常用工具和框架3.1 单元测试框架3.2 Mock框架3.3 集成工具 4. TDD在实际项目中的应用4.1 应用场景4.2 面临的挑战4.3 最佳实践 …
阅读更多...
单一WiFi的RSSI指纹和行人航位推算（PDR）方法

单一WiFi的RSSI指纹和行人航位推算（PDR）方法

问题背景 室内定位技术在现代生活中具有重要意义，应用广泛，如导航、物流跟踪、紧急救援等。然而，现有的室内定位技术在城市高密度平层环境中面临诸多挑战，主要包括： 多路径效应：信号在墙壁、家具等障碍物之间反射，导致信号路径复杂化。信号衰减与干扰：建筑物内的结构会…
阅读更多...
高职人工智能专业实训课之“生成对抗网络（GAN）”

高职人工智能专业实训课之“生成对抗网络（GAN）”

一、前言 生成对抗网络（GAN）作为人工智能领域的一项重要技术，已经在图像生成、风格迁移、数据增强等多个领域展现出巨大的潜力和应用价值。为了满足高职院校对GAN专业实训课程的需求，唯众人工智能教学实训凭借其前沿的教育技术平…
阅读更多...
名企面试必问30题（十三）——项目中遇到最大的困难和挑战

名企面试必问30题（十三）——项目中遇到最大的困难和挑战

1.思路 从面试官的视角来看，您所遇到困难的大小能够直接反映出您水平的层次。 其一，如果您遇到的最大挑战是诸如保障功能上线、需求分析这类基础且偏执行的产品工作，那么面试官或许会给您的能力水平贴上执行者的标签。 其二，如果…
阅读更多...
内容营销专家刘鑫炜：自媒体时代，网站真的落伍了吗？

内容营销专家刘鑫炜：自媒体时代，网站真的落伍了吗？

自媒体时代，虽然自媒体平台如雨后春笋般涌现，为内容创作者提供了更为广阔的空间，但并不意味着网站已经落伍。相反，网站仍然是信息传播、品牌建设、电子商务等多个领域的重要载体，具有不可替代的作用。 网站在信息传播方…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023