TensorFlow之超级参数调优

news2024/12/23 4:32:56

Keras技术框架提供工具类库,用于对TensorFlow程序相关的超级参数进行调优,为机器学习选择正确的超级参数集合的过程被称之为超级参数调优。

超级参数是指用于治理一个机器学习模型的训练过程及其拓扑结构的变量,这些变量在整个训练过程中保持不变、并能直接影响机器学习程序的性能,超级参数包括以下两种类型:

1 模型超级参数,影响模型的选择,例如,隐藏层的层数、每层的单元数

2 算法超级参数,影响模型学习算法的速度以及质量,例如,随机梯度下降算法的学习速率(SGD)、KNN算法中的最近元素的数量

安装

如上所示,导入Keras以及TensorFlow的基础工具类、超级参数调优器。

加载数据集

如上所示,加载mnist样本数据集,该数据集是用于训练流行服饰。

定义模型

如上所示,定义一个专门用于超级参数调优的模型,该模型被称之为超级参数模型(hype model),hp_units是定义隐藏层的单元数在超级参数调优过程中的变化范围,其变化范围是32到512,hp_learning_rate是定义学习速率在超级参数调优过程中的变化值的列表,其值包括0.01、0.001、0.0001,该模型使用Adam优化器进行调优。

创建超级参数调优器

如上所示,实例化一个超级参数调优器,传入前面定义的超级参数模型定义函数、设置训练迭代的最大次数。

如上所示,定义一个正则化机制的类型。

如上所示,对前面定义的超级参数调优模型执行检索,输出,最优的隐藏层的单元数是288,最优的优化器的学习速率是0.001,对应的变量是best_hps。

训练超级参数调优模型

如上所示,使用检索的最优超级参数对模型执行训练,输出,最优的训练迭代次数,其对应的变量是best_epoch。

如上所示,使用最优的超级参数best_hps、最优的迭代次数best_epoch对模型执行训练。

如上所示,使用测试数据集对已经调优的模型执行测试评估。

(未完待续)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/147472.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

尚医通-项目启动过程

1.先启动Redis: redis-server redis.conf & 2.启动docker: systemctl start docker 3.进入mongo容器: docker exec -it mymongo /bin/bash 4.使用MongoDB客户端进行操作 mongo 5.启动nginx:cmd 输入命令nginx 前期使…

【Kotlin】空安全 ③ ( 手动空安全管理 | 非空断言操作符 !! | 使用 if 语句判空 )

文章目录一、非空断言操作符 !!二、使用 if 语句判空一、非空断言操作符 !! Kotlin 中的 可空类型 变量 , 在运行时 可以选择 不启用 安全调用 操作 , 在调用 可空类型 变量 成员 与 方法 时 , 使用 非空断言操作符 !! , 如果 可空类型 变量为 空 , 则 直接抛出 空指针异常 K…

部署k8s集群

环境准备准备三台虚拟机,建议最小硬件配置:2核CPU、2G内存、20G硬盘 ,可以访问外网,💡ps:以下命令在三台虚拟机上都要执行一遍,直到kubeadm init设置虚拟机hostname sudo hostnamectl set-hostn…

性能优化系列之『混合式开发:小程序内核及优势介绍』

文章の目录一、愿景二、技术优势三、底层内核四、行业背景五、选型建议写在最后一、愿景 触手可及:用户扫一扫或者搜一下即可打开应用用完即走:不用关心是否安装太多应用 二、技术优势 H5 相比 App 开发,开发门槛更低优于 H5,接…

指针进阶篇(1)

目录 🤔 前言🤔 一、😊字符指针😊 二、😜指针数组😜 三、😝数组指针😝 3.1数组指针的定义 3.2&数组名VS数组名 3.3数组指针的使用 四、🌝数组参数&#xff0c…

LeetCode算法之----回溯

目录 【一】前言 【二】全排列 【三】电话号码的字母组合 【四】括号生成 【五】组合总和 【六】子集 【七】总结 【一】前言 回溯算法采用试错的思想,尝试分步的来解决一个问题。在分步解决问题的过程中,当它通过尝试发现现有的分步答案不能得到有效的…

helm、k8s dasboard、rancher、kubesphere介绍及使用

文章目录1. helm 安装及使用概述1.1 helm 安装1.1.1 添加仓库1.2 helm 常用命令2. dashboard 部署使用2.1 安装helm repo 源2.2 安装dashboard2.3 查看dashboard 运行状态2.4 创建dashboard-admin.yaml文件2.5 创建登录用户2.6 查看admin-user账户的token2.7 登录dashboard2.8 …

非对称加密实战(二):解决web项目不支持https问题 ,添加证书【附源码】

目录web项目http请求变为https请求解决无法访问https问题重启再次访问https出现链接不安全,但是可以继续访问认证文件加入域名参数生成客户端认证文件证书安装源码地址web项目 http请求变为https请求 http请求 https请求 解决无法访问https问题 需要把 非对称加密实战(一…

【博客576】警惕docker本身iptables规则对网络的影响

警惕docker本身iptables规则对网络的影响 警惕1:k8s环境下,独立拉取docker容器时,进行端口映射会有问题 场景: 在k8s节点由于某种原因,比如:需要拉起一个docker环境来制作镜像,需要拉起一些不…

靶机测试Os-hacknos-3笔记

靶机介绍Difficulty: IntermediateFlag: 2 Flag first user And the second rootLearning: Web Application | Enumeration | Privilege EscalationWeb-site: www.hacknos.comContact-us : rahul_gehlautThis works better with VirtualBox rather than VMware靶机地址https://…

nuPlan: A closed-loop ML-based planning benchmark for autonomous vehicles

Paper name nuPlan: A closed-loop ML-based planning benchmark for autonomous vehicles Paper Reading Note URL: https://arxiv.org/pdf/2106.11810.pdf TL;DR nuPlan 比赛,提出了规控领域新数据集 Introduction 背景 当前自动驾驶规划任务中使用专家系统…

正确实践Jetpack SplashScreen API —— 在所有Android系统上使用总结,内含原理分析

1.前言 文章末尾有演示的APK链接,感兴趣的同学,可以自行下载体验一下 官方Android 12的Splash Screen文档地址 官方Splash Screen兼容库,支持所有版本系统 本篇文章主要围绕下面三个问题来介绍: 我们能从Android 12 SplashScree…

订单数据越来越多,如何优化数据库性能?

“增删改查”都是查找问题,因为你都得先找到数据才能对数据做操作。那存储系统性能问题,其实就是查找快慢问题。 存储系统一次查询所耗时间取决两个因素: 查找的时间复杂度数据总量 查找的时间复杂度取决于: 查找算法存储数据…

基于Java-SpringBoot+vue实现的前后端分离信息管理系统设计和实现

基于Java-SpringBootvue实现的前后端分离信息管理系统设计和实现 博主介绍:5年java开发经验,专注Java开发、定制、远程、文档编写指导等,csdn特邀作者、专注于Java技术领域 作者主页 超级帅帅吴 Java毕设项目精品实战案例《500套》 欢迎点赞 收藏 ⭐留言…

后台执行限制总结

后台限制的发展历程 前台定义 针对后台Service procState < PROCESS_STATE_IMPORTANT_BACKGROUND7 针对后台启动Activity procState < PROCESS_STATE_BOUND_TOP3 针对后台启动FGS/后台启动FGS的while-in-use权限 procState < PROCESS_STATE_BOUND_FOREGROUND_SERVICE…

【Linux】文本编辑器-vim使用

目  录1 vim的基本概念2 vim的基本操作3 vim常用模式命令集3.1 vim正常模式命令集3.2 vim末行模式命令集4 vim的简单配置1 vim的基本概念 vim编辑器与vi编辑器一样都是多模式编辑器&#xff0c;不同的是vim编辑器是vi编辑器的升级版本&#xff0c;vim不仅兼容vi的所有指令&am…

Django by Example·第二章|Enhancing Your Blog with Advanced Features@笔记

Django by Example第二章|Enhancing Your Blog with Advanced Features笔记 这本书的结构确实很不错&#xff0c;如果能够坚持看下去&#xff0c;那么Django框架的各种用法也就掌握的七七八八了。之前写过一篇这本书的第一章&#xff0c;看完第一章就算是入门了&#xff0c;但…

acwing差分

题目&#xff1a;输入一个长度为 n 的整数序列。接下来输入 m 个操作&#xff0c;每个操作包含三个整数 l,r,c&#xff0c;表示将序列中 [l,r] 之间的每个数加上 c。请你输出进行完所有操作后的序列。输入格式第一行包含两个整数 n 和 m。第二行包含 n 个整数&#xff0c;表示整…

【C++高阶数据结构】跳表(skiplist)

&#x1f3c6;个人主页&#xff1a;企鹅不叫的博客 ​ &#x1f308;专栏 C语言初阶和进阶C项目Leetcode刷题初阶数据结构与算法C初阶和进阶《深入理解计算机操作系统》《高质量C/C编程》Linux ⭐️ 博主码云gitee链接&#xff1a;代码仓库地址 ⚡若有帮助可以【关注点赞收藏】…

第十一章Thymeleaf学习

文章目录什么是Thymeleaf什么是模板引擎Thymeleaf的同行Thymeleaf优势一个实例来认识大概过程导入对应的jar包配置对应的xml文件对应的ViewBaseServlet编写——对应的模板引擎写对应的Servlet类并且继承ViewBaseServlet对应index.html资源——对应的模板Thymeleaf的基础语法th名…