float16与float32

news2024/12/27 10:46:49

记录一个bug,同一个模型输出保存为npy后计算余弦相似度与欧式距离后,发现余弦相似度为nan,

import numpy as np

# 读取两个 .npy 文件
# array1 = np.load('./code/fbocc-train/onnx_context_res.npy')
array1 = np.load('./code/fbocc-train/res_npy/pth_context_res.npy')
array2 = np.load('./code/fbocc-train/res_npy/pth_context_res.npy')

# 计算欧氏距离
euclidean_distance = np.linalg.norm(array1 - array2)

# 计算余弦相似度
dot_product = np.sum(array1 * array2)
norm_array1 = np.linalg.norm(array1)
norm_array2 = np.linalg.norm(array2)
cosine_similarity = dot_product / (norm_array1 * norm_array2)

print("欧氏距离:", euclidean_distance)
print("余弦相似度:", cosine_similarity)

在这里插入图片描述
原因就是模型输出时两个输出的精度不同,一个是float16,一个是float32,在做除法时有问题

print("context: ", context.cpu().numpy().dtype)
print("depth: ", depth.cpu().numpy().dtype)
np.save("./res_npy/pth_context_res.npy", context.cpu().numpy())
np.save("./res_npy/pth_depth_res.npy", depth.cpu().numpy())

在这里插入图片描述
解决方法,在保存npy时就转换成float32位的

import numpy as np

# 假设 feat 是您要保存的 float32 格式的数据
feat = np.array([1.0, 2.0, 3.0], dtype=np.float32)
# 保存为 .npy 文件
np.save("./feat.npy", feat)

另外,onnx推理时不会出现这个问题,onnx会对结果类型进行自动转换。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1189366.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

02-PostgreSQL的基本使用

一、数据库操作 ①: 登录到数据库 psql -U postgres -d postgres -h 127.0.0.1②:查看所有数据库 \l③: 创建数据库 # 创建一个名为 mydb 的数据库 create database mydb;④:切换数据库 # \c 数据库名 \c mydb⑤:删除数据库 # 删除前 先确保数据库没有被连接 drop databa…

2023亚太杯数学建模A题思路分析

文章目录 0 赛题思路1 竞赛信息2 竞赛时间3 建模常见问题类型3.1 分类问题3.2 优化问题3.3 预测问题3.4 评价问题 4 建模资料5 最后 0 赛题思路 (赛题出来以后第一时间在CSDN分享) https://blog.csdn.net/dc_sinor?typeblog 1 竞赛信息 2023年第十三…

《014.SpringBoot+vue之学生选课管理系统03》【前后端分离】

《014.SpringBootvue之学生选课管理系统03》【前后端分离】 项目简介 [1]本系统涉及到的技术主要如下: 推荐环境配置:DEA jdk1.8 Maven MySQL 前后端分离; 后台:SpringBootMybatisMySQL; 前台:vue; [2]功能模块展示&#xff1a…

【LeetCode刷题日志】160.相交链表

🎈个人主页:库库的里昂 🎐C/C领域新星创作者 🎉欢迎 👍点赞✍评论⭐收藏✨收录专栏:LeetCode 刷题日志🤝希望作者的文章能对你有所帮助,有不足的地方请在评论区留言指正,…

Docker - 常用命令

Docker - 常用命令 帮助命令 docker version # 查看docker版本信息 docker info # 显示docker的系统信息,包括镜像和容器的数量 docker 命令 --help # 帮助命令官网帮助文档:https://docs.docker.com/engine/reference/commandline/cli/ 镜像…

物联网AI MicroPython学习之语法 二进制与ASCII转换

学物联网,来万物简单IoT物联网!! ubinascii 介绍 ubinascii模块实现了二进制数据与各种ASCII编码之间的转换。 接口说明 a2b_base64 - 解码base64编码的数据 函数原型:ubinascii.a2b_base64(data)注意事项: 在解码…

Leangoo敏捷工具管理轻量级项目群

Leangoo领歌是一款永久免费的专业的敏捷开发管理工具,提供端到端敏捷研发管理解决方案,涵盖敏捷需求管理、任务协同、进展跟踪、统计度量等。 
 Leangoo领歌上手快、实施成本低,可帮助企业快速落地敏捷,提质增效、缩短周期、加速…

海淀区委网信办领导到中睿天下调研

近日,北京市海淀区委宣传部副部长,海淀区委网信办主任黄英、海淀区委网信办副主任陈魁一行到中睿天下北京总部调研,中睿天下副总经理李小琼、联合创始人魏海宇、国防营销中心总经理吕宗辉参加。 海淀区委网信办一行参观了中睿天下展厅&#x…

解决UniAD在高版本CUDA、pytorch下运行遇到的问题

UniADhttps://github.com/OpenDriveLab/UniAD是面向行车规划集感知(目标检测与跟踪)、建图(不是像SLAM那样对环境重建的建图,而是实时全景分割图像里的道路、隔离带等行车需关注的相关物体)、和轨迹规划和占用预测等多任务模块于一体的统一大模型。官网上的安装说明…

Android中 Applicaton Context,Service context, Activity context 的区别。

Context类图 类间关系:https://weichao.blog.csdn.net/article/details/129969122 Context是一个抽象类,定义了接口,它的实现类是ContextImpl类。 ContextWrapper是Context的派生类,它实现了Context类的接口。但是ContextWrappe…

智能消火栓远程监测方案

随着城市化进程的加速,城市安全问题日益凸显。消火栓作为城市消防系统的重要组成部分,其状态监测和及时维修至关重要。本文将为大家深入介绍一种创新的消火栓远程监测方案,帮助大家更好地了解其原理、优势和应用价值。 近年来,城…

【强化学习】结合Python实战深入分析原理

【文末送书】今天推荐一本强化学习领域优质Python算法书籍,揭密ChatGPT关键技术PPO和RLHF。 目录 前言时间旅行和平行宇宙强化学习策略梯度算法代码案例文末送书 前言 时间循环是一类热门的影视题材,其设定常常如下:主人公可以主动或被动的回…

第二次pta认证P测试C++

#include <iostream> using namespace std; int f(int n){if (n0){return 1;}if (n1){return 3;}return 4*f(n-1)-f(n-2); } int n; int main() {cin>>n;cout<<f(n);return 0; }第二题 试题编号&#xff1a;2022-13-0302 试题名称&#xff1a;长正整数相加 …

聊一聊被人嘲笑的if err!=nil和golang为什么要必须支持多返回值?

golang多返回值演示 我们知道&#xff0c;多返回值是golang的一个特性&#xff0c;比如下面这段代码,里面的参数名我起了几个比较好区分的 package mainfunc main() {Swap(10999, 10888) }func Swap(saaa, sbbb int) (int, int) {return sbbb, saaa }golang为什么要支持多返回…

obs whip 100ms端到端时延 webrtc验证

obs----whip---->媒体服务-----whep-----→chrome播放器&#xff08;webrtc demo&#xff09; 所有软件在同一台机器 1&#xff09;h264251080p 平均时延&#xff1a;162.8ms 采样点ms&#xff1a;167151168169151168166168167153 2&#xff09;h264301080p 平均时延&…

算法--数据结构

这里写目录标题 本节内容链表与邻接表链表主要思想链表操作初始化在head结点后面插入普通插入删除操作 例子 双链表&#xff08;双向循环链表&#xff09;主要思想操作初始化双向插入删除第k个点 邻接表主要思想 栈和队列栈主要思想主要操作 队列主要思想操作 单调栈与单调队列…

【Git】深入了解Git及其常用命令

&#x1f973;&#x1f973;Welcome Huihuis Code World ! !&#x1f973;&#x1f973; 接下来看看由辉辉所写的关于Git的相关操作吧 目录 &#x1f973;&#x1f973;Welcome Huihuis Code World ! !&#x1f973;&#x1f973; 一.Git是什么 二.SVN和Git的区别 三.Git的…

[Vue warn]: Missing required prop: “action“

控制台显示错误信息 vue.runtime.esm.js:4605 [Vue warn]: Missing required prop: "action" found in ---> <ElUpload> at packages/upload/src/index.vue <ElTableRow> <ElTableBody> <ElTable> at pack…

2023年开发语言和数据库排行

2023年开发语言和数据库排行 一、开发语言相关1. Python1.1 Python优点1.2 Python缺点1.3 Python应用领域 2. C 语言2.1 C 语言优点2.2 C 语言缺点2.3 C语言应用领域 3. Java3.1 Java 优点3.2 Java缺点3.3 Java应用场景 4. C4.1 C 优点4.2 C 缺点4.3 C 应用场景 5. C#5.1 C# 优…

金蝶云星空二开单据明细按钮绑定了权限项但是没控制到权限的问题排查

文章目录 金蝶云星空二开单据明细按钮绑定了权限项但是没控制到权限的问题排查明细按钮&#xff1a;行关闭和行反关闭&#xff0c;分别绑定了SCM_ROWCLOSE和SCM_ROWUNCLOSE解决方案 金蝶云星空二开单据明细按钮绑定了权限项但是没控制到权限的问题排查 明细按钮&#xff1a;行…