centos7 arm服务器编译安装onnxruntime-gpu

news2024/7/4 5:03:20

前言

        ONNX Runtime是适用于Linux，Windows和Mac上ONNX格式的机器学习模型的高性能推理引擎，但在arm服务器上，onnxruntime只有CPU版的，GPU版的没有，因此需要自行去编译GPU版本的才可以。

环境准备

1、python3.8

2、cmake：2.26.0版本以上，可以直接下载aarch64版本的进行安装Releases · Kitware/CMake (github.com)

3、gcc：需要9.2版本以下，可以查看该篇文章进行编译【centos7 arm服务器编译安装gcc 9.2】

4、onnxruntime源码：GitHub - microsoft/onnxruntime: ONNX Runtime: cross-platform, high

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.coloradmin.cn/o/1457643.html

如若内容造成侵权/违法违规/事实不符，请联系多彩编程网进行投诉反馈，一经查实，立即删除！

相关文章

LeetCode42.接雨水（单调栈）

LeetCode42.接雨水（单调栈）

题目 给定 n 个非负整数表示每个宽度为 1 的柱子的高度图，计算按此排列的柱子，下雨之后能接多少雨水。 示例 ： 输入：height [0,1,0,2,1,0,1,3,2,1,2,1] 输出：6 解释：上面是由数组 [0,1,0,2,1,0,1,3,2,…
阅读更多...
​中国手游发行商收入TOP30！

​中国手游发行商收入TOP30！

SensorTower 数据 2024年1月中国手游发行商，全球多款游戏在收入和用户增长方面取得的显著成绩。 1. 中国手游发行商全球表现：2024年1月，共有38个中国厂商入围全球手游发行商收入榜TOP100，合计收入达到19.6亿美元，占榜单…
阅读更多...
PDF控件Spire.PDF for .NET【安全】演示：如何在 PDF 中添加签名字段

PDF控件Spire.PDF for .NET【安全】演示：如何在 PDF 中添加签名字段

Spire.PDF for .NET 是一款独立 PDF 控件，用于 .NET 程序中创建、编辑和操作 PDF 文档。使用 Spire.PDF 类库，开发人员可以新建一个 PDF 文档或者对现有的 PDF 文档进行处理，且无需安装 Adobe Acrobat。 E-iceblue 功能类库Spire 系列文档处…
阅读更多...
mysql mgr集群部署

mysql mgr集群部署

一、前言 mysql mgr集群是为了实现mysql高可用，分为单主集群和多主集群，单主集群只有一个主节点可写，节点发生故障时，自动进行主从的故障切换，多主集群所有节点都可写，当节点发生故障时，将故障节…
阅读更多...
【RPG Maker MV 仿新仙剑 战斗场景UI （二）】

【RPG Maker MV 仿新仙剑 战斗场景UI （二）】

RPG Maker MV 仿新仙剑 战斗场景UI 二 战斗指令菜单原仙剑战斗指令图RMMV战斗指令对应代码战斗指令菜单代码效果 战斗指令菜单 原仙剑战斗指令菜单是使用方向键控制，同时按照使用情况正好对应四个指令和四个方向，同时没有选中的菜单用黑色透明图片覆盖&…
阅读更多...
层级关联，审批人功能

层级关联，审批人功能

一个需求要求选择一级&#xff0c;下方展示一级的效果 后端给了审批人数据&#xff0c;但是数据需要单独处理 <template><div class"box"><el-form :model"ruleForm" :rules"rules" ref"ruleForm" label-width"…
阅读更多...
【鸿蒙系统学习笔记】ArkTS开发语言

【鸿蒙系统学习笔记】ArkTS开发语言

一、背景 ArkTS是HarmonyOS优选的主力应用开发语言。ArkTS围绕应用开发在TypeScript&#xff08;简称TS&#xff09;生态基础上做了进一步扩展&#xff0c;继承了TS的所有特性&#xff0c;是TS的超集。 二、基本语法 2.1、基本语法介绍 ArkTS的基本组成&#xff0c;资料来自…
阅读更多...
【洛谷题解】P8627 [蓝桥杯 2015 省 A] 饮料换购

【洛谷题解】P8627 [蓝桥杯 2015 省 A] 饮料换购

题目链接&#xff1a;[蓝桥杯 2015 省 A] 饮料换购 - 洛谷 题目难度&#xff1a;普及- 涉及知识点&#xff1a;换购 题意&#xff1a; 分析&#xff1a;一直换购直至瓶盖数<3为只 AC代码&#xff1a; #include<bits/stdc.h> using namespace std; int main() {i…
阅读更多...
极其抽象的SpringSecurity理解

极其抽象的SpringSecurity理解

原始&#xff1a;A → B Security&#xff1a;A → S → B 太抽象了&#xff0c;看不懂啊T_T 抽象故事 故事大概&#xff1a;C是一个大区&#xff0c;拥有巨大的火力&#xff08;C准备联合B吞并掉A&#xff09;&#xff0c;A得到了这个消息&#xff0c;…
阅读更多...
java：Java中的逻辑控制

java：Java中的逻辑控制

顺序结构 在Java中&#xff0c;顺序结构是指代码按照从上到下的顺序依次执行。以下是一个简单的Java程序示例&#xff0c;展示了顺序结构的使用&#xff1a; public class SequenceStructureExample {public static void main(String[] args) {// 声明和初始化变量int num1 10…
阅读更多...
51-2 万字长文，深度解读端到端自动驾驶的挑战和前沿

51-2 万字长文，深度解读端到端自动驾驶的挑战和前沿

去年初&#xff0c;我曾打算撰写一篇关于端到端自动驾驶的文章&#xff0c;发现大模型在自动驾驶领域的尝试案例并不多。遂把议题扩散了一点&#xff0c;即从大模型开始&#xff0c;逐渐向自动驾驶垂直领域靠近&#xff0c;最后落地到端到端。这样需要阐述的内容就变成LLM基础模…
阅读更多...
SAP PP学习笔记 - 豆知识05 - 如何定义品目状态，如何删除品目，如何扩张品目

SAP PP学习笔记 - 豆知识05 - 如何定义品目状态，如何删除品目，如何扩张品目

本章讲SAP 中一些常用操作。 - 设定品目状态&#xff1a;控制让一个品目&#xff08;物料&#xff09;准备好了以后再提供出来给大家 - 删除品目&#xff1a;一般来说是逻辑删除&#xff0c;但是做了归档之后&#xff0c;也可以物理删除 - 扩张品目&#xff1a;品目的View非…
阅读更多...
《最新出炉》系列初窥篇-Python+Playwright自动化测试-19-处理鼠标拖拽-中篇

《最新出炉》系列初窥篇-Python+Playwright自动化测试-19-处理鼠标拖拽-中篇

1.简介 上一篇中&#xff0c;主要是介绍了拖拽的各种方法的理论知识以及实践&#xff0c;今天宏哥讲解和分享一下划取字段操作。例如&#xff1a;需要在一堆log字符中随机划取一段文字&#xff0c;然后右键选择摘取功能。 2.划取字段操作 划取字段操作就是在一段文字中随机选…
阅读更多...
[BUUCTF]-PWN:axb_2019_heap解析（格式化字符串漏洞，unlink，off by one）

[BUUCTF]-PWN:axb_2019_heap解析（格式化字符串漏洞，unlink，off by one）

查看保护 查看ida 大致就是alloc创建堆块&#xff0c;free释放堆块&#xff0c;以及fill填充堆块 解释get input函数&#xff1a; 这里解释一下get input函数 这个函数是人工编写的&#xff0c;其中*v410那里是把接受到的换行符变为\x00&#xff0c;并且结束输入。 v3那里&a…
阅读更多...
单调队列和优先队列

单调队列和优先队列

本篇记录下一下关于单调队列和优先队列&#xff08;堆&#xff09;的方法以及解题思路. 文章目录 一. 单调队列1. 绝对差不超过限制得最长连续子数组2. 跳跃游戏 VI3. 设计自助结算系统4. 和至少为k的最短子数组5. 满足不等式的最大值 二. 优先队列1. 最后一块石头的重量2. 数据…
阅读更多...
CoWoS封装产能短缺挑战AI芯片市场需求

CoWoS封装产能短缺挑战AI芯片市场需求

随着人工智能、云计算、大数据分析和移动计算等技术的蓬勃发展&#xff0c;现代社会对计算能力的需求日益高涨。然而&#xff0c;在先进制程突破3纳米后&#xff0c;晶圆尺寸遭遇缩放极限&#xff0c;制造成本也随之上升。因此&#xff0c;除了继续研发先进制程外&#xff0c;半…
阅读更多...
网络防火墙综合实验

网络防火墙综合实验

备注&#xff1a;电信网段15.1.1.0 移动网段14.1.1.0 办公区 11.1.1.0 生产区 10.1.1.0 服务区 13.1.1.0 公网 1.1.1.1 和 2.2.2.2 需求&#xff1a; 1、办公区设备可以通过电信链路和移动链路上网&#xff08;多对多nat&#xff0c;并且需要保留一个公网ip&#xff09; 2、…
阅读更多...
C#，入门教程(05)——Visual Studio 2022源程序（源代码）自动排版的功能动画图示

C#，入门教程(05)——Visual Studio 2022源程序（源代码）自动排版的功能动画图示

上一篇&#xff1a; C#&#xff0c;入门教程(04)——Visual Studio 2022 数据编程实例&#xff1a;随机数与组合https://blog.csdn.net/beijinghorn/article/details/123533838 新来的徒弟们交上来的C#代码&#xff0c;可读性往往很差。 今天一问才知道&#xff0c;他们居然不…
阅读更多...
使用go-llama.cpp 运行 yi-01-6b大模型，使用本地CPU运行，速度挺快的

使用go-llama.cpp 运行 yi-01-6b大模型，使用本地CPU运行，速度挺快的

1&#xff0c;视频地址 2&#xff0c;关于llama.cpp 项目 https://github.com/ggerganov/llama.cpp LaMA.cpp 项目是开发者 Georgi Gerganov 基于 Meta 释出的 LLaMA 模型&#xff08;简易 Python 代码示例&#xff09;手撸的纯 C/C 版本&#xff0c;用于模型推理。所谓推理…
阅读更多...
CMake无Name和Value部分界面

CMake无Name和Value部分界面

鼠标会变成以下 拉开后就 出现想要的部分
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023