GPT4O给Qwen2生成的高考作文打分56分,从“小白”进阶技术大神的开发者基于国产GPU推理模型效果可还行?

news2024/11/23 17:06:58

OpenI启智社区上线的【芯动开源】首场活动-天数智芯挑战专场即将迎来最后一周的冲刺阶段,自2024年5月27日上线以来,这期间,我们见证了天数智芯通用GPU加速卡在适配AI模型方面的无限可能与开发者们开源精神的璀璨光辉。

在短短的两周时间里,我们收到了累计超过300次基于天数智芯天垓100(BI-V100)和智铠100(MR-V100)的模型适配和跑通结果的提交。这些成果不仅展现了开发者们深厚的技术功底和出色的创新能力,也充分验证了天垓100和智铠100两款高性能通用GPU芯片在模型适配和运行方面的卓越性能。

值得一提的是,除了天数智芯开源的DeepSparkInference推理模型示例库中包含的50余款模型外,许多开发者还基于智铠100自适配了多款国内外热门的AI模型,如GLM-4-9B、Qwen2-7B、Telechat-7B等等。这些大模型的适配成功,不仅拓宽了AI技术的应用场景,也为开发者们提供了更多实践和创新的机会。

技术先锋荣登榜首,实力与热情铸就荣耀之巅

在这场技术的较量中,一位开发者凭借其出色的技术实力和敏锐的洞察力脱颖而出。他便是我们今天要重点介绍的开源人物——周辉

他不仅及时关注业界新兴的大模型并将其从其他开源平台导入贡献至OpenI启智社区,还充分利用智铠100的强大性能完成了多个国内最新发布的大模型的适配和高效运行。本着对大模型迁移活动的满腔热情和卓越的技术实力,周辉成功拿下了第2周活动的第一名,获得了价值300元京东卡和300算力积分

周辉所迁移和适配的模型中,不乏像智谱AI于2024年6月5日推出的GLM-4-9B-Chat模型和阿里通义千问团队于2024年6月7日推出的Qwen2-7B-Instruct、Qwen2-72B-Instruct-GPTQ-Int4(量化版)模型这样的业界翘楚。这些最新推出的国产大模型以出色的对话生成能力、指令理解能力和广泛的知识覆盖,成为了众多开发者关注的焦点。

在深度学习领域,模型的适配和迁移是一项极具挑战性的任务。这不仅需要开发者对硬件性能有深入的理解,对模型工作原理有透彻的研究,还需要具备丰富的实践经验和创新思维。周辉正是凭借这些能力以及对启智平台功能与各算力资源性能的熟练掌握,成功地将这三款模型与智铠100进行了适配和迁移。

为了将这一过程中的点滴体会和宝贵经验传递给更多的开发者们,周辉将它们凝结成了一篇篇详细的教程发布在启智论坛。这些教程不仅涵盖了模型适配的各个环节,如创建任务、选择算力资源、安装依赖包、编写推理程序等等,还深入剖析了其中的技术难点和解决方案,为其他开发者提供了宝贵的参考,更为推动自主通用GPU加速卡的优化与发展注入了新的动力。

在周辉的教程中,他巧妙地融入了一些既实用又充满趣味的案例。比如,他利用智铠100调试Qwen2-72B-Instruct-GPTQ-Int4模型时的一个独特尝试,运用这个强大的模型来生成一篇模拟的今年高考作文,命题是“随着互联网的普及、人工智能的应用,越来越多的问题能很快得到答案。那么,我们的问题是否会越来越少”。随后他又将生成的作文交由ChatGPT4-O进行评分,作文竟然获得了高达56分(满分60)的优异成绩。

除了图文教程,周辉还会将模型适配的过程和经验制作成系列视频,发布在自媒体视频号(周辉6344)上。

介绍了这么多,那周辉究竟是何方神圣

周辉坦言,尽管自己已走出校园多年,且并非人工智能领域从业者,甚至曾是一名对人工智能知之甚少的“小白”,但正是借助了OpenI启智社区所提供的丰富算力资源、技术支持以及详尽的教程,他才得以逐步深入,不断进阶。在此过程中,他深感自己受益匪浅,并乐于将自己的学习心得和实践成果分享给更多的开发者,希望能为大家带来启发和帮助。

“在平凡的日子里也要泛着光”,这句话用来描述周辉再合适不过。他并非一开始就站在技术的巅峰,但他凭借对技术的热爱和不懈追求,一步步走进了我们聚焦的画面。他用自己的实际行动诠释了什么是真正的开源精神——分享、协作、共同进步。这种精神不仅激励着开发者们不断前行,也吸引着越来越多的人加入到OpenI启智社区这个开源大家庭中来。

让我们为周辉和所有在OpenI启智社区默默做出开源贡献的开发者们点赞

收官在即,邀你来战

最后,活动已步入最后一周的冲刺阶段,如果你也跃跃欲试的话,可以参考学习大家在启智论坛贡献的教程,来启智AI协作平台使用天数智芯GPGPU算力资源体验大模型迁移的快感。我们对每周表现优异的小伙伴们都准备了京东卡奖品和算力积分奖励,也期待更多的开发者能够加入到这场挑战中来,共同探索天数智芯自主通用GPU在模型适配方面的更多可能性和潜力。

天数智芯专场活动链接

基于智铠100调试最新的通义千问Qwen2-7B-Instruct模型教程

基于智铠100调试最新的智谱清言GLM-4-9B-chat模型教程

利用天数智芯MR-V100使用KAN-TTS将文字转语音教程

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1821727.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

[Shell编程学习路线]——探讨Shell中变量的作用范围(export)

🏡作者主页:点击! 🛠️Shell编程专栏:点击! ⏰️创作时间:2024年6月14日10点14分 🀄️文章质量:95分 文章目录 ————前言———— 定义变量: 输出变…

django上课点名系统-计算机毕业设计源码03391

摘 要 随着现在网络的快速发展,网络的应用在各行各业当中它很快融入到了许多学校的眼球之中,他们利用网络来做这个签到点名的网站,随之就产生了“上课点名系统 ”,这样就让学生上课点名系统更加方便简单。 对于本上课点名系统的设…

App UI 风格打造独特体验

App UI 风格打造独特体验

Day07-06_13【CT】LeetCode手撕—1. 两数之和

目录 题目1-思路2- 实现⭐1. 两数之和——题解思路 3- ACM实现 题目 原题连接:1. 两数之和 1-思路 哈希表 利用哈希表存储 key 数组元素值 ——> value 数组下标遍历数组 2- 实现 ⭐1. 两数之和——题解思路 class Solution {public int[] twoSum(int[] nums…

maven archetype项目构架

1、设置环境变量 set MAVEN_HOMED:\SF\java\apache-maven-3.6.3 set path%path%;%MAVEN_HOME%\bin;2、制作archetype mvn -s "D:\SF\java\apache-maven-3.6.3\conf\settings.xml" archetype:create-from-project -DpackageNamecom.demo.esb-s:指定maven的setting文…

Github 2024-06-10开源项目周报 Top15

根据Github Trendings的统计,本周(2024-06-10统计)共有15个项目上榜。根据开发语言中项目的数量,汇总情况如下: 开发语言项目数量Python项目8Jupyter Notebook项目2Go项目2C++项目1Shell项目1Lua项目1JavaScript项目1MDX项目1C项目1HTML项目1Python - 100天从新手到大师 创建…

【elementui源码解析】如何实现自动渲染md文档-第三篇

目录 1.前言 2.webpack.demo.js 3.markdown文档 4.fence.js 1)tokens 2)::: 3) 5.containers.js 1)markdown-it-container 2)md.use() 3)代码逻辑 4)containers小结 6.congfig.js …

拿来做课设哈哈哈-“久坐提醒器”的网页应用

这篇文章将介绍一个名为“久坐提醒器”的网页应用,它通过HTML、CSS和JavaScript三种技术实现。下面是对这三种技术在实现该应用中的作用和代码的详细解析。 HTML:构建网页结构 HTML(HyperText Markup Language)是网页的基础结构…

使用GPT/文心实现诗词作画

在教育领域中,古诗词一直是培养学生文化素养和审美能力的重要载体。选择合适的古诗词进行学习和欣赏,不仅能够增强他们的语言表达能力,还能促进他们对中国传统文化的理解和热爱。本文将结合AI技术,将古诗词转换为图画。 1、选择适…

《Terminai(终端):革命性的终端工具(下)》

回顾上一篇文章,我们主要探讨了Terminai(终端)的概念、价值及其与传统终端工具的区别。在本文中,我们将深入探讨Terminai如何通过其独特的交互操作场景和功能,为开发者打造一个革命性的开发环境。 一、创新的G&T交…

有趣的算法题之矩阵的特别乘积

矩阵元素相乘 A[ n, m ] 是一个 n 行 m 列的矩阵,a[ i, j ] 表示 A 的第 i 行 j 列的元素,定义 x[ i , j ] 为 A 的第 i 行和第 j 列除了 a[ i, j ] 之外所有元素(共 n m - 2 个)的乘积,即 x[ i, j ] a[ i, 1 ] * a[ i, 2 ] * ... * a[ i, …

【编译原理】LL(1)分析法:C/C++实现

🔖墨香寄清辞:空谷幽篁风动,梦中仙鹤月明。 辗转千秋豪情在,乘风翱翔志不移。 目录 1. 编译原理之LL(1)分析法概念 1.1 编译原理 1.2 LL(1)分析法 2. LL(1)分析法 2.1 实验目的 2.2 实验要求 2.3 实验内容 2.3.1 实验解决…

Stable Diffusion【光影文字】:绚丽光影,文字与城市夜景的光影之约

今天我们我们结合城市夜景背景来看一下光影文字的效果,我们先来看一下效果图。 一. 字融城市夜景制作光影文字方法 【第一步】:制作底图这里制作底图使用黑底白字。我们使用美图秀秀制作一个"小梁子"字的底图。 字体:默认字体 图…

LLM 中什么是Prompts?如何使用LangChain 快速实现Prompts 一

LLM 中什么是Prompts?如何使用LangChain 快速实现Prompts 一 Prompt是一种基于自然语言处理的交互方式,它通过机器对自然语言的解析,实现用户与机器之间的沟通。 Prompt主要实现方式是通过建立相应的语料库和语义解析模型,来将自…

对于毕业季拨穗礼上的奇怪举动与表情包,您怎么看?

对于毕业季拨穗礼上的奇怪举动与表情包,您怎么看? 拨穗代表稻穗或麦穗成熟。什么叫拨穗礼?就是把你头上学士帽的流苏从右边换到左边的动作。它象征着你已学有所成,可以展翅高飞了。 又到毕业季,各大高校的校园里弥漫着别离与期待…

评论员稿:逯伟军,年轻人为何为这样的“新中式”买单?

继老钱风、美拉德、Y2K等流行趋势之后,“新中式”毫无争议地荣登当下最为热门的穿搭趋势之列。 不管是出于对传统文化的热爱,还是仅仅被中式美学的设计所吸引,总之从明星到时尚博主,再到普通消费者,新中式风格在社交平…

Talk|新加坡国立大学贾鑫宇:适用于高自由度机器人的运动控制器

本期为TechBeat人工智能社区第600期线上Talk。 北京时间6月13日(周四)20:00,新加坡国立大学博士生—贾鑫宇的Talk已经准时在TechBeat人工智能社区开播! 他与大家分享的主题是: “适用于高自由度机器人的运动控制器”,向大家系统地介绍了如何通…

期货到底难在哪里?

第一难:使用杠杠,杠杠放大的其实是你性格、天赋和技能上的弱点,同时相应缩小你这三个方面的优点;第二难:双向交易。如果只能做多,理论上你每次交易将有50%的概率盈利。现在既能做多又能做空,只剩…

最前端|还在焦虑网页内容无法保存?一文教你轻松给网页拍照

目录 一、需求背景 二、实现策略 三、基础实现 四、功能完善 五、效果演示 六、总结 一、需求背景 网页作为一种关键的信息传递媒介,承载着丰富多样的内容形态,包括但不限于文本、图像、表格及多媒体元素。然而,网页内容的动态性和不稳定…

郑州企业资信评价资质:工程咨询单位专业资信申报材料清单

在郑州企业申请工程咨询单位专业资信评价资质时,需要准备一系列详细的申报材料。以下是根据参考文章中的相关数字和信息,清晰、分点表示和归纳的工程咨询单位专业资信申报材料清单: 一、基础材料 企业法人营业执照:提供企业法人营…