“百模大战：AI行业的技术竞争与发展趋势“

news2024/11/26 6:49:27

文章目录

每日一句正能量
前言
百模大战影响
推理配置
后记

每日一句正能量

修行不是抬起头朝天上看而是低下头学会谦卑和诚实。

前言

到目前为止，如果要评选2023年热度最高，影响力最大的一个概念，当属AI大模型了。这轮由ChatGPT引爆的技术热潮，经过一段时间的发酵，已在国内乃至全世界迎来了爆发期，各大互联网大厂纷纷躬身入局。人们迅速认识到，大模型是通往通用人工智能（AGI）最明确的路径。

在此背景下，对于很多科技巨头、独角兽企业而言，如果没有涉足AI领域，似乎就要被时代车轮所狠狠碾过。而最能证明自身投入时代洪流的，自然就是推出AI大模型。纵览当下的行业发展态势，在极短的时间内国内已经涌现130+AI大模型，且依据实力、方向、侧重等不同，也出现了垂直细分的现象，全面打响了“百模大战”。

在这里插入图片描述
而在9月1日，国家互联网信息办公室发布了《关于第二批深度合成服务算法备案的信息公告》。该公告显示，第二批深度合成服务共计110个算法信息完成备案。

这将进一步改进基础模型，并以更快速度迭代。对于其他国产大模型来说，开放自然也有着同样的功效。百度创始人李彦宏曾提到，当文心一言向数以亿计的互联网用户大规模开放服务后，就能够获得大量真实世界中的人工反馈。

数据层面看，从去年至今，国内已经发生了接近100起以上的大模型行业的融资案例。面对充满光明的未来，入局AI大模型的玩家在尘埃落定前，肯定会全情投入其中，试图从红海中杀出，成为最后的胜利者。这也能够看出，内卷是不可避免的，甚至已然来临！
在这里插入图片描述
近日国家为了促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，出台了生成式AI管理政策“办法”，而生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

百模大战影响

优点：

百模大战推出之后，各种各样的大模型进入了人们的视野，各个行业为了便捷，精准都开始使用大模型来完成自己的需求，虽然有些人说他没有用过，但在生活中多多少少肯定是在使用的，只是你自己不知道直接已经身处其中了。

岗位增加，各种各样的大模型需要训练和推理才开始做出来，这样岗位会紧缺，对从业者来说增加了大量的工作机会等。

缺点：

对于中小企企业或者是想从事创业大模型的人来说，门槛变高了，并且随着大模型的推广的应用，计算设备价格都会变高，因为市场需求大，产品产量较少，所以价格也会水涨船高。大家都知道在大模型中训练大模型的成本往往会比推理模型成本高。但随着百模大战，红海市场，推理成本也会激增。

推理成本由质量和数量两部分构成。一方面，在质量侧，需要优秀的算法和技术实力储备作为支撑，其背后往往意味着专业的算法工程师和数据科学家团队的支持；而在数量侧，“暴力计算”所依赖的计算资源也是重要因素。对于技术研发能力不足的大模型厂商而言，由于AI芯片价格的持续高涨，“堆料”逻辑是死路一条，并必将被市场淘汰。而推理成本本身，也是因不同的开发商而异的。

而中小型企业随着大模型的发展处境会越来越难，不管是技术的问题，还是算力成本，都是中小企企业的难题，而稳定的算力和精准才是大模型推理的标配！接下来我就给大家推荐适合各种体积的大模型GPU服务器的配置。

推理配置

CPU：

AI领域的发展离不开强大的计算能力，而目前主导AI计算的硬件是GPU，但是，GPU并不是AI计算的唯一选择。近年来，一些AI研究人员开始探索CPU的潜力，也就是中央处理器。而CPU相比GPU，拥有更多的缓存、更高的时钟频率、更灵活的指令集，可以处理更复杂和多样的任务。而Intel在CPU上一直是主导地位，所以大模型的 CPU用intel的最合适，10700或者10900K或者最好2066至尊CPU，支持AVX512最好。

内存：

在大模型推理的时候还需要足够的RAM和存储空间来存储模型参数和数据。4 位 30B的最低RAM要求为32 GB，可以将整个模型保存在内存中，而无需交换到磁盘。但是，对于较大的数据集或较长的文本，你可能需要使用更多RAM。

存储：

大模型的最低存储要求是1TB NVMe SSD，可以存储模型文件和数据文件，读写速度很快。但是，为了更多数据或备份目的，你可能需要使用更多存储空间，例如 2 TB 或 4 TB SSD。

选择高速存储。选择具有出色顺序速度的PCIe 4.0 NVMe SSD，以促进存储和系统 RAM 之间的快速数据传输。

GPU：

在推理的过程中其实可以不用那么高端的计算卡，因为推理不需要高计算和精准度等，只需要达到平衡和延迟低就可以了，所以在大模型推理方面，消费级显卡就够用了。但大模型有很多种位量化，不同的位量化可以选择更有性价比的设备，下面就是我根据不同场景运用数据绘制了一张适合的GPU图表。