Llama3被亚马逊、微软“打入冷宫”,罪在开源?
俗话说,是骡子是马,牵出来溜溜就知道。
最近,开源大模型届的“汗血宝马”Llama3,似乎要露馅了。
据美国媒体The Information报道,在全球最大云计算服务商亚马逊的AWS平台上,一度被开发者好评如潮的Llama开源大模型竞无人问津,企业用户最喜欢的是Anthropic的闭源大模型Claude。无独有偶,报道称在微软云平台上,Llama也一样坐着冷板凳,销售人员甚至不会主动进行推销。
卖是卖不动了,那作为开源模型最引以为傲的下载量呢?也在跌。
据报道,Meta最新推出的开源大模型Llama 3.1 405B,上线一个月后的下载量仅为360万,比上一代模型降低了40%。
为什么Llama3会一路遇冷?
“假开源”:不知参数、不明算法
在互联网和软件开发时代,开源具有重要意义。开源允许用户自由获取、使用、修改和分发软件的源代码,不仅能降低软件使用成本,还能激发更多的开发者参与到软件的创新和改进中,推动技术的发展迭代。这样“众人拾柴火焰高”的开源精神,是互联网时代最宝贵的财富之一。
但时代变了。如今的开源大模型,都是有限开源——仅开放参数和调用接口,但训练数据、训练代码、算法等这些核心部分都未开源。这就好比让你下厨但不给菜谱,光开放厨房有啥用呢?
百度的李彦宏前一段时间直接炮轰过这个问题,他指出很多人混淆了模型开源和代码开源的概念,所谓的模型开源只能拿到一堆参数,还要再做SFT、安全对齐,即使是拿到对应源代码,也不知道是用了什么样的数据去训练这些参数,并不能实现“站在巨人的肩膀上”的效果做迭代开发。闭源大模型比开源模型明显更适用于商业社会和企业服务市场。
『AI教母』李飞飞带领的斯坦福人工智能团队前几个月公布的测评结果也显示,开源大模型全面落后闭源大模型。尤其是在最能体现模型应用和智能体能力的AgentBench项目上,闭源模型评分为4分,而开源仅为0.96,两者差距高达300%。
不仅能力差,开源大模型还存在一系列问题:
一是海外开源模型大多未经过严格的安全测试,数据、代码都是“黑盒子”,内部的逻辑和决策过程不透明,开发者难以对其进行精确的控制和约束,极易存在安全隐患。
其次,Post-pretrain消耗资源大,开源模型需要企业自行进行精调和优化,没有钞能力的个人玩家和小企业,很难负担起其所需的算力资源、技术开销和人力成本。
“真门槛”:想用开源,算力够吗?
用不起,是Llama3一路遇冷的另一重要原因。
美国知名AI创业者、VRSEN公司的创始人Arsenii Shatokhin在访谈中直言,“我们只有一两个客户有足够资源,来精调或运行700亿参数的Llama开源模型。”
VRSEN是一家专注于为企业客户打造AI智能体的公司,曾为多家知名企业如思科、StripePMA、HUGO PFOHE等提供过AI解决方案。
在结合真实的市场反馈和落地经验后,Arsenii Shatokhin分析出Llama3等开源大模型卖不动的原因——效率低、性价比更低。
他解释说,闭源大模型的API优化效率更高,“因为这些API是专门为模型构建的,并且尽可能地进行了优化,你只需要为你使用的东西付费,而无需其他费用。”与之相对,如果在开源模型中开发这样的优化系统,“是非常复杂的”。
正如谷歌前CEO Eric Schmidt所言,开源是一个好的模式,谷歌历史上的大部分基础设施都受益于开源,但AI行业的成本太高,开源负担不起。同时,开源模型和闭源模型相比,存在性能差距,这种差距还将继续扩大。他强调,自己投资的法国大模型公司Mistral,将会从开源转为闭源路线。
大模型的开源闭源之争,或终将随着Llama 3在市场的持续遇冷得到一个明确的答案。