当前位置 爱咖号首页 开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

车智驾 3635浏览 2024-04-28 IP属地: 甘肃

为什么开源大模型反而是最贵的?近日,随着Llama 3宣布开源,一则美国AI创业者Arsenii Shatokhin的采访视频在网上流传(https://weixin.qq.com/sph/AZM8h34Jm),这位AI智能体公司VRSEN的创始人表示,企业自己运行开源大模型效率低于闭源API,“我们只有一两个客户有足够资源,来精调或运行700亿参数的Llama开源模型”。

开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

Arsenii Shatokhin已经在人工智能行业中从业六年,是美国知名的AI创业者之一。当前创业公司VRSEN专注于AI智能体,即基于大模型为企业客户打造AI Agent,从而提高销售转化率等指标。目前,Arsenii Shatoknin已经为多家知名企业如思科、StripePMA、HUGO PFOHE等提供过AI解决方案。

Llama 3开源后,Arsenii Shatokhin迅速发现了这款开源大模型的的实用性问题,“Llama 3比之前发布的任何开源模型都大的多,即使是现在,我们也只有一两个客户拥有足够的资源来精调、甚至只是运行这款700亿参数的大模型。”

开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

对于他的客户而言,使用这款开源大模型,反而不如闭源的商业大模型效率高。他分析说,闭源大模型的API优化效率更高,“因为这些API是专门为模型构建的,并且尽可能地进行了优化,你只需要为你使用的东西付费,而无需其他费用。”与之相对,如果在开源模型中开发这样的优化系统,“是非常复杂的”。

开闭源之争是大模型行业近期热点,但与Linux、安卓等系统开源不同,越来越多AI行业人士表达了对闭源大模型的认可,并纷纷指出开源大模型存在的各项问题。

“开源大模型会越来越落后”,不久前,百度创始人、董事长兼CEO李彦宏在演讲中指出,“大家以前用开源觉得开源便宜,其实在大模型场景下,开源是最贵的。”

开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

当前,开源大模型与以往的开源系统存在明显差异。在开发者社区,多位网友指出,当前的开源大模型并不是真开源,仅仅是开放参数,而训练代码、训练数据、算法都未开源,依然是一个“黑盒子”,从而也会带来几项明显问题:

  1. 问题难解决:开源模型仅提供API接口和下载,开发者连一行源代码都看不到,如果模型运行出现问题,难以找到原因,也很难及时调整、修正;

  2. Post-pretrain消耗资源大:开源大模型就像一座建好的毛坯房,很难即开即用,要想使用还得经过Post-pretrain,需要消耗巨大的算力资源。正如美国AI创业者所说,大部分公司根本没有足够算力来精调和运行。相对来说,闭源的商业模型经过多次优化,已经可以“即开即用”。

  3. 安全隐患:海外开源模型均未经过安全测试,在使用中为确保安全性问题,需要再经过多次精调,不仅有安全隐患,而且进一步加大了使用成本。

同时,也因为当前的开源大模型并不是“真开源”,仅仅是“开放”,因此无法像开源系统一样实现“众人拾柴火焰高”,在持续的迭代进步中,与闭源模型的差距会逐步增大。

开源模型反而是更贵?美国AI创业者亲测开源大模型效率低

近期,美国斯坦福人工智能研究院院长李飞飞带领团队发布AI Index报告显示,在10项针对大模型的评测中,闭源大模型全面领先开源大模型,尤其是在最能体现模型应用和智能体能力的AgentBench项目上,闭源模型评分为4分,而开源仅为0.96,两者差距高达300%。

文章标签:
行业分析
 
相关推荐
车智驾 382粉丝    102作品 关注 关注跟智能四轮有关的动态。
推荐作者
R视觉 关注
资深汽车摄影师、喜欢用视觉的角度来诠释一台车的魅力。
予墨Auto 关注
跟我们一起慢慢懂车!
车轮哥 关注
记录老外在中国的汽车生活。
新车部落 关注
与新车部落一起玩转汽车行业!
xuser3801153 关注
蓝鲸车市
Techtec杨磊 关注
汽车ECU改装高级工程师,汽车改装维修专家。德国Techtec汽车性能
21世纪车评 关注
21世纪专业汽车资讯,改装资深专家
柳爷评车 关注
你来说 我来测 先来一百款新车 优缺点简单粗暴 没有那么多弯弯绕
全部爱咖号