绿茶通用站群绿茶通用站群

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

Meta继续押宝开源大模型 Llama 3拿下“赛点”?

开源与闭源之争(zhēng)延(yán)续到大模型时代。在寻找“新大陆”的路上,开源(yuán)与闭源的辩论,就像(xiàng)是一场关于AI未(wèi)来的 “航海策略”讨论(lùn)。

开(kāi)源一派认(rèn)为,开源 能够促进全球科研人员和开发者的(de)协作,加速AI技术的迭代与创新。同时,开源让更(gèng)多人参 与(yǔ)到模型的改进和优(yōu)化中,通过(guò)集体智慧解决复(fù)杂的技术难题。

闭源的倡(chàng)导者则看重其在商业化、技术保护和产品(pǐn)差异化方面的优势。闭源模型使得企业能够控(kòng)制产品(pǐn)的开发节(jié)奏和市场策略,保护其(qí)商业(yè)利益。此外,闭源也(yě)有助于企(qǐ)业维(wéi)护(hù)其技术优势,避免竞争对手(shǒu)模仿或(huò)超越。

Llama 3的发布让开源大模型在(zài)与闭源的竞争中再度“扳回一城”。从测试结果来(lái)看,Llama 3的成(chéng)绩大幅超越了Llama 2,也胜过了GPT-3.5。

在AI这(zhè)场没(méi)有硝烟的“航海竞赛”中,大模型已然成为(wèi)眼前(qián)的(de)灯塔。未(wèi)知的是(shì),这座灯塔究竟是向所有航海者开放其光芒,还是仅为特定(dìng)的船只照亮(liàng)前行的航(háng)道。

开源在开发者和(hé)研究人员中极受(shòu)欢迎

Meta正沿着开(kāi)源路径继(jì)续(xù)前进(jìn)。

近日,Meta推出开源大模型Llama 3系(xì)列,发布8B和70B两个版本。Meta创始人兼首席执行官(guān)扎克伯格(gé)在同一天宣布,基于Llama 3,Meta的AI助手现在已经覆盖Instagram、WhatsApp、Facebook等全系应用,并单独开启了网站。

与Llama 2相比,Llama 3进行了几项关键的改进:使用(yòng)具128K token(输入(rù)数据的最(zuì)小单 元)词汇表的tokenizer(编译器),可以更有效地编码语言,从而显著(zhù)提升(shēng)模(mó)型性能(néng);在8B和70B模型中(zhōng)都采用分组查询注意力(GQA),以提高Llama 3模型的推理效率;在(zài)8192个token的序列上训练模型,使用掩码来确保自注(zhù)意力(Self-Attention)不会跨越(yuè)文(wén)档边界(jiè)。

据Meta介绍(shào),Llama 3已经在多种行业(yè)基准(zhǔn)测(cè)试上展现了最先进的性中国移动在珠穆朗玛峰开通首个5G-A基站能,提供了(le)包括改进的推理能力在内的新功能,是目前(qián)市场上最好的开源大模(mó)型。

此外,Llama 3发(fā)布后(hòu),微软Azure、谷(gǔ)歌云、百度智能云等陆续(xù)宣布其平台上线Llama 3。百(bǎi)度方面此前对《每日经(jīng)济新闻》记者表示,百(bǎi)度(dù)智(zhì)能云千帆大模型平台(tái)在国内首家推出针对Llama 3全系列(liè)版本的训(xùn)练推理方案,便(biàn)于开发者进行再训(xùn)练,搭建专属(shǔ)大模型。

工业和 信息化部工业文化发展中心AI应用工作组执行组长、行行AI董事长李明顺在接受《每日经济新闻》记者 采访时表示,Meta的Llama 3发(fā)布可能会带来(lái)更多AI应用落(luò)地机会和场景(jǐng),它通过提供更(gèng)大词汇量的Token词典、更长的(de)输入(rù)上下文长(zhǎng)度以及优(yōu)化的模型结构,增(zēng)强了模(mó)型的编码(mǎ)效率和推理 效率(lǜ)。“现在,比起Llama 2,Llama 3在代码能力和逻辑推理能力上有显著提升,这可能会促进相关AI应用的性能(提升),尤其是在需要(yào)复杂逻辑和代码理解的场景中去落地(dì)。”

OpenAI在GPT-2之后调转船头(tóu)走向闭源,Meta则成为开源界的引(yǐn)领者之一。

从2020年发布GPT-3,到引发轰动的GPT-3.5,以及(jí)2023年3月发布的GPT-4,都是(shì)闭源模型。此前(qián),马斯克起诉OpenAI时曾直言:“如果OpenAI改名为ClosedAI,我就撤销诉讼。”

李明 顺认为,OpenAI的转变可能与其(qí)商业战略和市场定位有关。“初期开源有(yǒu)助于快速吸(xī)引关注和(hé)社区 参与,但随(suí)着公司的发 展,我估计阿尔特曼(Sam Altman)的野心和商业梦想越来(lái)越膨胀了,闭源(yuán)可以更(gèng)好地让(ràng)它融资,包括和微软(ruǎn)合作,保护领先的技术优势。”他(tā)表(biǎo)示,从OpenAI的转变(biàn)中可以看出,开(kāi)源 与闭源的选(xuǎn)择并非固定不变,而是需要根(gēn)据公(gōng)司战略目标、市场环境和产品(pǐn)发展阶段灵活调整。天下没什么事情是绝对的,很多开源公司也是(shì)拿着次(cì)优代码开源,独家秘方闭源。

在追(zhuī)逐(zhú)AGI(通用人工智能(néng))这颗明珠的道路上,迄今为止,Meta依旧持续沿(yán)着开源的(de)路径前行。<中国移动在珠穆朗玛峰开通首个5G-A基站/p>

2024年初,扎克伯格(gé)在Meta第四季度及2023全年财报电话会议上(shàng)表(biǎo)示:“长期以来,我(wǒ)们(men)的(de)策(cè)略(lüè)是构建并开放源代码通用(yòng)基础设(shè)施,同时(shí)保(bǎo)留我们的具体产品(pǐn)实现为专有技术。”

他认为,开源带来了几(jǐ)个(gè)战略(lüè)好处(chù)。首先,开源软件通(tōng)常更加安全可(kě)靠,并且(qiě)因为社区的持续反馈、审查 和开发,更加高效。其次,开源软件经常成为行业(yè)标准,“当企业开始基于我们的技术栈建(jiàn)立标(biāo)准时,这使得(dé)将创新融(róng)入我们的产(chǎn)品变(biàn)得(dé)更加容易。这种微妙的优势,能够迅速学习和改进,是巨大(dà)的(de)竞(jìng)争优势(shì),而成(chéng)为行业标准正是这一(yī)能(néng)力的关键”。第三,开源在开发者和研究人员中极受(shòu)欢迎。

开(kāi)源与闭源并不矛盾(dùn)

开源还是闭(bì)源,也(yě)许(xǔ)是全球人工智能(néng)信徒长久的(de)辩题。在Llama 3诞(dàn)生前几天,国内同样在进行一(yī)场“辩论”。

4月11日,百度董事长兼首席执行官李彦 宏在其内部讲话(huà)中直言,大模(mó)型开(kāi)源的意义不大,闭(bì)源模型在能力上会持续领先,而不是一时领先,做模型的创业(yè)公司既做模型(xíng)又做应用的“双轮驱动”不是一个好的模式。在一周后的Create 2024百度AI开发者大会上,李彦宏再度提到,大(dà)家以前用开源觉得开源(yuán)便宜,其实在大模型场景下,开源是最贵的,所以开源模型会 越来越落后。

360公司创始(shǐ)人周鸿祎则持不同的(de)观点。他表示:“网上有些名人胡说八道,大家也(yě)别被他们忽悠,说开源不如闭源(yuán)好。一(yī)句话,今天没(méi)有开源就没有Linux(操作(zuò)系统内核),没有Linux就(jiù)没有互联网,就连说这话的公司自己都借助了开源的力量才成长到今天。”

这段发言被(bèi)解读为对李彦宏观点的回(huí)怼,周鸿祎随后澄清道:“我一直 是开源的(de)信徒,但是(shì)我说开(kāi)源(yuán)好,是(4月)13日在(zài)哈佛讲的(de),李厂长(zhǎng)(指李彦宏)说闭源好,是(4月)16日在北京讲的。”

生数科(kē)技联合(hé)创始(shǐ)人兼CEO唐家渝站在闭(bì)源的(de)一边。在4月18日举行(xíng)的“2024中国生成(chéng)式AI大会”上,唐家渝表示:“在我们(men)看来,开(kāi)源、闭(bì)源(yuán)都有各自可以做的商业生态,但(dàn)是从模型能力的提升来说(shuō),或者持续走到前列来说(shuō),闭源还是(shì)会走到(dào)开源(yuán)的前(qián)面。”

昆仑万维董事长方汉的(de)观点是,开(kāi)源模型与闭源模型之间 的差距正在不 断(duàn)缩小。4月16日,方汉在接受(shòu)《每日经济新(xīn)闻》记者(zhě)在内的媒(méi)体(tǐ)采访时表(biǎo)示,闭(bì)源模(mó)型(xíng)的确是第一 ,但是开源大模型在2023年到今年这一年间(jiān),从落后两年以上,已经进化到落(luò)后4~6个月以上。

此外,方汉认为,在(zài)应用侧,闭源对于产品特性和长尾需求的(de)满(mǎn)足都落后于开源大(dà)模型,开源大模型是(shì)一种生态构建器,更利于满足用户的长尾(wěi)需求。开源大模型和闭源大模 型是一个生态的组成 部分,不是谁(shuí)压倒(dào)谁,大(dà)家都有自己的(de)生存空间,也都(dōu)有更(gèng)好的明天。

不过(guò),从商业化上来(lái)讲,闭源和开源也许并不矛盾。启明创投合伙人周志峰(fēng)就认为,开源闭源在过(guò)去几个大浪潮(cháo)当中没有很大的冲突,不太理(lǐ)解为(wèi)什么很多人把闭源、开源在AI时代(dài)看成对(duì)立的。

李(lǐ)明顺的(de)观点则是,在当前强应用导向的背景下(xià),开源模式具有(yǒu)显(xiǎn)著优势,能够吸(xī)引全(quán)球范围内最广泛的人参与,从而使其创新性保持 在较高水平。

相较(jiào)之下 ,尽管一些闭源大模型在 技术上具有领先地位,但其成本太高。不过他也强调,开源与(yǔ)闭源在不同公司和应(yīng)用场景中可以相(xiāng)互转换。一些基于开源的产品在发掘到独特(tè)优势后,可能会通过闭源策略建立竞争壁垒。同时,一些闭源公(gōng)司也会不断将其部(bù)分产品开源。这两个应(yīng)该是共存的(de),未来开源可能用户量级上更大,但是行业内,商业(yè)化做得比较好的(de)公司,往往还(hái)是闭源的多一点 。

在(zài)开源与闭(bì)源的辩论中,也许答案并非非(fēi)此即彼。AI的未来可能既不是完全开放的“自由港”,也不(bù)是彻(chè)底封闭的(de)“孤(gū)岛”,而是一个既包含 开放协(xié)作也(yě)包含封闭竞争的混合生态。在这个生态系统中,开放与封闭不是对立的(de)两极,而是一枚硬币的两面 。

未经允许不得转载:绿茶通用站群 中国移动在珠穆朗玛峰开通首个5G-A基站

评论

5+2=