meta近期推出了其最新的Llama 4系列AI模型,這一系列包括了Llama 4 Scout、Llama 4 Maverick和Llama 4 Behemoth三款模型。據(jù)meta透露,這些模型均經(jīng)過(guò)了龐大的未標(biāo)注文本、圖像和視頻數(shù)據(jù)的訓(xùn)練,旨在賦予它們廣泛的視覺(jué)理解能力。Za428資訊網(wǎng)——每日最新資訊28at.com
目前,meta已將Scout和Maverick兩款模型上架至Hugging Face平臺(tái)。而B(niǎo)ehemoth模型仍在緊鑼密鼓的訓(xùn)練中。Scout模型能夠在單個(gè)英偉達(dá)H100 GPU上運(yùn)行,而Maverick則需要更高配置的英偉達(dá)H100 DGX AI平臺(tái)或性能相當(dāng)?shù)脑O(shè)備。Za428資訊網(wǎng)——每日最新資訊28at.com
值得注意的是,Llama 4系列是meta首次采用混合專(zhuān)家(MoE)架構(gòu)的模型。這種架構(gòu)通過(guò)將數(shù)據(jù)處理任務(wù)分解為多個(gè)子任務(wù),再將這些子任務(wù)分配給更小的、專(zhuān)門(mén)化的“專(zhuān)家”模型,從而在訓(xùn)練和回答用戶(hù)查詢(xún)時(shí)展現(xiàn)出更高的效率。例如,Maverick模型擁有4000億個(gè)參數(shù),但在128個(gè)“專(zhuān)家”模型中,只有170億個(gè)參數(shù)處于活躍狀態(tài)。Za428資訊網(wǎng)——每日最新資訊28at.com
Za428資訊網(wǎng)——每日最新資訊28at.com
相比之下,Scout模型擁有170億個(gè)活躍參數(shù),分布在16個(gè)“專(zhuān)家”模型中,總參數(shù)數(shù)為1090億個(gè)。盡管Llama 4系列模型在性能上有所提升,但它們并非像OpenAI的o1和o3-mini那樣的“推理模型”。推理模型會(huì)對(duì)答案進(jìn)行事實(shí)核查,通常能更可靠地回答問(wèn)題,但響應(yīng)時(shí)間相對(duì)較長(zhǎng)。Za428資訊網(wǎng)——每日最新資訊28at.com
meta內(nèi)部測(cè)試顯示,Maverick模型在通用AI助手和聊天等應(yīng)用場(chǎng)景中表現(xiàn)出色,尤其在創(chuàng)意寫(xiě)作、代碼生成、翻譯、推理、長(zhǎng)文本上下文總結(jié)和圖像基準(zhǔn)測(cè)試等方面,其性能超過(guò)了OpenAI的GPT-4和谷歌的Gemini 2.0等模型。然而,與谷歌的Gemini 2.5 Pro、Anthropic的Claude 3.7 Sonnet和OpenAI的GPT-4.5等更強(qiáng)大的最新模型相比,Maverick仍有一定的提升空間。Za428資訊網(wǎng)——每日最新資訊28at.com
Za428資訊網(wǎng)——每日最新資訊28at.com
Scout模型則擅長(zhǎng)總結(jié)文檔和基于大型代碼庫(kù)進(jìn)行推理。該模型支持處理1000萬(wàn)個(gè)詞元,這意味著它一次能夠處理數(shù)百萬(wàn)字的文本。meta還預(yù)告了其Behemoth模型。據(jù)透露,Behemoth擁有2880億個(gè)活躍參數(shù),分布在16個(gè)“專(zhuān)家”模型中,總參數(shù)數(shù)接近2萬(wàn)億個(gè)。meta內(nèi)部基準(zhǔn)測(cè)試顯示,在一些衡量解決數(shù)學(xué)問(wèn)題等科學(xué)、技術(shù)、工程和數(shù)學(xué)(STEM)技能的評(píng)估中,Behemoth的表現(xiàn)優(yōu)于GPT-4.5、Claude 3.7 Sonnet和Gemini 2.0 Pro,但略遜于Gemini 2.5 Pro。Za428資訊網(wǎng)——每日最新資訊28at.com
Za428資訊網(wǎng)——每日最新資訊28at.com
舉報(bào) 0收藏 0打賞 0分享 0 更多>同類(lèi)資訊
NAS使用需謹(jǐn)慎:RAID0無(wú)備份不備電,數(shù)據(jù)丟失風(fēng)險(xiǎn)大!04-06

川崎重工四足機(jī)器人CORLEO亮相:氫燃料電池驅(qū)動(dòng),越野性能卓越04-06

小米SU7事故警醒,多地高速頻現(xiàn)“智駕慎用”警示牌04-06

我國(guó)首臺(tái)智能紅外融冰設(shè)備試運(yùn)成功!風(fēng)機(jī)葉片20秒速“解凍”04-06

適馬或?qū)l(fā)布200mm f/1.8全畫(huà)幅鏡頭,索尼E和徠卡L卡口適用?04-06

經(jīng)典落幕!佳能EF 50mm F1.4 USM單反鏡頭宣布停產(chǎn)04-05

智駕營(yíng)銷(xiāo)迷霧背后:年輕生命逝去的警鐘,車(chē)企責(zé)任何在?04-05

中油工程突破!國(guó)內(nèi)首套CCUS-EGR碳捕集裝置調(diào)試合格04-05

《超人》新片超長(zhǎng)預(yù)覽曝光!2025年7月北美震撼來(lái)襲04-05清明小長(zhǎng)假首日,全國(guó)鐵路單日旅客發(fā)送量突破2000萬(wàn)人次!04-05

國(guó)產(chǎn)GTC-80ⅡJ探傷車(chē)亮相,精準(zhǔn)至毫米,鐵路檢測(cè)不再依賴(lài)進(jìn)口!04-05

"春日“打鳥(niǎo)”熱,京東直播教你如何捕捉飛鳥(niǎo)靈動(dòng)瞬間!"04-05

雙登集團(tuán)轉(zhuǎn)戰(zhàn)港股:年收45億利潤(rùn)3.5億,估值近50億能否成功上市?04-05

多地高速頻現(xiàn)警示:智能輔助駕駛,慎用為妙!04-05

Win11 24H2遇sprotect.sys驅(qū)動(dòng)問(wèn)題,微軟暫停部分設(shè)備更新04-05點(diǎn)擊查看更多 +
全站最新
小米SU7事件后,燃油車(chē)安全性再獲關(guān)注,你的購(gòu)車(chē)選擇會(huì)變嗎?

日產(chǎn)2029年全固態(tài)電池計(jì)劃:電動(dòng)車(chē)與混動(dòng)技術(shù)革新在即

本田全新電動(dòng)SUV量產(chǎn)版諜照出爐,個(gè)性外觀延續(xù),2026年即將上市!

比亞迪全新跑車(chē)內(nèi)飾搶先看!2025上海車(chē)展即將震撼登場(chǎng)

電動(dòng)車(chē)風(fēng)靡城市,安全隱患與管理難題下,共享電動(dòng)車(chē)何去何從?

2025上海車(chē)展前瞻:六款熱門(mén)SUV,哪款將成新能源市場(chǎng)新寵?
熱門(mén)內(nèi)容- 美團(tuán)入局AI新賽道,硅基流動(dòng)完成新一輪融資引關(guān)注
- 劉強(qiáng)東自豪宣布:京東快遞小哥退休金超五千,公積金數(shù)十萬(wàn)!
- 字節(jié)AI編程神器Trae牽手硅基流動(dòng),打造高效編碼新體驗(yàn)
- 無(wú)人機(jī)濫用致東方白鸛死亡,保護(hù)野生動(dòng)物攝影需有底線(xiàn)!
- 漢川童車(chē)火遍全球!外媒聚焦:中國(guó)制造,處處有驚喜
- 《哪吒之魔童鬧海》4月登陸日本,全球票房破147億緊追《復(fù)聯(lián)》
- 蓮花味精“破產(chǎn)”謠言不攻自破,公司火爆回應(yīng):我們挺好的!
- 《哪吒2》票房高歌猛進(jìn),全球動(dòng)畫(huà)電影榜直逼《復(fù)聯(lián)3》!
- 網(wǎng)紅滕順強(qiáng)夫婦遭質(zhì)疑后宣布退網(wǎng),商場(chǎng)回應(yīng):消殺為常規(guī)流程
- 胖東來(lái)于東來(lái)打斷永輝高管:月賺200萬(wàn)門(mén)店為何不先漲工資?
- 小米SU7事故后,遇難者家屬刪博引猜測(cè),與小米會(huì)面后真相何在?
- 某車(chē)企裁員風(fēng)波再起,比例高達(dá)三成?真相尚待揭曉
- SpaceX創(chuàng)歷史:載人航天器首飛極地軌道,太空種植蘑菇實(shí)驗(yàn)引期待
- 預(yù)包裝食品禁用“零添加”等宣傳語(yǔ),如何科學(xué)選食成新課題!
- 華為內(nèi)部通報(bào)舞弊案:成都研究所多人被辭,任正非封樓抓人系謠言
本欄最新
NAS使用需謹(jǐn)慎:RAID0無(wú)備份不備電,數(shù)據(jù)丟失風(fēng)險(xiǎn)大!

川崎重工四足機(jī)器人CORLEO亮相:氫燃料電池驅(qū)動(dòng),越野性能卓越

小米SU7事故警醒,多地高速頻現(xiàn)“智駕慎用”警示牌

我國(guó)首臺(tái)智能紅外融冰設(shè)備試運(yùn)成功!風(fēng)機(jī)葉片20秒速“解凍”

適馬或?qū)l(fā)布200mm f/1.8全畫(huà)幅鏡頭,索尼E和徠卡L卡口適用?

經(jīng)典落幕!佳能EF 50mm F1.4 USM單反鏡頭宣布停產(chǎn)
本文鏈接:http://www.tebozhan.com/showinfo-16-141489-0.htmlMeta發(fā)布Llama 4系列AI,混合專(zhuān)家架構(gòu)能否助其效率飆升?
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 超人歸來(lái)!DC全新電影超前預(yù)覽曝光,7月北美上映引期待
下一篇: NAS使用需謹(jǐn)慎:RAID0無(wú)備份不備電,數(shù)據(jù)丟失風(fēng)險(xiǎn)大!