綜合外電報道,日本電信業(yè)領導廠商NTT公司近日發(fā)布了一項創(chuàng)新構想,旨在結合光通訊(IOWN)與大型語言模型(LLM),以提升AI訓練的效率和降低成本。此構想源于NTT對AI未來發(fā)展的深度思考,并期望通過引入光通訊技術,為AI訓練帶來革命性的改變。
首先,光通訊技術(IOWN)是NTT的一項前沿科技,其主旨是加速跨數(shù)據(jù)中心的學習數(shù)據(jù)提取。在AI訓練過程中,數(shù)據(jù)提取的速度和效率對訓練時間有著重要影響。IOWN的引入,將極大地縮短數(shù)據(jù)傳輸時間,提高訓練效率。
其次,NTT提出將IOWN與LLM相結合的構想。LLM是一種生成式AI,其基礎是大型語言模型GPT-3。然而,GPT-3在日語環(huán)境中的表現(xiàn)并不如預期,而NTT的LLM模型Tsunami在國際應用上雖不及GPT-3,但在日語環(huán)境中卻表現(xiàn)出了獨特的優(yōu)勢。Tsunami懂得在文書整理中自動去除各種修飾語,直指核心,這是其他國家的LLM很難做到的。
然而,Tsunami的學習數(shù)據(jù)和參數(shù)數(shù)量仍不及GPT-3。對此,NTT提出通過IOWN的引入,可以在更短的時間內(nèi)從更多的數(shù)據(jù)中心中提取學習數(shù)據(jù)。實驗結果表明,即使將數(shù)據(jù)中心距離拉遠到100公里外,學習效率也僅降低0.5%,這為LLM提供了更廣闊的學習空間。
NTT的這項創(chuàng)新構想將光通訊與LLM相結合,旨在提高AI訓練的效率和降低成本。通過IOWN加速跨數(shù)據(jù)中心的學習數(shù)據(jù)提取,以及Tsunami在日語環(huán)境中的獨特優(yōu)勢,NTT相信可以為AI領域帶來新的突破。此構想的實施將對全球AI產(chǎn)業(yè)產(chǎn)生深遠影響,并可能引領AI訓練進入一個全新的時代。
本文鏈接:http://www.tebozhan.com/showinfo-27-39419-0.htmlNTT提出結合光通訊與LLM的構想,以改善AI訓練效率與成本
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com