綜合外電報道,日本電信業領導廠商NTT公司近日發布了一項創新構想,旨在結合光通訊(IOWN)與大型語言模型(LLM),以提升AI訓練的效率和降低成本。此構想源于NTT對AI未來發展的深度思考,并期望通過引入光通訊技術,為AI訓練帶來革命性的改變。
首先,光通訊技術(IOWN)是NTT的一項前沿科技,其主旨是加速跨數據中心的學習數據提取。在AI訓練過程中,數據提取的速度和效率對訓練時間有著重要影響。IOWN的引入,將極大地縮短數據傳輸時間,提高訓練效率。
其次,NTT提出將IOWN與LLM相結合的構想。LLM是一種生成式AI,其基礎是大型語言模型GPT-3。然而,GPT-3在日語環境中的表現并不如預期,而NTT的LLM模型Tsunami在國際應用上雖不及GPT-3,但在日語環境中卻表現出了獨特的優勢。Tsunami懂得在文書整理中自動去除各種修飾語,直指核心,這是其他國家的LLM很難做到的。
然而,Tsunami的學習數據和參數數量仍不及GPT-3。對此,NTT提出通過IOWN的引入,可以在更短的時間內從更多的數據中心中提取學習數據。實驗結果表明,即使將數據中心距離拉遠到100公里外,學習效率也僅降低0.5%,這為LLM提供了更廣闊的學習空間。
NTT的這項創新構想將光通訊與LLM相結合,旨在提高AI訓練的效率和降低成本。通過IOWN加速跨數據中心的學習數據提取,以及Tsunami在日語環境中的獨特優勢,NTT相信可以為AI領域帶來新的突破。此構想的實施將對全球AI產業產生深遠影響,并可能引領AI訓練進入一個全新的時代。
本文鏈接:http://www.tebozhan.com/showinfo-27-39419-0.htmlNTT提出結合光通訊與LLM的構想,以改善AI訓練效率與成本
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
下一篇: 國內阻止尿素出口韓國:一場貿易戰的前兆?