△圖源:英特爾要知道,在AI大模型遵循Scaling Law發(fā)展的當(dāng)下,為了取得更好的效果" />

AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當(dāng)前位置:首頁 > 科技  > 測(cè)評(píng)

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

來源: 責(zé)編: 時(shí)間:2024-07-27 15:24:22 394觀看
導(dǎo)讀 英特爾用“光”,突破了大模型時(shí)代棘手的算力難題——推出業(yè)界首款全集成OCI(光學(xué)計(jì)算互連)芯片。
△圖源:英特爾要知道,在AI大模型遵循Scaling Law發(fā)展的當(dāng)下,為了取得更好的效果

英特爾用“光”,突破了大模型時(shí)代棘手的算力難題——J4Y28資訊網(wǎng)——每日最新資訊28at.com

推出業(yè)界首款全集成OCI(光學(xué)計(jì)算互連)芯片。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

要知道,在AI大模型遵循Scaling Law發(fā)展的當(dāng)下,為了取得更好的效果,要么模型規(guī)模、要么數(shù)據(jù)規(guī)模,都在往更大的趨勢(shì)發(fā)展。J4Y28資訊網(wǎng)——每日最新資訊28at.com

這就會(huì)導(dǎo)致AI大模型在算力層面上,對(duì)整個(gè)計(jì)算、存儲(chǔ),包括中間I/O通信等提出更高的要求。J4Y28資訊網(wǎng)——每日最新資訊28at.com

而英特爾此次的突破口,正是I/O通信:J4Y28資訊網(wǎng)——每日最新資訊28at.com

在CPU和GPU中,用光學(xué)I/O取代電氣I/O進(jìn)行數(shù)據(jù)傳輸。J4Y28資訊網(wǎng)——每日最新資訊28at.com

有什么用?J4Y28資訊網(wǎng)——每日最新資訊28at.com

一言蔽之,數(shù)據(jù)傳輸距離遠(yuǎn)多了,量大了,功耗低了——更適合AI大模型的“體質(zhì)”了。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

那么英特爾為什么要用到“光”?具體又是如何實(shí)現(xiàn)的?J4Y28資訊網(wǎng)——每日最新資訊28at.com

用上了“光”,從馬車變卡車J4Y28資訊網(wǎng)——每日最新資訊28at.com

傳統(tǒng)采用電氣I/O的方式(銅線連接)固然有它的優(yōu)勢(shì),例如支持高帶寬密度和低功耗,但致命的問題就是傳輸距離比較短(不到1米)。J4Y28資訊網(wǎng)——每日最新資訊28at.com

這要放在一個(gè)機(jī)架里倒也是沒有問題,但AI大模型在算力上往往標(biāo)配都是服務(wù)器集群這個(gè)量級(jí)。J4Y28資訊網(wǎng)——每日最新資訊28at.com

不僅占地面積大,還跨N多個(gè)機(jī)架,線都是需要幾十米甚至上百米的長度,功耗那是相當(dāng)?shù)母撸凰鼤?huì)吃掉所有供給機(jī)架的電源,以至于沒有足夠的電去做計(jì)算和存儲(chǔ)芯片的讀寫操作。J4Y28資訊網(wǎng)——每日最新資訊28at.com

除此之外,存算比方面,也正是因?yàn)榇竽P?ldquo;大”的特點(diǎn),由原來讀取一次做上百次計(jì)算的比例,到現(xiàn)在直接變成了接近1:1。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

這就需要一種新的辦法,可以在提高算力和存儲(chǔ)密度的同時(shí)降低功耗、縮小體積,從而在一個(gè)有限的空間里,放進(jìn)更多的計(jì)算和存儲(chǔ)。J4Y28資訊網(wǎng)——每日最新資訊28at.com

而用上了光學(xué)I/O,問題便迎刃而解了:J4Y28資訊網(wǎng)——每日最新資訊28at.com

可在最長100米的光纖上,單向支持64個(gè)32Gbps通道。J4Y28資訊網(wǎng)——每日最新資訊28at.com

一個(gè)形象的比喻就是,就好比從使用馬車(容量和距離有限)到使用小汽車和卡車來配送貨物(數(shù)量更大、距離更遠(yuǎn))。J4Y28資訊網(wǎng)——每日最新資訊28at.com

不僅如此,即使是在相對(duì)較近的距離去完成一些更高密度、更靈活的數(shù)據(jù)傳輸工作,OCI這種方式則可以類比成摩托車,速度更快且更靈活。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com

值得一提的是,這種OCI的方法不是停留在理論的那種。J4Y28資訊網(wǎng)——每日最新資訊28at.com

據(jù)英特爾介紹,他們已經(jīng)利用了實(shí)際驗(yàn)證的硅光子技術(shù),集成了包含片上激光器的硅光子集成電路(PIC)、光放大器和電子集成電路。J4Y28資訊網(wǎng)——每日最新資訊28at.com

并且在此前也展示了與自家CPU封裝在一起的OCI芯粒,還能與下一代CPU、GPU、IPU等SOC(系統(tǒng)級(jí)芯片)集成。J4Y28資訊網(wǎng)——每日最新資訊28at.com

還沒完,英特爾也已經(jīng)出貨了超過800萬個(gè)硅光子集成電路,其中超過3200萬個(gè)現(xiàn)已投入使用的激光器。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

那么接下來的一個(gè)問題是:J4Y28資訊網(wǎng)——每日最新資訊28at.com

英特爾的OCI是如何“煉”成的?J4Y28資訊網(wǎng)——每日最新資訊28at.com

英特爾研究院副總裁、英特爾中國研究院院長宋繼強(qiáng)的交流過程中,他對(duì)這個(gè)問題做了深入的剖析和解讀。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△英特爾研究院副總裁、英特爾中國研究院院長,宋繼強(qiáng)J4Y28資訊網(wǎng)——每日最新資訊28at.com

硅光子技術(shù)集合了20世紀(jì)兩項(xiàng)最重要的發(fā)明:硅集成電路和半導(dǎo)體激光。J4Y28資訊網(wǎng)——每日最新資訊28at.com

與傳統(tǒng)電子產(chǎn)品相比,它支持在較遠(yuǎn)的距離內(nèi)更快的數(shù)據(jù)傳輸速度,同時(shí)利用英特爾高容量硅產(chǎn)品制造的效率。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com

英特爾這一次發(fā)布的硅光集成技術(shù),OCI芯粒達(dá)到了光電共封裝的層面。J4Y28資訊網(wǎng)——每日最新資訊28at.com

這個(gè)光電共封裝是把一個(gè)硅光子集成電路(PIC),和一個(gè)電子集成電路(EIC),放在一個(gè)基板上組成了一個(gè)OCI芯粒,作為一個(gè)集成性連接的部件。J4Y28資訊網(wǎng)——每日最新資訊28at.com

這就意味著xPU,包括CPU,未來的GPU都可以和OCI芯片封裝在一起。J4Y28資訊網(wǎng)——每日最新資訊28at.com

OCI芯粒就是把數(shù)據(jù)中心CPU出來的所有的電氣I/O信號(hào)轉(zhuǎn)成了光,通過光纖,在兩個(gè)數(shù)據(jù)中心的節(jié)點(diǎn)或者是系統(tǒng)里面去互相傳輸。J4Y28資訊網(wǎng)——每日最新資訊28at.com

目前的雙向數(shù)據(jù)傳輸速度達(dá)到了4Tbps,它在上層的傳輸協(xié)議兼容到PCIe 5.0,單向支持64個(gè)32Gbps通道,這在目前的數(shù)據(jù)中心當(dāng)中是足夠用的:J4Y28資訊網(wǎng)——每日最新資訊28at.com

它采用8對(duì)光纖,功耗僅為每比特5皮焦耳(pJ),即10-12焦耳,這個(gè)數(shù)據(jù)比可插拔光收發(fā)器模塊的功耗降了3倍(后者是每比特15皮焦耳)。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

在一個(gè)光傳輸?shù)耐ǖ览铮鼘?shí)際上有8個(gè)不同的波段,每個(gè)波段的頻率間隔是200GHz,一共占用了1.6THz光譜的間距用來傳輸。J4Y28資訊網(wǎng)——每日最新資訊28at.com

光從可見光到不可見光,實(shí)際上它的頻譜寬度是很寬的,從THz開始就算是接近光通訊了。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com

那么OCI芯粒未來會(huì)用在哪些領(lǐng)域呢?J4Y28資訊網(wǎng)——每日最新資訊28at.com

對(duì)此,宋繼強(qiáng)表示:J4Y28資訊網(wǎng)——每日最新資訊28at.com

一個(gè)是可以用它來實(shí)現(xiàn)通信,還可以把它跟CPU、GPU這些計(jì)算芯片封裝在一起,計(jì)算加通信非常緊密地封裝在一起。J4Y28資訊網(wǎng)——每日最新資訊28at.com

我們通過硅光集成和先進(jìn)封裝技術(shù),先進(jìn)封裝英特爾也有非常多不同的技術(shù),就可以實(shí)現(xiàn)更高密度的I/O芯粒,然后再和其它的xPU結(jié)合,未來基于芯粒,形成很多不同種類的計(jì)算加互連的芯片種類,會(huì)有非常好的應(yīng)用前景。J4Y28資訊網(wǎng)——每日最新資訊28at.com

就OCI I/O接口芯粒的性能演進(jìn)路線圖來看,它目前可以達(dá)到32Tbps傳輸速度的技術(shù)方案,主要靠迭代式的穩(wěn)步提升三個(gè)方面的指標(biāo),分別是:J4Y28資訊網(wǎng)——每日最新資訊28at.com

-一根光纖里有8段穩(wěn)定的波段J4Y28資訊網(wǎng)——每日最新資訊28at.com

-每一個(gè)波段的光數(shù)據(jù)傳輸率為32GbpsJ4Y28資訊網(wǎng)——每日最新資訊28at.com

-可同時(shí)拉8對(duì)光纖且互不影響J4Y28資訊網(wǎng)——每日最新資訊28at.com

這三個(gè)指標(biāo)乘起來,就是目前單向上有2Tbps的數(shù)據(jù)傳輸速度,雙向即是4Tbps。未來可以繼續(xù)向上演進(jìn),逐步提升帶寬能力。J4Y28資訊網(wǎng)——每日最新資訊28at.com

CPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?J4Y28資訊網(wǎng)——每日最新資訊28at.com
△圖源:英特爾J4Y28資訊網(wǎng)——每日最新資訊28at.com

最后,英特爾在硅光集成技術(shù)的差異化方面,宋繼強(qiáng)也做出了解釋:J4Y28資訊網(wǎng)——每日最新資訊28at.com

主要是我們把高頻率的激光發(fā)射器做在了晶圓上,又把硅的光放大器也集成上去,這是兩個(gè)比較核心的技術(shù),都是在晶圓級(jí)去制造出來的。J4Y28資訊網(wǎng)——每日最新資訊28at.com

接下來,我們可以量產(chǎn)這樣的高集成度激光器,因?yàn)檫@種在片上的激光器的好處是用普通的光纖就可以去傳輸了。J4Y28資訊網(wǎng)——每日最新資訊28at.com

并且在穩(wěn)定性方面,幾乎是100億小時(shí)才有可能發(fā)生一次錯(cuò)誤。J4Y28資訊網(wǎng)——每日最新資訊28at.com

那么你覺得英特爾pick的“光”如何呢?歡迎在評(píng)論區(qū)留言討論。J4Y28資訊網(wǎng)——每日最新資訊28at.com

參考鏈接:J4Y28資訊網(wǎng)——每日最新資訊28at.com

[1]https://mp.weixin.qq.com/s/ozx_ficqlxjEPKa5AlBdfAJ4Y28資訊網(wǎng)——每日最新資訊28at.com

[2]https://community.intel.com/t5/Blogs/Tech-Innovation/Artificial-Intelligence-AI/Intel-Shows-OCI-Optical-I-O-Chiplet-Co-packaged-with-CPU-at/post/1582541J4Y28資訊網(wǎng)——每日最新資訊28at.com

[3]https://www.youtube.com/watch?v=Fml3yuPR2AUJ4Y28資訊網(wǎng)——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-25-103943-0.htmlCPU、GPU的互連從1米飆至100米 英特爾:你相信光嗎?

聲明:本網(wǎng)頁內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com

上一篇: 5月iOS設(shè)備好評(píng)榜:老款iPad Pro依然能戰(zhàn)

下一篇: 3888元!115網(wǎng)盤長期超級(jí)VIP特惠:500TB海量空間

標(biāo)簽:
  • 熱門焦點(diǎn)
  • 紅魔電競(jìng)平板評(píng)測(cè):大屏幕硬實(shí)力

    前言:三年的疫情因?yàn)橐暇W(wǎng)課的原因激活了平板市場(chǎng),如今網(wǎng)課的時(shí)代已經(jīng)過去,大家的生活都恢復(fù)到了正軌,這也就意味著,真正考驗(yàn)平板電腦生存的環(huán)境來了。也就是面對(duì)著這種殘酷的
  • 讓我們一起聊聊文件的操作

    文件【1】文件是什么?文件是保存數(shù)據(jù)的地方,是數(shù)據(jù)源的一種,比如大家經(jīng)常使用的word文檔、txt文件、excel文件、jpg文件...都是文件。文件最主要的作用就是保存數(shù)據(jù),它既可以保
  • 小紅書1周漲粉49W+,我總結(jié)了小白可以用的N條漲粉筆記

    作者:黃河懂運(yùn)營一條性教育視頻,被54萬人“珍藏”是什么體驗(yàn)?最近,情感博主@公主是用鮮花做的,火了!僅僅憑借一條視頻,光小紅書就有超過128萬人,為她瘋狂點(diǎn)贊!更瘋狂的是,這
  • ESG的面子與里子

    來源 | 光子星球撰文 | 吳坤諺編輯 | 吳先之三伏大幕拉起,各地高溫預(yù)警不絕,但處于厄爾尼諾大“烤”之下的除了眾生,還有各大企業(yè)發(fā)布的ESG報(bào)告。ESG是“環(huán)境保
  • 消息稱小米汽車開始篩選交付中心:需至少120個(gè)車位

    IT之家 7 月 7 日消息,日前,有微博簡(jiǎn)介為“汽車行業(yè)從業(yè)者、長三角一體化擁護(hù)者”的微博用戶 @長三角行健者 發(fā)文表示,據(jù)經(jīng)銷商集團(tuán)反饋,小米汽車目前
  • 2納米決戰(zhàn)2025

    集微網(wǎng)報(bào)道 從三強(qiáng)爭(zhēng)霸到四雄逐鹿,2nm的廝殺聲已然隱約傳來。無論是老牌勁旅臺(tái)積電、三星,還是誓言重回先進(jìn)制程領(lǐng)先地位的英特爾,甚至初成立不久的新
  • 三星折疊屏手機(jī)去年銷售近1000萬臺(tái) 今年目標(biāo)定為1500萬

    7月29日消息,三星率先發(fā)力可折疊手機(jī)市場(chǎng),在全球市場(chǎng)已經(jīng)取得了非常亮眼的成績,接下來會(huì)進(jìn)一步鞏固和擴(kuò)大這一優(yōu)勢(shì)。三星在推出Galaxy Z Flip5和Galax
  • 三星電子Q2營收60萬億韓元 存儲(chǔ)業(yè)務(wù)營收同比仍下滑超過50%

    7月27日消息,據(jù)外媒報(bào)道,從三星電子所發(fā)布的財(cái)報(bào)來看,他們主要利潤來源的存儲(chǔ)芯片業(yè)務(wù)在今年二季度仍不樂觀,營收同比仍在大幅下滑,所在的設(shè)備解決方案
  • 最薄的14英寸游戲筆記本電腦 Alienware X14已可以購買

    2022年1月份在國際消費(fèi)電子展(CES2022)上首次亮相的Alienware新品——Alienware X14現(xiàn)在已經(jīng)可以購買了,這款筆記本電腦被譽(yù)為世界上最薄的 14 英寸游戲筆
Top