一加Ace2 Pro官宣：普及16G內(nèi)存 引領(lǐng)24G
一加官方今天繼續(xù)為本月發(fā)布的新機一加Ace2 Pro帶來預(yù)熱，公布了內(nèi)存方面的信息。“淘汰 8GB ，12GB 起步，16GB 普及，24GB 引領(lǐng)，還有呢？#一加Ace2Pro#，2023 年 8 月，敬請期待。”同時
快科技7月29日消息，在7月26日-7月29日于上海世博展覽館H1-A301舉辦的WAIC（世界人工智能大會）上，華為昇騰384超節(jié)點，即Atlas 900 A3 SuperPoD首次展出，成為備受矚目的“鎮(zhèn)館之寶”，是業(yè)界目前大規(guī)模的超節(jié)點。
昇騰384超節(jié)點打破了以CPU為中心的馮諾依曼架構(gòu)，創(chuàng)新提出了對等計算架構(gòu)，還將總線從服務(wù)器內(nèi)部擴展到整機柜、甚至跨機柜，極大地改變了數(shù)據(jù)傳輸和處理的方式。
傳統(tǒng)由服務(wù)器、存儲、網(wǎng)絡(luò)等設(shè)備堆疊而成的集群，在大規(guī)模訓練時存在資源利用率低、故障頻發(fā)的問題，嚴重阻礙AI發(fā)展。
而昇騰超節(jié)點通過高速總線連接多顆NPU，突破了互聯(lián)瓶頸，讓超節(jié)點像一臺計算機一樣協(xié)同工作。
通信帶寬飛躍：跨節(jié)點通信帶寬提升15倍，使得數(shù)據(jù)傳輸速度大幅加快。
通信時延驟減：通信時延從2μs降至0.2μs，下降了10倍，減少了數(shù)據(jù)處理等待時間。
超強互聯(lián)能力：大可實現(xiàn)384顆NPU點到點超大帶寬互聯(lián)，并且是業(yè)界唯一支持DeepSeek V/R1在一個超節(jié)點域內(nèi)即可完成所有專家并行（EP）方案的產(chǎn)品，也是MoE模型的佳訓練/推理方案，極大提高了模型訓練和推理的效率。
昇騰384超節(jié)點擁有三大優(yōu)勢：
超大帶寬：超節(jié)點內(nèi)任意兩個AI處理器之間通信帶寬，相較于傳統(tǒng)架構(gòu)提升15倍，超節(jié)點內(nèi)單跳通信時延降低10倍，數(shù)據(jù)交互更流暢。
超低時延：昇騰超節(jié)點支持全局內(nèi)存統(tǒng)一編址，具備更高效的內(nèi)存語義通信能力，通過更低時延指令級內(nèi)存語義通信，可滿足大模型訓練/推理中的小包通信需求，提升專家網(wǎng)絡(luò)小包數(shù)據(jù)傳輸及離散隨機訪存通信效率。而且昇騰384超節(jié)點是業(yè)界唯一突破Decode時延15ms的方案，能滿足實時深度思考下的用戶體驗需求。
超強性能：經(jīng)過實際測試，在昇騰超節(jié)點集群上，LlaMA3等千億稠密模型訓練性能可達傳統(tǒng)集群的2.5倍以上；在通信占比更高的Qwen、DeepSeek等多模態(tài)、MoE模型上，性能提升更是可以達到3倍以上。
本文鏈接：http://www.tebozhan.com/showinfo-22-174288-0.htmlWAIC 2025鎮(zhèn)館之寶！“算力核彈”華為昇騰384超節(jié)點看懂
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號