把LangChain跑起來的三個方法
使用LangChain開發(fā)LLM應(yīng)用時，需要機(jī)器進(jìn)行GLM部署，好多同學(xué)第一步就被勸退了，那么如何繞過這個步驟先學(xué)習(xí)LLM模型的應(yīng)用，對Langchain進(jìn)行快速上手？本片講解3個把LangChain跑起來
隨著AI技術(shù)的飛速發(fā)展和應(yīng)用，散熱結(jié)構(gòu)正在發(fā)生重大轉(zhuǎn)變。過去，英特爾（Intel）和超微（AMD）一直將芯片的散熱需求控制在250~300瓦的水平。然而，隨著ChatGPT等AI技術(shù)的崛起，NVIDIA的芯片需求暴增，同時也打開了散熱技術(shù)的創(chuàng)新空間。這一變革不僅為散熱模塊廠帶來了新的機(jī)會，更為散熱結(jié)構(gòu)從氣冷轉(zhuǎn)向水冷時代揭開了序幕。
近期，NVIDIA的H100供不應(yīng)求，其最大散熱設(shè)計功率（TDP）高達(dá)700瓦。預(yù)計將于2024年第1季開始量產(chǎn)的超微MI300，其TDP也達(dá)到了600瓦。而即將在2024 年第4季登場的NVIDIA新一代GPU B100，業(yè)界傳聞其TDP將高達(dá)1,000瓦。這一系列的創(chuàng)新產(chǎn)品，無疑對散熱設(shè)計提出了更高的要求。
雙鴻董事長林育申在公司的法說會上指出，當(dāng)芯片的TDP達(dá)到1,000瓦時，服務(wù)器品牌廠商和企業(yè)必須認(rèn)真考慮水冷散熱的需求。他強(qiáng)調(diào)，現(xiàn)在雙鴻已經(jīng)爆單，因為客戶都在尋求水冷散熱方案。林育申預(yù)測，水冷真正爆發(fā)的時刻將在2025年到來。
雙鴻從2023 年第3季開始出貨水冷散熱方案給客戶，雖然初期出貨量不大，但卻已經(jīng)顯著改變了公司的獲利結(jié)構(gòu)。雙鴻第3季的營收增長了34.5%，而其毛利增長幅度高達(dá)73.1%，營業(yè)利益增長達(dá)221.4%。同時，第3季的毛利率為26.5%，比上一季度增加了5.9個百分點(diǎn)。這些數(shù)據(jù)充分證明了水冷散熱市場的潛力。
據(jù)雙鴻預(yù)測，隨著水冷散熱方案的進(jìn)一步推廣，2024年的營收增長將達(dá)到20%，其中服務(wù)器散熱是主要的推動力量，預(yù)計年增近40%，而AI服務(wù)器將是主要的增長領(lǐng)域。與同行業(yè)相比，雙鴻更加積極地開拓水冷散熱市場。林育申指出，到2024年第4季，水冷和氣冷的散熱需求將達(dá)到50比50的水平。
林育申表示，ChatGPT帶來了NVIDIA芯片的暴沖，同時也打破了英特爾和超微對芯片散熱需求的控制。未來，各家芯片廠對TDP的限制不再存在，芯片散熱瓦數(shù)將持續(xù)上升。這一趨勢將為散熱模塊廠帶來更大的創(chuàng)新空間和商業(yè)機(jī)會。
隨著AI技術(shù)的不斷進(jìn)步和應(yīng)用領(lǐng)域的擴(kuò)大，未來的散熱市場將呈現(xiàn)出更加多元化和競爭激烈的趨勢。對于散熱模塊廠來說，積極創(chuàng)新和適應(yīng)變化將成為關(guān)鍵。而對于終端用戶來說，更高效、更環(huán)保、更節(jié)能的散熱方案將成為他們的首選。
本文鏈接：http://www.tebozhan.com/showinfo-27-27513-0.htmlNVIDIA B100帶來水冷散熱時代
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號