沉寂3年，大模型激活小度天貓精靈？
Tech星球（微信ID：tech618）文 | 何煦陽 沉寂了許久的智能音箱，在今年大模型橫空出世之后，又再次燃起了新的希望。 2月9日，小度宣布將融合文心一言，打造針對智能設備場景的AI模型&ldq
10月14日消息，《Cell》的姐妹期刊《Joule》本周刊登了一項名為《持續成長的人工智慧能源足跡(The growingenergy footprint of artificial intelligence)》的研究論文，該論文由科研機構Digiconomist的創始人AlexDeVries發表。這篇論文指出，未來人工智能(AI)的推理性能可能會對電力需求造成巨大壓力，到2027年，AI的用電量可能相當于荷蘭一整年的電力消耗。
據ITBEAR科技資訊了解，Alex DeVries強調，一直以來，人們普遍認為AI模型的訓練過程是電力消耗最大的環節，但根據SemiAnalysis和谷歌的報告，實際上，AI中的“推論環節”消耗的電力更多。從2019年到2021年，與AI相關的能源消耗中，預計有60%來自模型推理。
Alex De Vries還引用了谷歌在2021年公開披露的18.3TWh電力消耗數據，聲稱當時AI占了谷歌公司整體用電量的10%到15%。然而，在谷歌全面實施“AI搜索”后，該公司在AI方面的電力消耗最高可能達到27.4TWh，接近愛爾蘭一整年的電力消耗(29.3 TWh)。
從整個市場角度來看，隨著英偉達合作伙伴臺積電(TSMC)計劃于2027年開始量產新的CoWoS工廠，Alex DeVries估計到那時，英偉達交付的所有AI服務器的總用電量將達到85至134 TWh，相當于荷蘭一整年的電力消耗。
為減緩AI對電力的不斷增長需求，Alex DeVries建議AI產業應提高硬件效率，改善模型演算效率，并要考慮使用AI的必要性，以減少AI行業的能源消耗成本。
本文鏈接：http://www.tebozhan.com/showinfo-45-2165-0.html研究揭示：AI“推理環節”電力需求高于預期
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號