日本三大運營商,包括NTT集團、KDDI、軟銀(SoftBank),紛紛著手開發生成式AI(Generative AI)。NTT自行開發的生成式AI,將先在集團內試用,并預定2023年度(2023/4~2024/3;FY23)內向企業客戶提供服務。
NTT在2023年6月已經表明,將研發生成式AI,供應給企業客戶,這種生成式AI將學習金融、醫療、法律等領域的專業知識,預計2023年度內推出。
NTT生成式AI的大型語言模型(LLM),參數量約70億~300億個。OpenAI的ChatGPT所使用的LLM,即GPT-3,參數達1,750億個,后來的GPT-3.5、GPT-4的參數量則更多。
不同于美國IT廠如OpenAI的泛用型生成式AI,NTT等日廠,通常使用較小的運算資源與較低的成本來訓練AI語言模型,針對特定范圍,推出生成式AI服務。
2023年8月,NTT集團的NTT Docomo,以及旗下的NTT Communications、NTT Comware等共3間公司,將應用生成式AI,推動公司內的業務,目標是透過提升生成式AI的附加價值來推出新服務。首先將在2023年8月下旬開始,在3間公司內展開實驗。
實驗過程中,將使用NTT Docomo開發的「LLM附加價值基礎架構」,搭配LLM,以提升使用生成式AI時的安全性與便利性,并可保障企業內信息不外流的安全性,以及內容的正確性。
這3間公司內的實驗中,針對業務專門性高的問答,可透過上述的基礎架構,輸入公司規章與守則作為基礎,再以LLM生成的文句,來進行回答。
在公司內部檢驗過回答的正確性與便利性之后,將進一步檢討是否可拿來作為針對客戶的AI應答服務。
經過反復調整后,包含對企業客戶的驗證過后,目標2023年度內,正式推出生成式AI服務。
此外,NTT Docomo保有的大數據,及語音識別、影像識別等AI技術,可搭配這個LLM附加價值基礎架構,同時向企業客戶推出新的附加價值服務。
NTT Docomo的LLM附加價值基礎架構,已確定可以使用Azure OpenAI Service的LLM,提供生成式AI服務并進行實驗。
今后,LLM附加價值基礎架構也可以根據各種需求,選擇不同的LLM,來提供生成式AI服務。例如可采用NTT集團的「NTT研究所」開發、針對各特定領域的LLM。另外,也可采用開源軟件、各供應商等提供的各種LLM。
責任編輯:王楨瑩
本文鏈接:http://www.tebozhan.com/showinfo-27-7592-0.htmlNTT自研LLM基礎架構 估2023年內推生成式AI服務
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 電源供應器龍頭臺達電 絕不缺席AI服務器