隨著大模型在金融各大場景中持續(xù)落地與應(yīng)用,如何攻克大模型技術(shù)壁壘,加速推動大模型與金融行業(yè)整合發(fā)展,是度小滿近年來研究的主要方向。依托在技術(shù)方面的深厚積淀,度小滿于 2023 年 5 月開源國內(nèi)首個千億級中文金融大模型“XuanYuan-176B”。近期,度小滿宣布“軒轅”系列新增 12 款金融大模型,“軒轅”模型矩陣全面升級,可實(shí)現(xiàn)多場景任務(wù)適配。
“軒轅”在多項(xiàng)考試中展示出金融領(lǐng)域?qū)<业乃?span style="display:none">4UQ28資訊網(wǎng)——每日最新資訊28at.com
3 月 11 日,度小滿宣布“軒轅”系列金融大模型新增開源 6B、13B、70B 三種參數(shù) 12 款金融大模型。這 12 款大模型具有“以小搏大”的實(shí)力,在用戶信息分析、業(yè)務(wù)數(shù)據(jù)洞察等十余種金融實(shí)際任務(wù)評測中,達(dá)到自身 2 倍甚至 5 倍參數(shù)量的模型水平。
三種參數(shù)的基座模型、對話模型、int4 量化模型、int8 量化模型完全開源,開發(fā)者可在 GitHub、HuggingFace、Model Scope 等開源社區(qū)內(nèi)下載使用。
在“軒轅”模型矩陣中,70B 及以上模型適合針對需要深度分析、復(fù)雜指令執(zhí)行以及全方位 Agent 調(diào)用的場景,而 6B、13B 的模型則更加適用于對響應(yīng)速度有高要求、面向小規(guī)模場景和單任務(wù)的應(yīng)用。”軒轅”6B-4-bit 量化 Chat 模型則以其低推理部署成本,進(jìn)一步降低大模型的應(yīng)用門檻。
專注中文金融領(lǐng)域任務(wù) FinanceIQ 大模型金融自動評測集顯示,在注冊會計師(CPA)、銀行從業(yè)資格、基金從業(yè)資格、證券從業(yè)資格等多項(xiàng)金融領(lǐng)域考試中,“軒轅”展示出金融領(lǐng)域?qū)<业乃健?span style="display:none">4UQ28資訊網(wǎng)——每日最新資訊28at.com
(“軒轅”系列大模型擁有遠(yuǎn)超同參數(shù)水平的金融能力)
“軒轅”系列大模型在訓(xùn)練方式上進(jìn)行了多項(xiàng)創(chuàng)新,例如將人類偏好對齊技術(shù)引入了金融大模型訓(xùn)練。通常多數(shù)垂類大模型僅在微調(diào)階段引入特定領(lǐng)域數(shù)據(jù),但這種方法在實(shí)際應(yīng)用中常常顯示出局限性,金融行業(yè)的復(fù)雜性要求模型能夠更深入地理解并適應(yīng)行業(yè)特定的需求。為此,度小滿構(gòu)建了涵蓋通用性、安全性和金融特性的 Prompt 數(shù)據(jù)集,并組織了專業(yè)的標(biāo)注團(tuán)隊(duì)對成對的回答進(jìn)行偏好標(biāo)注,從而收集到了一批高質(zhì)量、廣覆蓋的偏好數(shù)據(jù),并通過一系列實(shí)踐、分析和改進(jìn)成功完成了獎勵模型和后續(xù)的強(qiáng)化訓(xùn)練。
“軒轅”金融大模型已經(jīng)應(yīng)用在度小滿各個業(yè)務(wù)場景
度小滿在 2023 年 5 月開源國內(nèi)首個千億級中文金融大模型“XuanYuan-176B”。2023 年 9 月,“XuanYuan-70B”大模型在 C-Eval 和 CMMLU 兩大權(quán)威榜單上位列所有開源模型榜首。本次度小滿”“軒轅””模型矩陣再次升級,十億-百億-千億參數(shù)全覆蓋,實(shí)現(xiàn)多場景任務(wù)適配。
業(yè)內(nèi)普遍認(rèn)為,金融大模型的價值體現(xiàn)在其能否在核心業(yè)務(wù)場景中發(fā)揮實(shí)際作用,如通過綜合分析用戶信息以支持風(fēng)險評估、刻畫客戶畫像等。目前,”軒轅”金融大模型已經(jīng)應(yīng)用在度小滿各個業(yè)務(wù)場景,從營銷、客服、風(fēng)控、辦公再到研發(fā),已經(jīng)初見成效。在代碼助手方面,用大模型輔助生成的代碼,采納率能夠達(dá)到 42%,幫助公司整體研發(fā)效率提升了 20%;在客服領(lǐng)域,大模型推動服務(wù)效率提升了 25%。
度小滿加快技術(shù)創(chuàng)新,將大模型技術(shù)應(yīng)用到各大業(yè)務(wù)場景中,借助大模型等創(chuàng)新技術(shù)提高金融服務(wù)效率,最終達(dá)到降本增效的目的。繼本次“軒轅”模型矩陣全面升級后,度小滿還將繼續(xù)加強(qiáng)金融科技研發(fā)力度,將創(chuàng)新技術(shù)應(yīng)用到金融各大場景中,持續(xù)助推金融行業(yè)高質(zhì)量發(fā)展。
本文鏈接:http://www.tebozhan.com/showinfo-26-89107-0.html度小滿“軒轅”系列新增 12 款金融大模型 可實(shí)現(xiàn)多場景任務(wù)適配
聲明:本網(wǎng)頁內(nèi)容旨在傳播知識,若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。郵件:2376512515@qq.com
上一篇: 火山引擎與中國科學(xué)院生物物理所達(dá)成深度合作,攜手推進(jìn)生命科學(xué)發(fā)展