AVt天堂网 手机版,亚洲va久久久噜噜噜久久4399,天天综合亚洲色在线精品,亚洲一级Av无码毛片久久精品

當前位置:首頁 > 科技  > 資訊

百川智能發布Baichuan 2,文理兼備全面領先LLaMA 2

來源: 責編: 時間:2023-09-07 10:54:54 286觀看
導讀9月6日,在北京市科學技術委員會、中關村科技園區管理委員會、北京市海淀區政府的指導下,百川智能召開主題為“百川匯海,開源共贏”的大模型發布會,中科院院士張鈸親臨現場并發表致辭。會上,百川智能宣布正式開源

9月6日,在北京市科學技術委員會、中關村科技園區管理委員會、北京市海淀區政府的指導下,百川智能召開主題為“百川匯海,開源共贏”的大模型發布會,中科院院士張鈸親臨現場并發表致辭。會上,百川智能宣布正式開源微調后的Baichuan 2-7B、Baichuan 2-13B、Baichuan 2-13B-Chat與其4bit量化版本,并且均為免費可商用。odw28資訊網——每日最新資訊28at.com

2_1600_3000_gifodw28資訊網——每日最新資訊28at.com

百川智能此次還開源了模型訓練的Check Point,并宣布將發布 Baichuan 2 技術報告,詳細介紹Baichuan 2 的訓練細節,幫助大模型學術機構、開發者和企業用戶更深入的了解其訓練過程,更好地推動大模型學術研究和社區的技術發展。odw28資訊網——每日最新資訊28at.com

文理兼備性能優異,全面領先 LlaMA2odw28資訊網——每日最新資訊28at.com

Baichuan 2-7B-Base 和 Baichuan 2-13B-Base,均基于 2.6萬億高質量多語言數據進行訓練,在保留了上一代開源模型良好的生成與創作能力,流暢的多輪對話能力以及部署門檻較低等眾多特性的基礎上,兩個模型在數學、代碼、安全、邏輯推理、語義理解等能力有顯著提升。其中Baichuan 2-13B-Base相比上一代13B模型,數學能力提升49%,代碼能力提升46%,安全能力提升37%,邏輯推理能力提升25%,語義理解能力提升15%。odw28資訊網——每日最新資訊28at.com

odw28資訊網——每日最新資訊28at.com

本次開源的兩個模型在各大評測榜單上的表現優秀,在MMLU、CMMLU、GSM8K等幾大權威評估基準中,以絕對優勢領先LLaMA2,相比其他同等參數量大模型,表現也十分亮眼,性能大幅度優于LLaMA2等同尺寸模型競品。odw28資訊網——每日最新資訊28at.com

更值得一提的是,根據MMLU等多個權威英文評估基準評分 Baichuan2-7B以70億的參數在英文主流任務上與130億參數量的LLaMA2持平。 WechatIMG1074odw28資訊網——每日最新資訊28at.com

7B參數模型的Benchmark成績odw28資訊網——每日最新資訊28at.com

WechatIMG1075odw28資訊網——每日最新資訊28at.com

13B參數模型的Benchmark成績odw28資訊網——每日最新資訊28at.com

Baichuan2-7B和Baichuan2-13B不僅對學術研究完全開放,開發者也僅需郵件申請獲得官方商用許可后,即可以免費商用。odw28資訊網——每日最新資訊28at.com

國內首創全程開源模型訓練Check Point,助力學術研究odw28資訊網——每日最新資訊28at.com

大模型訓練包含海量高質量數據獲取、大規模訓練集群穩定訓練、模型算法調優等多個環節。每個環節都需要大量人才、算力等資源的投入,從零到一完整訓練一個模型的高昂成本,阻礙了學術界對大模型訓練的深入研究。odw28資訊網——每日最新資訊28at.com

本著協作和持續改進的精神,百川智能本次開源了模型訓練從220B到2640B全過程的 Check Ponit。這對于科研機構研究大模型訓練過程、模型繼續訓練和模型的價值觀對齊等極具價值,將極大推動國內大模型的科研進展,開源訓練模型過程對國內開源生態尚屬首次。odw28資訊網——每日最新資訊28at.com

WechatIMG1076odw28資訊網——每日最新資訊28at.com

技術報告揭示訓練細節,繁榮開源生態odw28資訊網——每日最新資訊28at.com

當前大部分開源模型在開源過程中只是對外公開自身的模型權重,很少提及訓練細節,企業、研究機構、開發者們只能在開源模型的基礎上做有限的微調,很難進行深入研究。odw28資訊網——每日最新資訊28at.com

秉持更開放、更透明的理念,為幫助從業者深入了解Baichuan 2的訓練過程和相關經驗,更好地推動大模型社區的技術發展。百川智能在發布會上宣布,公開Baichuan 2的技術報告。技術報告將詳細介紹Baichuan 2 訓練的全過程,包括數據處理、模型結構優化、Scaling law、過程指標等。報告鏈接:odw28資訊網——每日最新資訊28at.com

https://baichuan-paper.oss-cn-beijing.aliyuncs.com/Baichuan2-technical-report.pdfodw28資訊網——每日最新資訊28at.com

百川智能自成立之初,就將通過開源方式助力中國大模型生態繁榮作為公司的重要發展方向。成立不到四個月,便相繼發布了Baichuan-7B、Baichuan-13B兩款開源免費可商用的中文大模型,以及一款搜索增強大模型Baichuan-53B,兩款開源大模型在多個權威評測榜單均名列前茅,目前下載量超過500萬次。odw28資訊網——每日最新資訊28at.com

不僅如此,在今年創立的大模型公司中,百川智能是唯一一家通過《生成式人工智能服務管理暫行辦法》備案,可以正式面向公眾提供服務的企業。憑借行業領先的基礎大模型研發和創新能力,此次開源的兩款Baichuan 2大模型,得到了上下游企業的積極響應,騰訊云、阿里云、火山方舟、華為、聯發科等眾多知名企業均參加了本次發布會并與百川智能達成了合作。odw28資訊網——每日最新資訊28at.com

WechatIMG1057odw28資訊網——每日最新資訊28at.com

未來,百川智能將在開源大模型領域持續深耕,將更多的技術能力、前沿創新開放出來,與更多的合作伙伴們共同助力中國大模型生態蓬勃發展。odw28資訊網——每日最新資訊28at.com

本文鏈接:http://www.tebozhan.com/showinfo-16-8179-0.html百川智能發布Baichuan 2,文理兼備全面領先LLaMA 2

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: RNG老板財務風波:姚金成股權遭凍結 MLXG合同爭議持續

下一篇: 微信上線“騰訊混元助手”小程序 目前僅對受邀用戶開放

標簽:
  • 熱門焦點
  • 對標蘋果的靈動島 華為帶來實況窗功能

    繼蘋果的靈動島之后,華為也在今天正式推出了“實況窗”功能。據今天鴻蒙OS 4.0的現場演示顯示,華為的實況窗可以更高效的展現出實時通知,比如鎖屏上就能看到外賣、打車、銀行
  • Redmi Buds 4開箱簡評:才199還有降噪 可以無腦入

    在上個月舉辦的Redmi Note11T Pro系列新機發布會上,除了兩款手機新品之外,Redmi還帶來了兩款TWS真無線藍牙耳機產品,Redmi Buds 4和Redmi Buds 4 Pro,此前我們在Redmi Note11T
  • 微信語音大揭秘:為什么禁止轉發?

    大家好,我是你們的小米。今天,我要和大家聊一個有趣的話題:為什么微信語音不可以轉發?這是一個我們經常在日常使用中遇到的問題,也是一個讓很多人好奇的問題。讓我們一起來揭開這
  • 騰訊蓋樓,字節拆墻

    來源 | 光子星球撰文 | 吳坤諺編輯 | 吳先之“想重溫暴刷深淵、30+技能搭配暴搓到爽的游戲體驗嗎?一起上晶核,即刻暴打!”曾憑借直播騰訊旗下代理格斗游戲《DNF》一
  • 一條抖音4億人圍觀 ! 這家MCN比無憂傳媒還野

    作者:Hiu 來源:互聯網品牌官01 擦邊少女空降熱搜,幕后推手曝光被網友譽為“純欲天花板”的女網紅井川里予,近期因為一組哥特風照片登上熱搜,引發了一場互聯網世界關于
  • 華為Mate 60保護殼曝光:碩大后置相機模組 凸起程度有驚喜

    這段時間以來,關于華為新旗艦的爆料日漸密集。據此前多方爆料,今年華為將開始恢復一年雙旗艦戰略,除上半年推出的P60系列外,往年下半年的Mate系列也將
  • 2299元起!iQOO Pad開啟預售:性能最強天璣平板

    5月23日,iQOO如期舉行了新品發布會,除了首發安卓最強旗艦處理器的iQOO Neo8系列新機外,還在發布會上推出了旗下首款平板電腦——iQOO Pad,其搭載了天璣
  • 回歸OPPO兩年,一加贏了銷量,輸了品牌

    成為OPPO旗下主打性能的先鋒品牌后,一加屢創佳績。今年618期間,一加手機全渠道銷量同比增長362%,憑借一加 11、一加 Ace 2、一加 Ace 2V三款爆品,一加
  • 英特爾Xe HPG游戲顯卡:擁有512EU,單風扇版本

    據10 月 30 日外媒 TheVerge 消息報道,英特爾 Xe HPG Arc Alchemist 的正面實被曝光,不僅擁有 512 EU 版顯卡,還擁有 128EU 的單風扇版本。另外,這款顯卡 PCB
Top