12 月 21 日,記者在螞蟻集團科技倫理顧問委員會 2023 年度會議上獲悉,螞蟻集團大模型研發團隊投入近 20% 的技術人員建設科技倫理,還與 8 所高校機構開展共建科技倫理知識體系,打造負責任的 AI。
今年 2 月,螞蟻集團在設立公司內部科技倫理委員會的基礎上,正式成立科技倫理顧問委員會,由 7 名外部專家構成,為螞蟻集團科技倫理建設給予方向性、戰略性、針對性的指導建議。
螞蟻集團資深副總裁、技術戰略委員會主席倪行軍在會上介紹了螞蟻集團科技倫理建設的最新進展:與大模型能力建設和應用探索同步,螞蟻集團持續投入人力和算力搭建風險評估、防御的機制及能力。目前大模型倫理建設人員占整體大模型技術人員的將近 20%,未來將繼續保持高水平和高強度的投入。此外,科技倫理委員會將聯合螞蟻技術研究院投入前沿倫理問題研究。
大模型催生了新一輪技術創新與產業變革,與之而來的安全問題不容忽視。據了解,螞蟻集團從 2015 年就積極投入可信 AI 的技術研究。圍繞“安全、合規、可控、可靠”的目標,目前螞蟻集團建立了大模型綜合安全治理體系,未來將保持人力資源和算力資源的持續投入、高強度投入,加強大模型安全治理。
打造負責任的 AI 還需要全社會的共同參與和努力。在今年 9 月的外灘大會上,螞蟻集團與多家高校機構合作發起大模型倫理共建計劃,目前已與 8 所高校機構合作開展共建科技倫理知識體系。
螞蟻集團科技倫理顧問委員會的 6 位委員 —— 中國科學院院士、清華大學人工智能研究院名譽院長張鈸,中國信息化百人會執委徐愈,上海交通大學客座教授、國家新一代人工智能治理專業委員會委員李仁涵,中國社會科學院哲學所科技哲學研究室主任段偉文,浙江大學國際聯合商學院院長、金融科技研究院院長賁圣林,浙江大學人工智能研究所所長、浙江大學上海高等研究院常務副院長吳飛,以及清華大學五道口金融學院副院長張曉燕,清華大學人工智能國際治理研究院副院長梁正,華東政法大學數字法治研究院院長馬長山,同濟大學法學院副院長、上海市人工智能社會治理協同創新中心秘書長徐鋼,中國政法大學數據法治研究院教授、聯合國高級別人工智能咨詢機構專家組成員張凌寒等多位來自學界的特邀嘉賓共同參與研討。與會專家一致認為,大模型的出現正在對經濟社會發展產生積極影響,但也伴隨著很多挑戰和風險,其科技倫理建設至關重要、任務艱巨。
重視科技倫理建設已成為行業共識。據悉,除了螞蟻集團,阿里、百度、商湯科技等國內科技企業已成立了科技倫理治理委員會或者人工智能倫理治理委員會。
本文鏈接:http://www.tebozhan.com/showinfo-26-52098-0.html打造負責任的 AI,螞蟻集團大模型團隊投入近 20% 人力建設科技倫理
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com