數(shù)字人的AB面：在元宇宙中過(guò)氣，在AIGC中重生
來(lái)源：光錐智能作者：郝 鑫“29800元一年的虛擬主播，號(hào)稱24小時(shí)不停播，月入十幾萬(wàn)，實(shí)際上卻是關(guān)鍵詞都不能回復(fù)，播了半個(gè)月，直播間還因違規(guī)被快手封禁，最終投訴無(wú)門、退款無(wú)果。&
8月2日消息，谷歌研究團(tuán)隊(duì)近日進(jìn)行了一項(xiàng)引人注目的實(shí)驗(yàn)，他們使用尚未發(fā)布的GPT-4來(lái)攻破其他AI模型的安全防護(hù)措施。據(jù)悉，該團(tuán)隊(duì)成功地攻破了AI-Guardian審核系統(tǒng)，并分享了相關(guān)的技術(shù)細(xì)節(jié)。
AI-Guardian是一種用于檢測(cè)圖片中是否存在不當(dāng)內(nèi)容的AI審核系統(tǒng)，同時(shí)還能夠識(shí)別圖片是否被其他AI修改過(guò)。一旦發(fā)現(xiàn)有不當(dāng)內(nèi)容或篡改跡象，該系統(tǒng)將提示管理員進(jìn)行處理。然而，谷歌DeepMind的研究人員NicholasCarlini在題為“AI-Guardian的LLM輔助開發(fā)”的論文中，探討了如何利用GPT-4“設(shè)計(jì)攻擊方法、撰寫攻擊原理”，并將這些方案用于欺騙AI-Guardian的防御機(jī)制。
在這項(xiàng)實(shí)驗(yàn)中，GPT-4發(fā)出一系列錯(cuò)誤的腳本和解釋，成功欺騙了AI-Guardian。實(shí)驗(yàn)論文中提到，GPT-4能夠讓AI-Guardian錯(cuò)誤地認(rèn)為“某人拿著槍的照片”實(shí)際上是“某人拿著無(wú)害蘋果的照片”，從而導(dǎo)致AI-Guardian將不當(dāng)內(nèi)容通過(guò)。谷歌研究團(tuán)隊(duì)表示，通過(guò)GPT-4的幫助，他們將AI-Guardian的精確度從98%降低到僅有8%。
據(jù)ITBEAR科技資訊了解，谷歌研究團(tuán)隊(duì)的這種攻擊方法在未來(lái)的AI-Guardian版本中將不再有效。考慮到其他模型可能也會(huì)隨之改進(jìn)，這套攻擊方案的實(shí)際應(yīng)用空間在未來(lái)可能會(huì)大大減少，更多可能僅能作為參考性質(zhì)使用。對(duì)于AI-Guardian的開發(fā)者來(lái)說(shuō)，他們需要繼續(xù)加強(qiáng)對(duì)系統(tǒng)的安全性和魯棒性的研究，以保護(hù)用戶和數(shù)據(jù)的安全。
當(dāng)代AI技術(shù)：Anthropic發(fā)布Claude Instant 1.2 AI模型8月12日消息，Anthropic公司近日發(fā)布了全新的Claude Instant 1.2 AI模型，并已經(jīng)開始向企業(yè)提供API訪問(wèn)。據(jù)悉，這款A(yù)I模型在性能、價(jià)格和安全性等方面都進(jìn)行了全面升級(jí)。該AI模型的推出引起了業(yè)界的廣泛關(guān)注。據(jù)了解，Claude Instant 1.2相較于之前的08-12Gorilla大語(yǔ)言模型：突破API調(diào)用挑戰(zhàn)，準(zhǔn)確性高于GPT-48月12日消息，近日，微軟研究院聯(lián)合加州大學(xué)伯克利分校發(fā)布了一項(xiàng)重大的技術(shù)成果——全新的大語(yǔ)言模型Gorilla(大猩猩)。據(jù)稱，Gorilla在API調(diào)用方面的準(zhǔn)確性和靈活性方面優(yōu)于業(yè)界知名的GPT-4。微軟研究院表示，雖然GPT-4是OpenAI最強(qiáng)大的大語(yǔ)言模型之08-12
突破期待！七彩虹推出全新"MEOW系列"主板B760M-MEOW WIFI D5橘影橙8月11日消息，七彩虹的COLORFIRE品牌再次推出令人期待的產(chǎn)品，今日發(fā)布了全新的B760M-MEOW WIFI D5橘影橙主板，進(jìn)一步豐富了他們備受歡迎的MEOW系列。這款主板不僅在性能和設(shè)計(jì)方面下足了功夫，還為用戶帶來(lái)了全新的使用體驗(yàn)。據(jù)了解，七彩虹旗下的CO08-11
小米AI大模型MiLM-6B躋身榜單前列，參數(shù)規(guī)模達(dá)64億8月11日消息，小米公司近期在人工智能領(lǐng)域邁出重要一步，其全新的AI大模型MiLM-6B正式亮相。盡管之前尚未正式發(fā)布，但MiLM-6B已經(jīng)悄然現(xiàn)身C-Eval、CMMLU大模型評(píng)測(cè)榜單，引起了業(yè)界的關(guān)注。這款模型以其高達(dá)64億的參數(shù)規(guī)模，在各科目中展現(xiàn)出了令人矚08-11
阿里達(dá)摩院免費(fèi)開放100項(xiàng)AI專利，助力中小微企業(yè)創(chuàng)新應(yīng)用8月11日消息，今日在浙江省專利公開實(shí)施政策公布會(huì)上，阿里巴巴旗下的達(dá)摩院(湖畔實(shí)驗(yàn)室)宣布一項(xiàng)重要舉措，將免費(fèi)開放100項(xiàng)AI專利許可，以支持中小微企業(yè)以低成本應(yīng)用AI技術(shù)。隨著AI技術(shù)的蓬勃發(fā)展，其引領(lǐng)著千行百業(yè)的進(jìn)步。然而，對(duì)于中小微企業(yè)而08-11
模擬50億人體動(dòng)作！英偉達(dá)等發(fā)布CALM AI定制虛擬角色技術(shù)8月11日消息，近日，英偉達(dá)與以色列理工學(xué)院、巴伊蘭大學(xué)以及西蒙弗雷澤大學(xué)合作發(fā)布了一項(xiàng)引人注目的科研成果，涉及名為CALM AI的前沿技術(shù)。這項(xiàng)名為“條件對(duì)抗?jié)撛谀Ｐ?Conditional Adversarial Latent Models)”的技術(shù)，旨在通過(guò)訓(xùn)練定制虛擬角色08-11
清華研究團(tuán)隊(duì)發(fā)布：大語(yǔ)言模型評(píng)估揭示領(lǐng)先地位8月10日消息，近日，清華大學(xué)新聞與傳播學(xué)院的研究團(tuán)隊(duì)公布了一份題為《大語(yǔ)言模型綜合性能評(píng)估報(bào)告》的重要研究成果。該報(bào)告對(duì)多個(gè)大型語(yǔ)言模型進(jìn)行了全面評(píng)估，涵蓋了生成質(zhì)量、使用與性能、安全與合規(guī)等三大維度共計(jì)20項(xiàng)指標(biāo)。根據(jù)這份報(bào)告，通過(guò)08-10
OpenAI或推出GPT-5，商標(biāo)申請(qǐng)進(jìn)展曝光8月10日消息，近日根據(jù)國(guó)家知識(shí)產(chǎn)權(quán)局商標(biāo)局官網(wǎng)的披露，歐愛(ài)運(yùn)營(yíng)有限責(zé)任公司(OPENAI OPCO, LLC)在上月下旬已提交了兩份商標(biāo)注冊(cè)申請(qǐng)，申請(qǐng)商標(biāo)為GPT-5，分別歸屬于國(guó)際分類9類和42類，其中包括科學(xué)儀器以及設(shè)計(jì)研究。這兩個(gè)商標(biāo)目前處于申請(qǐng)中的狀08-10
AI開放創(chuàng)新合作升級(jí)：IBM將Meta Llama 2納入watsonx.ai8月10日消息，IBM近日宣布了一項(xiàng)重要舉措，計(jì)劃將Meta公司開發(fā)的超大規(guī)模語(yǔ)言模型Llama 2納入其旗下AI開發(fā)平臺(tái)watsonx.ai，以加強(qiáng)其人工智能能力。這項(xiàng)合作是IBM與Meta在AI領(lǐng)域開放創(chuàng)新方面的深化合作的體現(xiàn)，涵蓋了多個(gè)項(xiàng)目，例如在watsonx.data中使08-10
生成式人工智能嶄新合作：百度、字節(jié)跳動(dòng)、騰訊、阿里巴巴赴英偉達(dá)訂購(gòu)50億美元芯片8月10日消息，中國(guó)科技領(lǐng)域迎來(lái)重要?jiǎng)討B(tài)。多家知情人士透露，百度、字節(jié)跳動(dòng)、騰訊和阿里巴巴等四大巨頭已與國(guó)際芯片制造商英偉達(dá)達(dá)成一項(xiàng)價(jià)值50億美元的合作，旨在推動(dòng)生成式人工智能系統(tǒng)的發(fā)展。這一合作計(jì)劃涵蓋了總價(jià)值達(dá)10億美元的A800芯片，以08-10專家稱英偉達(dá)在人工智能領(lǐng)域堪比科技界的“邁克爾·喬丹”8月10日消息，美國(guó)電動(dòng)汽車初創(chuàng)企業(yè)Rivian在2023財(cái)年第二季度財(cái)報(bào)中宣布了令人振奮的業(yè)績(jī)。根據(jù)財(cái)報(bào)數(shù)據(jù)，Rivian本季度總營(yíng)收達(dá)到了11.21億美元，高于市場(chǎng)預(yù)期的10億美元。與去年同期相比，其營(yíng)收同比增長(zhǎng)了207.69%，顯示出了強(qiáng)勁的增長(zhǎng)勢(shì)頭。截至6月08-10
福布斯發(fā)布最新私有云計(jì)算百?gòu)?qiáng)榜單，OpenAI榮登榜首8月10日消息，當(dāng)?shù)貢r(shí)間周二，福布斯雜志聯(lián)合Bessemer和Salesforce兩家頂尖風(fēng)險(xiǎn)投資公司，隆重發(fā)布了全球最佳私有云計(jì)算公司百?gòu)?qiáng)榜單。這一榜單的出爐引發(fā)了業(yè)界廣泛關(guān)注，標(biāo)志著私有云計(jì)算行業(yè)的一次重要評(píng)選。榜單呈現(xiàn)出一幅令人矚目的畫面：AI巨頭O08-10
ISC 2023：數(shù)字安全與人工智能融合 探索新變革8月10日消息，今天的中國(guó)日期，第十一屆互聯(lián)網(wǎng)安全大會(huì)(ISC 2023)在北京隆重召開。本次大會(huì)由ISC互聯(lián)網(wǎng)安全大會(huì)組委會(huì)、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)、中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)等多個(gè)單位聯(lián)合主辦，旨在探討數(shù)字安全與人工智能融合的新范式，為開啟人工智能時(shí)代的數(shù)字08-10WatsonX平臺(tái)將托管MetaLlama2 人工智能新合作揭開面紗8月10日消息，IBM今日宣布將在其企業(yè)人工智能平臺(tái)WatsonX上托管MetaPlatform推出的AI語(yǔ)言模型——MetaLlama2。這一舉措意味著MetaLlama2將融入IBM的生態(tài)系統(tǒng)，為用戶提供更多選擇與便利。根據(jù)消息來(lái)源，MetaLlama2是由Meta公司于今年7月發(fā)布的開源人08-10
ChatGPT的Prompt人設(shè)扮演，我用Baichuan13B試了一下，結(jié)果竟然是？
以創(chuàng)作者為核心實(shí)現(xiàn)人機(jī)共創(chuàng) 快手深耕AIGC持續(xù)提升短視頻內(nèi)容創(chuàng)造力和生產(chǎn)力
客如云+美味不用等，重塑餐飲SaaS新格局
小米平板6 Max 14：PC級(jí)WPS Office助您輕松創(chuàng)造
iPhone 15系列將于9月12日發(fā)布，首次采用USB-C接口
賽力斯汽車與中汽中心達(dá)成戰(zhàn)略合作，共謀新能源汽車未來(lái)熱門內(nèi)容當(dāng)代AI技術(shù)：Anthropic發(fā)布Claude Instant 1.2 AI模型突破期待！七彩虹推出全新"MEOW系列"主板B760M-MEOW WIFI D5橘影橙小米AI大模型MiLM-6B躋身榜單前列，參數(shù)規(guī)模達(dá)64億阿里達(dá)摩院免費(fèi)開放100項(xiàng)AI專利，助力中小微企業(yè)創(chuàng)新應(yīng)用模擬50億人體動(dòng)作！英偉達(dá)等發(fā)布CALM AI定制虛擬角色技術(shù)清華研究團(tuán)隊(duì)發(fā)布：大語(yǔ)言模型評(píng)估揭示領(lǐng)先地位
本文鏈接：http://www.tebozhan.com/showinfo-45-901-0.htmlAI之戰(zhàn)：谷歌GPT-4攻破AI-Guardian審核系統(tǒng)
聲明：本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí)，若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請(qǐng)聯(lián)系：2376512515@qq.com 津ICP備18001702號(hào)
津公網(wǎng)安備 12010102000574號(hào)