天貓精靈Sound Pro體驗：智能音箱沒有音質(zhì)？來聽聽我的
這幾年除了手機作為智能生活終端最主要的核心之外，第二個可以成為中心點的產(chǎn)品是什么？——是智能音箱。 手機在執(zhí)行命令的時候有兩種操作方式，手和智能語音助手，而智能音箱只
剛剛，Anthropic CEO Dario Amodei 發(fā)表長文，展望 AGI 對世界的影響。他大膽預(yù)言：「強大的 AI」將在 26 年降臨，AI 將把一個世紀的科研進展壓縮到 5-10 年。
就在 2024 諾貝爾物理學(xué)獎和化學(xué)獎都頒給了 AI 之際，Anthropic CEO Dario Amodei 也發(fā)表一篇展望 AGI 對世界影響的長文。
這篇文章題為「Machines of Loving Grace」，副標題為「AI 能如何改變世界，創(chuàng)造更美好的未來？」。
他在里面提出：AI 將把一個世紀的科研進展壓縮到了 5-10 年。
作為 Anthropic 的 CEO，Dario Amodei 經(jīng)常會思考和討論強大 AI 的風險，并且研究如何降低這些風險。Amodei 表示，很多人會因此覺得自己是個悲觀主義者，但完全不是這么回事。
他之所以關(guān)注 AI 風險，是因為他認為，這是我們與光明未來之間的唯一障礙。
在他看來，大多數(shù)人低估了 AI 可能帶來巨大潛力，同時也低估了 AI 風險可能有多糟糕。
而在這篇長文中，Amodei 試圖描繪出積極前景的樣貌 —— 如果一切順利，擁有強大 AI 的世界會是什么樣。
他對此有足夠的自信：即使大多數(shù)細節(jié)最終是錯誤的，也能把握住未來發(fā)展的大方向。
為什么要著重討論風險Amodei 也強調(diào)，之所以要著重討論風險，是出于以下原因：
1. 最大化影響力
AI 技術(shù)的好處由強大的市場力量驅(qū)動，因此不可避免。而風險雖然并非注定發(fā)生，人類的行動卻可以極大改變它們出現(xiàn)的可能性。
2. 避免給人宣傳的印象
不要讓人覺得自己在做宣傳，或者轉(zhuǎn)移人們對 AI 缺點的注意力。
3. 避免自吹自擂
Amodei 對很多圈內(nèi)公眾人物討論 AGI 的方式感到反感，仿佛他們是引領(lǐng)眾生走向救贖的先知一樣。
「把公司看作是能夠單方面塑造世界的力量是很危險的，同樣，用類似宗教的方式來看待實際的技術(shù)目標也是相當危險的。」
4. 避免貼上科幻的標簽
有些激進群體會以過于「科幻」的腔調(diào)討論 AI，比如意識上傳、探索太空、賽博朋克。這種腔調(diào)不知不覺中帶來了一大堆文化偏見，以及一些無法明確的假設(shè)。
結(jié)果就是，這些討論常常看起來像是某個小眾群體的一廂情愿，反而讓大多數(shù)人望而卻步。
但 Amodei 也認為，討論一個擁有先進 AI 的美好世界是什么樣子，十分重要。
以下是他認為最具前景的五個類別：
1. 生命科學(xué)與生理健康
2. 神經(jīng)科學(xué)與心理健康
3. 經(jīng)濟與貧困
4. 和平與治理
5. 工作與意義
Amodei 在生物學(xué)和神經(jīng)科學(xué)兩個領(lǐng)域都有專業(yè)經(jīng)驗，對經(jīng)濟發(fā)展也有一定了解。通常，他的預(yù)測都是相當前衛(wèi)的。
Amodei 認為，如果能召集一群各領(lǐng)域?qū)＜覄?chuàng)作一個更全面、更有洞察力的版本，會很有價值。
而自己的嘗試，可以被視為一個起點。
基本假設(shè)與分析框架Amodei 界定了先進 AI 的含義：觸發(fā) 5-10 年發(fā)展期的技術(shù)閾值。
他不喜歡使用 AGI 這個術(shù)語，因此使用「強大的 AI」（powerful AI）這個說法。
Amodei 認為，強大的 AI 最早可能在 2026 年問世。
通用人工智能（AGI）是一個不夠精確的術(shù)語，它已經(jīng)積累了太多科幻元素和過度炒作。相比之下，我更喜歡用「強大的人工智能」或「專家級科學(xué)和工程」這樣的說法。
所謂「強大的 AI」是指一個 AI 模型在形式上可能類似于當今的大語言模型，盡管它可能基于不同的架構(gòu)，可能涉及多個交互模型，并可能采用不同的訓(xùn)練方法。
具體來說，它將具有以下特性 ——
- 就單純的智力水平而言，它在大多數(shù)相關(guān)領(lǐng)域 —— 如生物學(xué)、編程、數(shù)學(xué)、工程、寫作等方面都超越了諾貝爾獎級別的獲得者。這意味著它能夠證明尚未解決的數(shù)學(xué)定理，創(chuàng)作出極高水平的小說，從零開始編寫復(fù)雜的代碼庫。
- 具備了所有可供人類進行虛擬工作的交互方式，包括文本、音頻、視頻、鼠標和鍵盤控制以及互聯(lián)網(wǎng)訪問。它可以利用這些交互方式進行任何行動、通信或遠程操作。執(zhí)行時的技能，也都超越了世界上最頂尖的人類專家。
- 它不僅被動地回答問題，還可以接受需要數(shù)小時、數(shù)天甚至數(shù)周才能完成的任務(wù)，然后像一個聰明的員工一樣獨立完成任務(wù)，必要時會主動尋求澄清。
- 它沒有實體形態(tài)，但可以通過計算機控制現(xiàn)有的物理工具、機器人或?qū)嶒炇以O(shè)備；理論上，它甚至可以為自己設(shè)計、使用機器人或設(shè)備。
- 用于訓(xùn)練模型的計算資源可以重新配置，以運行數(shù)百萬個模型實例（這與預(yù)計到 2027 年左右的大規(guī)模計算集群能力相匹配）。該模型能以人類速度的 10 到 100 倍來吸收信息和生成行動。然而，它可能會受到所交互的物理世界或軟件響應(yīng)時間的限制。
- 這數(shù)百萬個副本中的每一個，都可以獨立地執(zhí)行不相關(guān)的任務(wù)，或者在需要時像人類團隊協(xié)作一樣工作。甚至可以對不同的分組進行微調(diào)，使其特別擅長某些特定任務(wù)。
我們可以將其概括為「數(shù)據(jù)中心里的天才國家」。
顯然，這樣一個實體能夠非常快速地解決極難的問題，但要確定具體有多快并非易事。
Amodei 認為，兩種「極端」立場都是錯誤的。
首先，你可能會認為世界會在幾秒或幾天內(nèi)瞬間改變（所謂「奇點」），因為強大的智能會不斷自我完善，幾乎立即解決所有可能的科學(xué)、工程和操作任務(wù)。
這種觀點的問題在于，存在真實的物理和實際限制，例如在構(gòu)建硬件或生物實驗上。智能可能非常強大，但它并不是神奇魔法。
其次，如果你認為技術(shù)進步已經(jīng)飽和，或者受到現(xiàn)實世界數(shù)據(jù)或社會因素的限制，超人類智能幾乎不會帶來任何改變，這也同樣不可信。
在數(shù)百個科學(xué)和社會問題上，一群真正聰明的人會大大加快進展（假設(shè)的天才國家就能做到）。
Amodei 看來，真相可能是這兩種極端情況的混合，因任務(wù)和領(lǐng)域而異，細節(jié)非常微妙。
他認為，就像經(jīng)濟學(xué)家經(jīng)常討論「生產(chǎn)要素」，在 AI 時代，我們也應(yīng)該討論智能的邊際回報，弄清與智能互補的其他因素，以及智能水平很高時，哪些因素會成為限制因素。
「在這項任務(wù)中，更聰明能帶來多大幫助，在什么時間尺度上？」這是概念化一個強大 AI 世界的正確方式。
Amodei 猜測，限制智能或與智能互補的因素包括：
- 外部世界的速度
智能體需要在世界中互動操作才能完成任務(wù)并學(xué)習(xí)。但世界的運轉(zhuǎn)速度是有限的。
細胞和動物以固定速度運行，因此對它們的實驗需要一定的時間，可能不可縮減的。硬件、材料科學(xué)、任何涉及與人交流的事物，甚至現(xiàn)有的軟件基礎(chǔ)設(shè)施也是如此。
此外，在科學(xué)領(lǐng)域，通常需要進行多次連續(xù)實驗，每次實驗都從前一次實驗中學(xué)習(xí)或在其基礎(chǔ)上進行。
所有這些意味著，完成一個重大項目 —— 例如開發(fā)癌癥治療方法 —— 的速度可能有一個不可縮減的最小值，即使智能繼續(xù)提高，這個最小值也無法進一步縮短。
- 對數(shù)據(jù)的需求
在缺乏原始數(shù)據(jù)的情況下，即使智能更高也無濟于事。當今的粒子物理學(xué)家非常聰明，已經(jīng)開發(fā)了一系列理論，但由于粒子加速器數(shù)據(jù)有限，他們?nèi)狈x擇這些理論的數(shù)據(jù)。
如果擁有強大的智能，他們是否會做得更好？（除了加快更大加速器的建造速度）
- 內(nèi)在復(fù)雜性
有些事物本質(zhì)上是不可預(yù)測或混沌的，即使是最強大的 AI，也無法比今天的人類或計算機更好地預(yù)測或理清它們。
例如，即使非常強大的 AI，在一般情況下也只能比今天的人類和計算機在混沌系統(tǒng)（如三體問題）中稍微多預(yù)測一點點。
- 來自人類的約束
許多事情如果不違法、不傷害人類或不擾亂社會就無法完成。一個對齊的 AI 不會想做這些事情。
許多人類社會結(jié)構(gòu)是低效甚至有害的，但如果要同時尊重臨床試驗的法律要求、人們改變習(xí)慣的意愿或政府行為等約束，就很難改變這些結(jié)構(gòu)。
核能、超音速飛行，甚至電梯，都在技術(shù)上運作良好，但影響被法規(guī)或錯誤的恐懼大大減弱。
- 物理定律
有些物理定律似乎是不可打破的。不可能以超光速旅行。布丁無法恢復(fù)到未攪拌狀態(tài)。
芯片每平方厘米只能容納這么多晶體管，否則就會不可靠。計算需要每擦除一位所需的最小能量，這限制了世界上計算的密度。
進一步的區(qū)別，是基于時間尺度。
短期內(nèi)的嚴格限制，在長期內(nèi)可能更容易被智能改變。
例如，智能可能被用來開發(fā)新的實驗范式，使我們能夠在體外獲得以前只能通過活體動物實驗獲得的知識，或者用來建造收集新數(shù)據(jù)所需的工具（例如更大的粒子加速器），或者（在倫理限度內(nèi)）找到突破人為限制的方法。
因此，我們可以設(shè)想這樣一個場景：智能最初受到其他生產(chǎn)要素的嚴重制約，但隨著時間的推移，智能本身越來越多地繞過這些要素，即使它們永遠不會完全消失。
關(guān)鍵問題是這一切發(fā)生的速度有多快，以及按什么順序發(fā)生。
生命科學(xué)與生理健康在科學(xué)進步的諸多領(lǐng)域中，生物學(xué)可能是最有潛力直接且明確改善人類生活質(zhì)量的領(lǐng)域。
在過去的一個世紀里，一些最古老的人類疾病（如天花）終被戰(zhàn)勝，但還有更多疾病仍然存在。
除了治愈疾病，生命科學(xué)原則上可以通過延長健康的人類壽命、增加對我們自身生物過程的控制和自由度。
并且，它能解決我們目前認為是人類生存條件不可改變的日常問題，來提升人類健康的基本水平。
直接將智能應(yīng)用于生物學(xué)的主要挑戰(zhàn)是 —— 數(shù)據(jù)、物理世界的速度和內(nèi)在復(fù)雜性（事實上，這三者都是相互關(guān)聯(lián)的）。
在涉及臨床試驗的后期階段，人類約束也在發(fā)揮作用。
接下來，讓我們逐一分析這些因素。
對細胞、動物甚至化學(xué)過程的實驗，均受到物理世界速度的限制：
許多生物學(xué)實驗方案涉及培養(yǎng)細菌或其他細胞，或者僅僅是等待化學(xué)反應(yīng)發(fā)生，這有時可能需要幾天甚至幾周的時間，而且沒有明顯的方法可以加快速度。
更別提動物實驗，可能需要幾個月（或更長時間），人類實驗通常需要幾年（對于長期結(jié)果研究甚至可能需要幾十年）。
與此相關(guān)的是，數(shù)據(jù)質(zhì)量往往存在問題：總是缺乏清晰、明確的數(shù)據(jù)。
這些數(shù)據(jù)能夠?qū)⒏信d趣的生物效應(yīng)，與其他成千上萬個干擾因素隔離開來，或者能在給定過程中進行因果干預(yù)，或者直接測量某些效應(yīng)（而不是以某種間接或不精確的方式推斷其后果）。
即使是大規(guī)模的、定量的分子數(shù)據(jù)，也存在噪聲并且遺漏了很多信息。
比如這些蛋白質(zhì)在哪些類型的細胞中？在細胞的哪個部分？在細胞周期的哪個階段？
造成這些數(shù)據(jù)問題的部分原因是，生物系統(tǒng)的內(nèi)在復(fù)雜性。
一張人類新陳代謝生物化學(xué)圖表中，若想分離出復(fù)雜系統(tǒng)的任何部分影響非常困難，更不用說以精確、可預(yù)測方式干預(yù)這一系統(tǒng)。
此外，除了在人體上進行實驗所需的固有時間外，實際的臨床試驗還涉及大量程序和監(jiān)管要求。
鑒于這些困難，許多生物學(xué)家長期以來一直對 AI 和更廣泛的「大數(shù)據(jù)」在生物學(xué)中的價值持懷疑態(tài)度。
從歷史上看，在過去 30 年里，將自己的技能應(yīng)用于生物學(xué)的數(shù)學(xué)家、計算機科學(xué)家和物理學(xué)家取得了巨大的成功，但并沒有產(chǎn)生最初期望的那種真正變革性的影響。
AlphaFold（背后創(chuàng)造者因此獲得諾貝爾獎）和 AlphaProteo 等，這樣的重大革命性突破，減弱了一些懷疑。
但仍存在一種看法，認為 AI 只在有限的情況下有用（并將繼續(xù)如此）。
一個常見的說法是，「AI 可以更好地分析你的數(shù)據(jù)，但它不能產(chǎn)生更多的數(shù)據(jù)或改善數(shù)據(jù)的質(zhì)量。Garbage in, garbage out」。
Amodei 認為，這種悲觀的觀點是以錯誤的方式看待 AI。
我們應(yīng)該將其視為一個 AI 生物學(xué)家，能夠執(zhí)行生物學(xué)家所做的所有任務(wù)。
包括現(xiàn)實世界中，設(shè)計和進行實驗，并發(fā)明新的生物學(xué)方法或測量技術(shù)等。
正是通過加速整個研究過程，AI 才能真正推動生物學(xué)的快速發(fā)展。
更確切地說，生物學(xué)進步很大一部分來自真正極少數(shù)的發(fā)現(xiàn)。
而這發(fā)現(xiàn)通常與廣泛的測量工具或技術(shù)有關(guān)，它們允許對生物系統(tǒng)進行精確但通用或可編程的干預(yù)。
每年可能大約有 1 項這樣的重大發(fā)現(xiàn)，但它們共同推動了生物學(xué)超過 50% 的進展。
這些發(fā)現(xiàn)之所以如此強大，正是因為它們突破了內(nèi)在復(fù)雜性和數(shù)據(jù)限制，直接增加了我們對生物過程的理解和控制能力。
每十年僅僅誕生幾個關(guān)鍵發(fā)現(xiàn)，就能推動了我們對生物學(xué)的基本科學(xué)理解，還推動了許多最強大的醫(yī)療治療方法的發(fā)展。
這里有一些例子：
- CRISPR：一種允許對生物中的任何基因進行實時編輯的技術(shù)（用任意其他序列替換任意基因序列）。
- 各種用于精確觀察正在發(fā)生的事情的顯微鏡技術(shù)：先進的光學(xué)顯微鏡（包括各種熒光技術(shù)、特殊光學(xué)等）、電子顯微鏡、原子力顯微鏡等。
- 基因組測序和合成，在過去幾十年里。成本已經(jīng)下降了幾個數(shù)量級。
- 光遺傳學(xué)，允許通過照射光線激發(fā)神經(jīng)元。
- mRNA 疫苗，原則上允許我們設(shè)計針對任何東西的疫苗，然后快速適應(yīng)。
- 細胞療法，如 CAR-T，允許將免疫細胞從體內(nèi)取出并「重新編程」，以攻擊任何東西。
- 理論突破，如疾病的病原體理論或認識到免疫系統(tǒng)與癌癥之間的聯(lián)系。
以上列舉的這些所有技術(shù)，是因為他想提出一個關(guān)鍵的主張 ——
如果有更多有才華、創(chuàng)造力的研究人員，這些技術(shù)的發(fā)現(xiàn)速度可能會提高 10 倍或更多。
為什么 Amodei 這么認為？
因為當我們試圖確定「智力回報」時，應(yīng)該養(yǎng)成提出某些問題的習(xí)慣，而這些問題的答案就是原因。
首先，這些發(fā)現(xiàn)通常是由極少數(shù)研究人員做出的，往往是同一批人反復(fù)做出，這表明是技能而非隨機搜索（后者可能表明冗長的實驗是限制因素）。
其次，它們往往「本可以」比實際早幾年被發(fā)現(xiàn)：例如，CRISPR 是細菌免疫系統(tǒng)中自然存在的一個組成部分，自 80 年代就已為人所知，但人們花了 25 年才意識到它可以被重新用于一般的基因編輯。
第三，成功的項目往往是小規(guī)模的，或最初人們認為不太有前途的后續(xù)想法，而不是大規(guī)模資金支持的努力。這表明推動發(fā)現(xiàn)的不僅僅是大規(guī)模的資源集中，而是創(chuàng)新能力。
最后，盡管這些發(fā)現(xiàn)中有一些具有「順序依賴性」，這再次可能造成實驗延遲。不過，許多也許是大多數(shù)，都是獨立的，意味著可以同時并行進行多項工作。
這些事實都在表明，如果科學(xué)家更聰明，更善于在人類擁有的大量生物學(xué)知識之間建立聯(lián)系，就有數(shù)百個這樣的發(fā)現(xiàn)等待被做出。
AlphaFold / AlphaProteo 在解決重要問題方面比人類更有效取得成功。
盡管經(jīng)過了數(shù)十年精心設(shè)計的物理建模，為我們提供了一個概念驗證（盡管是在狹窄領(lǐng)域使用一個狹窄工具），應(yīng)該為我們指明前進的方向。
因此，Amodei 猜測強大的 AI 至少可以將這些發(fā)現(xiàn)的速度提高 10 倍，讓我們在 5-10 年內(nèi)獲得未來 50-100 年的生物學(xué)進展。
為什么不是 100 倍？
也許這是可能的，但在這里，順序依賴性和實驗時間都變得重要。
另一種說法是，Amodei 認為存在一個不可避免的恒定延遲：實驗和硬件設(shè)計有一定的「延遲」，需要進行最少次數(shù)的迭代，以學(xué)習(xí)那些無法通過邏輯推導(dǎo)出的東西。
但在此基礎(chǔ)上，可能實現(xiàn)大規(guī)模并行。
從更積極的角度來看，AI 加持的生物科學(xué)可能會通過開發(fā)更好的細胞實驗?zāi)Ｐ停ㄉ踔潦悄M），減少臨床試驗中迭代的需求。
這在開發(fā)抗衰老過程的藥物方面尤其重要，因為衰老過程持續(xù)數(shù)十年，我們需要更快的迭代循環(huán)。
綜上所述，Amodei 的基本預(yù)測是，AI 生物學(xué)和醫(yī)學(xué)將使人類生物學(xué)家在未來 50-100 年內(nèi)可能取得的進展，壓縮到 5-10 年內(nèi)完成。
Amodei 將這稱為「壓縮的 21 世紀」。
盡管預(yù)測強大的 AI 在幾年內(nèi)能做什么，本質(zhì)上仍然困難且具有推測性，但思考「人類在未來 100 年內(nèi)獨立能做什么？」，這個問題卻有一定的現(xiàn)實基礎(chǔ)。
以下列出了我們可能期待的內(nèi)容：
（這并非基于任何嚴格的方法論，幾乎肯定會在細節(jié)上被證明是錯誤的，但它試圖傳達我們應(yīng)該期待的總體變革程度）
可靠地預(yù)防和治療幾乎所有自然傳染病
消除大多數(shù)癌癥
對遺傳疾病有效預(yù)防和治療
預(yù)防阿爾茲海默癥
改善對大多數(shù)疾病治療
「生物自由」
人類壽命翻倍
一旦人類壽命達到 150 歲，我們可能就能達到「逃逸速度」（指延長壽命的速度超過衰老的速度），為目前活著的大多數(shù)人爭取足夠的時間，使他們能夠想活多久就活多久，盡管當然不能保證這在生物學(xué)上是可能的。
如果所有這些在 7-12 年內(nèi)實現(xiàn)（這將符合激進的人工智能發(fā)展進程），世界將會有多么不同。
毫無疑問，這將是人類的一次巨大勝利，一次性消除了困擾人類數(shù)千年的大多數(shù)災(zāi)難。
神經(jīng)科學(xué)與心理健康上一節(jié)主要關(guān)注的是身體疾病和生物學(xué)，沒有涉及神經(jīng)科學(xué)或心理健康。
但是，神經(jīng)科學(xué)是生物學(xué)的一個分支學(xué)科，心理健康與身體健康同樣重要。事實上，心理健康對人類福祉的影響甚至比身體健康更直接。
數(shù)億人由于成癮、抑郁、精神分裂癥、低功能自閉癥、創(chuàng)傷后應(yīng)激障礙、精神病態(tài)或智力障礙等問題而生活質(zhì)量極低；更多的數(shù)十億人正在與更輕微的日常問題作斗爭。
與一般的生物學(xué)領(lǐng)域一樣，在 AI 的發(fā)展下，我們可能不僅能解決問題，還能提高人類生活體驗的基本水平。
Amodei 在以上為生物學(xué)制定的基本框架同樣適用于神經(jīng)科學(xué)，也就是說，這個領(lǐng)域同樣是被少數(shù)的與測量或精準干預(yù)工具有關(guān)的發(fā)現(xiàn)而推動的，比如最近的光遺傳學(xué)、CLARITY、膨脹顯微鏡等等。
此外，許多通用的細胞生物學(xué)方法也可以直接應(yīng)用于神經(jīng)科學(xué)，這些進展的速度同樣會被人工智能加速。
出于同樣的原因，「未來 5-10 年內(nèi)完成 100 年的進展」，也同樣適用于神經(jīng)科學(xué)。
與生物學(xué)一樣，20 世紀以來，神經(jīng)科學(xué)的進展也是飛快且巨大的。
例如，已經(jīng)實現(xiàn)腦機接口的我們，事實上直到 20 世紀 50 年代才真正理解神經(jīng)元如何以及為什么會放電。
因此，我們有理由期待，人工智能加速的神經(jīng)科學(xué)將在幾年內(nèi)產(chǎn)生快速進展。
我們應(yīng)該在這個基本圖景中添加一點，那就是過去幾年中學(xué)到的，或正在學(xué)習(xí)到的，一些關(guān)于人工智能本身的知識，可能會幫助推進神經(jīng)科學(xué)，即使神經(jīng)科學(xué)研究仍然只由人類來進行。
首先，「可解釋性」是一個明顯的例子。
盡管表面上，生物神經(jīng)元和人工神經(jīng)元以完全不同的方式運作，但「簡單單元組成的的分布式、訓(xùn)練過的網(wǎng)絡(luò)如何協(xié)同工作以執(zhí)行重要計算」，這個基本問題是相同的。
舉例來說，AI 系統(tǒng)可解釋性研究人員發(fā)現(xiàn)的一種計算機制，最近在小鼠大腦中被重新發(fā)現(xiàn)。
相比真實神經(jīng)網(wǎng)絡(luò)，對人工神經(jīng)網(wǎng)絡(luò)進行實驗要容易得多，因此 AI 可解釋性很可能成為提高我們對神經(jīng)科學(xué)理解的工具。
此外，強大的人工智能本身可能比人類更能開發(fā)和應(yīng)用這個工具。
除了可解釋性之外，我們從 AI 那里學(xué)到的關(guān)于智能系統(tǒng)如何訓(xùn)練的知識，很可能在神經(jīng)科學(xué)領(lǐng)域引發(fā)一場革命。
Amodei 本人在從事神經(jīng)科學(xué)研究時發(fā)現(xiàn)，曾經(jīng)很多人關(guān)注的關(guān)于「學(xué)習(xí)」的問題，現(xiàn)在看來是錯誤的，因為那時還沒有「擴展假說」（scaling hypothesis），或 Rich Sutton 提出的「the bitter lesson」這樣的概念。
大量數(shù)據(jù)加上簡單的目標函數(shù)就可以驅(qū)動極其復(fù)雜行為，這個想法使得理解目標函數(shù)和架構(gòu)偏差（architectural biases）變得更有意思，同時也讓「涌現(xiàn)」過程的復(fù)雜計算細節(jié)（emergent computation）變得不那么有趣。
Amodei 表示，近年來自己并沒有密切關(guān)注這個領(lǐng)域，但能隱約感覺到，計算神經(jīng)科學(xué)家們?nèi)匀粵]有完全吸收這個教訓(xùn)。
他自己對擴展假說的態(tài)度一直：「啊哈，原來如此 —— 這在高層次上解釋了智能是如何運作的，以及為什么能如此容易地進化。」
然而，這似乎并不是大多數(shù)神經(jīng)科學(xué)家的觀點。部分原因是擴展假說作為「智能的秘密」，甚至在 AI 領(lǐng)域內(nèi)也沒有被完全接受。
神經(jīng)科學(xué)家應(yīng)該嘗試將這一基本洞見與人腦的特點（生物物理限制、進化歷史、拓撲結(jié)構(gòu)、運動和感覺輸入 / 輸出的細節(jié)）結(jié)合起來，以試圖解決神經(jīng)科學(xué)的一些關(guān)鍵難題。
有些人可能正在這樣做，但還不夠；除了人類科學(xué)家，AI 也將更有效地利用這個視角來加速進展。
AI 的四條加速路徑Amodei 預(yù)計，AI 將通過四條不同的路徑加速神經(jīng)科學(xué)進展，希望這些路徑能夠共同作用，以治愈精神疾病并改善大腦功能：
- 傳統(tǒng)的分子生物學(xué)、化學(xué)和遺傳學(xué)
AI 可能通過相同的機制加速這一進程。有許多藥物可以調(diào)節(jié)神經(jīng)遞質(zhì)，以改變大腦功能、影響警覺性或感知、改變情緒等，而 AI 可以幫助我們發(fā)明更多這樣的藥物。AI 可能還會加速對精神疾病遺傳基礎(chǔ)的研究。
- 精細神經(jīng)測量和干預(yù)
這是能夠測量大量單個神經(jīng)元或神經(jīng)元回路的活動，并進行干預(yù)以改變它們行為的能力。光遺傳學(xué)和神經(jīng)探針是能夠在活體生物中進行測量和干預(yù)的技術(shù)，一些非常先進的方法（如分子計時器）也已被提出，并且在原則上似乎可行。
- 先進的計算神經(jīng)科學(xué)
如上所述，現(xiàn)代 AI 的具體見解和整體思路都可能應(yīng)用于系統(tǒng)神經(jīng)科學(xué)的問題，包括揭示精神病或情緒障礙等復(fù)雜精神疾病的真正原因。
- 行為干預(yù)
精神病學(xué)和心理學(xué)在 20 世紀已經(jīng)發(fā)展出了廣泛的行為干預(yù)技術(shù)；可以推斷，AI 也可以加速這些技術(shù)的發(fā)展，包括開發(fā)新方法和幫助患者堅持現(xiàn)有方法。
更廣泛地說，「AI 教練」的概念似乎非常有前景，它可以幫助你成為最好的自己，研究你的互動，幫助你學(xué)會更有效地行事。
AI + 神經(jīng)科學(xué)的「烏托邦」未來Amodei 認為，這四條進展路徑會共同作用。即使沒有 AI 的參與，也有望在未來 100 年內(nèi)實現(xiàn)大多數(shù)精神疾病的治愈或預(yù)防 —— 因此，在 AI 加速的 5-10 年內(nèi)可能會完成。
具體來說，他猜測可能會發(fā)生以下情況：
- 大多數(shù)精神疾病可能可以被治愈
像 PTSD、抑郁癥、精神分裂癥、成癮等疾病可以通過上述四個方向的某種組合得到解釋和有效治療。
答案可能是「生化上出了問題」和「神經(jīng)網(wǎng)絡(luò)在高層次上出了問題」的某種組合。
也就是說，這是一個系統(tǒng)神經(jīng)科學(xué)的問題。測量和干預(yù)的工具，尤其是在活體人類中使用的工具，似乎可能導(dǎo)致快速迭代和進展。
- 非常「結(jié)構(gòu)性」的情況可能更難處理，但并非不可能
一些證據(jù)表明，反社會人格障礙與明顯的神經(jīng)解剖學(xué)差異有關(guān) —— 該類患者的某些腦區(qū)域可能只是更小或發(fā)育不良。某些智力障礙可能也是如此。
重構(gòu)大腦聽起來很困難，但這似乎也是一項對智力回報很高的任務(wù)。也許有某種方法可以誘導(dǎo)成年大腦回到早期或更具可塑性的狀態(tài)，從而重塑它。
Amodei 的直覺是，對 AI 對此的作用持樂觀態(tài)度。
- 有效地通過基因預(yù)防精神疾病似乎是可能的
大多數(shù)精神疾病部分是可遺傳的，全基因組關(guān)聯(lián)研究（GWAS）開始在識別相關(guān)因素方面取得進展，這些因素通常數(shù)量眾多。
可能可以通過胚胎篩選預(yù)防大多數(shù)這些疾病。一個區(qū)別是，精神疾病更可能是多基因的。
無論如何，AI 加速的神經(jīng)科學(xué)或許會幫我們弄清這些事情。
當然，對復(fù)雜特征進行胚胎篩選會引發(fā)一些社會問題，并且會有爭議，但 Amodei 猜測大多數(shù)人會支持對嚴重或致殘的精神疾病進行篩選。
-不被認為是臨床疾病的日常問題也能解決
大多數(shù)人都有一些日常心理問題，達不到臨床疾病的程度。有些人容易發(fā)怒，有些人難以集中注意力或經(jīng)常昏昏欲睡，有些人膽小或焦慮，或適應(yīng)不了變化反應(yīng)。
已經(jīng)存在一些藥物可以幫助提高警覺性或注意力，但還有可能性。可能還存在許多藥物尚未被發(fā)現(xiàn)，或者可能有創(chuàng)新的干預(yù)方式，如靶向光刺激或磁場。
考慮到人類在 20 世紀開發(fā)了多少調(diào)節(jié)認知功能和情緒狀態(tài)的藥物，Amodei 對「壓縮的 21 世紀」非常樂觀，屆時每個人都可以讓自己的大腦表現(xiàn)更好，擁有更充實的日常體驗。
- 人類的日常體驗可以變得更加豐富多彩
許多人都曾有過頓悟、靈感迸發(fā)、充滿同情、獲得成就感、超越自我、感受愛與美，或是達到冥想般平靜的非凡經(jīng)歷。
這些體驗的性質(zhì)和頻率在不同人之間以及同一個人在不同時間有很大差異，有時也可以通過各種藥物觸發(fā)。
這就表明，可能體驗的空間是非常廣闊的，人們生活中可以有更大比例由這些非凡時刻組成。可能還可以全面提高各種認知功能。
這也許是神經(jīng)科學(xué)版本的「生物自由」或「延長壽命」。
在科幻小說描述 AI 時，經(jīng)常出現(xiàn)一個討論的話題 ——「意識上傳」。
這個概念指的是捕捉人腦的模式和動態(tài)，并將其實例化為軟件。Amodei 認為上傳在理論上幾乎肯定是可能的。
但在實踐中，即使有強大的 AI，它也面臨著重大的技術(shù)和社會挑戰(zhàn)，這可能使它超出了所討論的 5-10 年的時間范圍。
總的來說，AI 加速的神經(jīng)科學(xué)很可能會大大改善大多數(shù)精神疾病的治療，甚至治愈疾病，并顯著擴展「認知和心理自由」以及人類的認知和情感能力。
這種進步將與前一節(jié)描述的一樣具有顛覆性。
總結(jié)通過上述各種主題，Amodei 試圖描繪出一個既有可能在 AI 一切順利的情況下實現(xiàn)，又比當今世界更美好的愿景。
Amodei 不知道這個世界是否現(xiàn)實，即使是現(xiàn)實的，也離不開許多勇敢和專注的人付出巨大努力和奮斗。
每個人（包括 AI 公司）都需要盡自己的一份力量，既要防范風險，又要充分實現(xiàn)利益。
但這又是一個值得為之奮斗的世界。
如果這一切真的在 5-10 年內(nèi)發(fā)生 —— 大多數(shù)疾病被擊敗，生物和認知自由的增長，每個看到這一切的人都會為之感到驚訝。
從某種意義上說，這里描繪的愿景是極其激進的：
這不是幾乎任何人都期望在未來十年發(fā)生的事，很可能會被許多人視為荒謬的幻想。
甚至，有些人可能不認為這是可取的；
但同時，它又有一種顯而易見的特質(zhì) —— 仿佛是注定的 —— 好像許多不同的嘗試去設(shè)想一個美好的世界必然會大致引向這里。
盡管如此，這仍是一件具有超凡的美的事物。我們有機會在使其成為現(xiàn)實的過程中扮演一個小角色。
參考資料：
https://darioamodei.com/machines-of-loving-grace
本文鏈接：http://www.tebozhan.com/showinfo-26-124141-0.htmlAnthropic CEO 萬字長文預(yù)言：預(yù)測“強大 AI”2026 年降臨，智力可擊敗諾獎得主
聲明：本網(wǎng)頁內(nèi)容旨在傳播知識，若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權(quán)所有 sitemap.xml
違法及侵權(quán)請聯(lián)系：2376512515@qq.com 津ICP備18001702號
津公網(wǎng)安備 12010102000574號