正在閱讀:

馬斯克的“核彈式訴訟”,對(duì)準(zhǔn)了AGI的另一面

掃一掃下載界面新聞APP

馬斯克的“核彈式訴訟”,對(duì)準(zhǔn)了AGI的另一面

馬斯克與OpenAI的訴與駁。

圖片來(lái)源:界面新聞 匡達(dá)

文|經(jīng)緯創(chuàng)投

人類距離擁有一個(gè)有自我意識(shí)的AI工具還遠(yuǎn)嗎?

不久前,Anthropic剛發(fā)布了新一代大模型系列 Claude 3,緊接著Anthropic的提示工程師 Alex Albert 在社交平臺(tái)X爆料 ,在內(nèi)部測(cè)試中,Claude 3 Opus表現(xiàn)出了一種「元認(rèn)知」或自我意識(shí)的情況——Claude表現(xiàn)出完全意識(shí)到自己可能正在接受測(cè)試,能夠“假裝友好”以通過(guò)測(cè)試,并且這是靠它自己推斷出來(lái)的。

機(jī)器學(xué)習(xí)專家普遍認(rèn)為當(dāng)前的大模型不具有人類一樣的自我意識(shí)。英偉達(dá)高級(jí)科學(xué)家Jim Fan分析:“看似自我意識(shí)的展示只是人類創(chuàng)作的模式匹配對(duì)齊數(shù)據(jù)。去問(wèn)GPT-4「你有自我意識(shí)嗎」,它給出的答案大概也不會(huì)有太大區(qū)別?!?/p>

AI科學(xué)家、圖靈獎(jiǎng)獲得者楊力昆(Yann LeCun)更為直接地回答:這種可能性為0。

雖然業(yè)內(nèi)學(xué)者從理性分析的角度來(lái)看,均給出了否定答案。但AI圈卻形成了一個(gè)輿論共識(shí):AGI好像離人類越來(lái)越近。

或許出于對(duì)未來(lái)的焦慮,馬斯克正式起訴OpenAI及其首席執(zhí)行官Sam Altman 等人,稱其為了利潤(rùn)而非“人類的利益”開(kāi)發(fā)人工智能,要求其恢復(fù)開(kāi)源狀態(tài)。馬斯克認(rèn)為,GPT-4是一個(gè)AGI算法,所以O(shè)penAI已經(jīng)實(shí)現(xiàn)了AGI。訴狀曾這樣寫道:「像馬斯克這樣的人認(rèn)為 AGI 存在生存威脅,而另一些人則將 AGI 視為利潤(rùn)和權(quán)力的來(lái)源?!?/p>

最新消息,OpenAI高管聯(lián)名發(fā)布博客回?fù)簦厚R斯克曾提議并入特斯拉,認(rèn)為OpenAI注定失敗,但并未正面回應(yīng)GPT-4是否為AGI的相關(guān)內(nèi)容。隨即,馬斯克回復(fù)稱:“把名字換了。換成ClosedAI,我將放棄訴訟。”

從Claude 3到馬斯克與OpenAI訴訟,都圍繞著一個(gè)核心:AGI。難道,只存在于科幻作品中的AGI真的近在咫尺?為何準(zhǔn)確定義AGI難度這么大?當(dāng)人類進(jìn)入AGI時(shí)代,世界究竟會(huì)發(fā)生怎樣的變化?以下,Enjoy:

01 馬斯克與OpenAI的訴與駁

故事起因是,馬斯克一紙?jiān)V訟告了OpenAI及現(xiàn)有高管團(tuán)隊(duì)。

據(jù) Courthouse News 報(bào)道,近日,馬斯克向舊金山高等法院提起訴訟,指控 OpenAI 背離了公司最初對(duì)于公共開(kāi)源人工通用智能(AGI)的承諾。

訴狀中提到,OpenAI 在新的董事會(huì)領(lǐng)導(dǎo)下,公司不僅在開(kāi)發(fā),而且實(shí)際上正在優(yōu)化 AGI,目的是為了增加微軟的利潤(rùn),而不是為了人類的福祉。

原告(馬斯克)指出,GPT-4 可以被當(dāng)作早期的AGI(通用人工智能,被認(rèn)為是人工智能的更高層次),但GPT-4 的內(nèi)部細(xì)節(jié)僅為 OpenAI 和微軟所知,這與『開(kāi)放AI』的理念背道而馳。訴訟引用的論據(jù)為微軟研究團(tuán)隊(duì)去年發(fā)表的論文,根據(jù)論文,GPT-4展示了AGI的早期跡象,其中包括“人類推理水平”的跡象。

同時(shí),原告還提到,OpenAI的董事會(huì)在2023年發(fā)生了變動(dòng),導(dǎo)致董事會(huì)成員被替換,這可能影響了OpenAI的非營(yíng)利使命。

因此,馬斯克要求法院命令被告繼續(xù)遵守OpenAI的創(chuàng)立協(xié)議,包括公開(kāi)AI研究和技術(shù);確認(rèn)GPT-4和Q*(如果存在)構(gòu)成AGI,因此超出了OpenAI與微軟的許可協(xié)議范圍。

同時(shí),馬斯克還要求法院頒布禁令,阻止OpenAI、其總裁格雷格·布羅克曼(Gregory Brockman)和首席執(zhí)行官奧特曼(此案的共同被告)以及微軟從OpenAI的通用人工智能技術(shù)中獲利。

面對(duì)馬斯克火力全開(kāi),OpenAI于昨日(3月6日)在官網(wǎng)發(fā)布博文正式回應(yīng)該事件,并甩出8年前溝通郵件,聲稱“駁回馬斯克所有主張”。在這篇博文中出現(xiàn)了一位很久未現(xiàn)身的關(guān)鍵人物—— OpenAI 聯(lián)合創(chuàng)始人 Ilya Sutskever。

1.馬斯克只捐了4500萬(wàn)美元,而其他支持者提供了9000多萬(wàn)美元。

2015 年底創(chuàng)辦 OpenAI 時(shí),Greg和 Sam 最初計(jì)劃籌集 1 億美元。馬斯克在一封電子郵件中表示:“我們需要提供比 1 億美元更多的資金,避免這件事聽(tīng)起來(lái)像沒(méi)有希望……我認(rèn)為我們應(yīng)該說(shuō)‘我們從 10 億美元的資金承諾開(kāi)始’……我將承擔(dān)其他人沒(méi)有提供的任何資金”。

但OpenAI 稱,公司從馬斯克處籌集的資金不到4500萬(wàn)美元,而其他支持者提供了9000多萬(wàn)美元。

2.OpenAI 和馬斯克認(rèn)識(shí)到需要一個(gè)營(yíng)利性實(shí)體來(lái)獲取這些資源。

2017 年底,OpenAI和 馬斯克決定下一步的任務(wù)是創(chuàng)建一個(gè)營(yíng)利性實(shí)體。但馬斯克想要獲得多數(shù)股權(quán)、初始董事會(huì)控制權(quán)并擔(dān)任首席執(zhí)行官。在這些討論期間,他扣留了資金。最終雙方無(wú)法就營(yíng)利性條款達(dá)成一致,Elon 很快就選擇離開(kāi) OpenAI,稱OpenAI成功的概率為 0,并計(jì)劃在特斯拉內(nèi)部建立一個(gè) AGI 競(jìng)爭(zhēng)對(duì)手。

3.馬斯克同意了OpenAI不會(huì)為AGI構(gòu)建開(kāi)源軟件的想法。

2016年,Ilya Sutskever曾在郵件中告訴馬斯克 :“隨著我們?cè)絹?lái)越接近構(gòu)建人工智能,開(kāi)始減少開(kāi)放是有意義的。OpenAI 中的開(kāi)放意味著每個(gè)人都應(yīng)該從 AI 構(gòu)建后的成果中受益,但不分享科學(xué)也是完全可以的……”,Elon 回答道:“是的”。

文章最后,OpenAI強(qiáng)調(diào),公司的使命是確保 AGI 惠及全人類,這意味著既要構(gòu)建安全、有益的 AGI,又要幫助創(chuàng)造廣泛的利益。而公司致力于推進(jìn)其使命,并且還有很長(zhǎng)的路要走。隨著公司不斷改進(jìn)其工具,從而能夠部署這些系統(tǒng),以便它們?yōu)槊總€(gè)人提供幫助。

該篇文章發(fā)出后,馬斯克隔了一段時(shí)間在下方留言:“把名字換成ClosedAI,我將撤銷訴訟?!彪S即,又發(fā)了一條動(dòng)態(tài):Fixed it,配圖是Sam Altman手持ClosedAI 的工牌。

有網(wǎng)友曾調(diào)侃,馬斯克與OpenAI的訴訟是一場(chǎng)攸關(guān)AGI和人類命運(yùn)的訴訟。這場(chǎng)官司的歷史意義暫且不作評(píng)判,但想要裁決這場(chǎng)官司,業(yè)內(nèi)的確需要對(duì)AGI有個(gè)精確的定義,并依據(jù)此標(biāo)準(zhǔn)來(lái)對(duì)技術(shù)進(jìn)行評(píng)估,而這可能對(duì)當(dāng)下行業(yè)發(fā)展更具推動(dòng)意義。

02 讓人談之色變的AGI,到底是什么?

其實(shí),AGI還沒(méi)有一個(gè)精準(zhǔn)的定義。

1997年,馬克·古布魯?shù)拢∕ark Gubrud)首次提出AGI(Artificial General Intelligence)這一概念時(shí),他將AGI類比于人腦——一種能在復(fù)雜性和速度上超越人腦,能獲取和內(nèi)化知識(shí),被用于需要運(yùn)用人類智慧來(lái)解決問(wèn)題的用途之上。但問(wèn)題在于,現(xiàn)代的AI系統(tǒng),比如基于Transformer模型,與人類的大腦結(jié)構(gòu)和學(xué)習(xí)模式的聯(lián)系其實(shí)并不緊密。

本世紀(jì)初,當(dāng)DeepMind聯(lián)合創(chuàng)始人謝恩·萊格(Shane Legg)將AGI的概念向計(jì)算機(jī)科學(xué)家們普及時(shí),他將AGI定義為在認(rèn)知任務(wù)上能取得類人表現(xiàn)的機(jī)器智能。

因而,當(dāng)下大家對(duì) AGI 定義普遍是,AI 系統(tǒng)能夠以人類水平或更高水平在多個(gè)認(rèn)知領(lǐng)域進(jìn)行理解和推理。谷歌DeepMind首席執(zhí)行官丹尼斯·哈薩比斯(Denis Hassabis)則將AGI定義為一個(gè)可以執(zhí)行人類幾乎可以執(zhí)行的任何認(rèn)知任務(wù)的系統(tǒng)。

與狹義 AI(Narrow AI)系統(tǒng)專注于解決特定任務(wù)不同,AGI被賦予了更廣泛的認(rèn)知和推理能力,能夠在多個(gè)領(lǐng)域進(jìn)行學(xué)習(xí)、適應(yīng)和執(zhí)行任務(wù)。簡(jiǎn)單來(lái)說(shuō),AGI是一種可以執(zhí)行復(fù)雜任務(wù)的人工智能,可以實(shí)現(xiàn)自我學(xué)習(xí)、自我改進(jìn)、自我調(diào)整,進(jìn)而解決任何問(wèn)題而不需要人為干預(yù)。“靈活”和“通用”,是它最大的特點(diǎn)和優(yōu)勢(shì)。

人工智能領(lǐng)域常被提起的詞匯“涌現(xiàn)”,則是AGI得以實(shí)現(xiàn)的一個(gè)先決條件。涌現(xiàn)是指當(dāng)一個(gè)系統(tǒng)由許多簡(jiǎn)單的個(gè)體組成時(shí),這些個(gè)體之間會(huì)在某些條件下,產(chǎn)生一種自發(fā)協(xié)同的、整體的行為或現(xiàn)象,而這種行為或現(xiàn)象無(wú)法用個(gè)體的特征或行為來(lái)解釋或預(yù)測(cè)。

舉例來(lái)說(shuō),單只螞蟻的行動(dòng)軌跡可能非常簡(jiǎn)單,它們根據(jù)觸角尋找同伴和食物,但當(dāng)許多螞蟻湊到一起時(shí),它們所形成的蟻群會(huì)自動(dòng)形成一種協(xié)同的社會(huì)結(jié)構(gòu)和行動(dòng)軌跡,例如社會(huì)分工、建筑巢穴、攻擊敵人等等。這些行為并不因某只單獨(dú)的螞蟻而存在,而是因?yàn)樗鼈冎g的協(xié)同的聚集,從而帶來(lái)了“涌現(xiàn)”效應(yīng)。

而人工智能領(lǐng)域緣何如此驚懼AGI時(shí)代的到來(lái),或許也是因?yàn)檫^(guò)度強(qiáng)大的涌現(xiàn)所帶來(lái)的作用和效果,是難以為人類所控的。

因此,AGI何時(shí)出現(xiàn)成為了一個(gè)值得關(guān)注的問(wèn)題。在“AGI Safety Literature Review”一文中,Everitt、Lea、Hutter 提到:“我們問(wèn)了很多研究人員,他們認(rèn)為 AGI 可能會(huì)在 2040-2061 年之間出現(xiàn),但大家的猜測(cè)差異很大,有人覺(jué)得可能永遠(yuǎn)不會(huì)出現(xiàn),也有人覺(jué)得未來(lái)幾年可能就會(huì)出現(xiàn)”。

不過(guò),隨著OpenAI發(fā)布首個(gè)視頻生成模型Sora,不少科學(xué)家和業(yè)內(nèi)人士則認(rèn)為:AGI到來(lái)的日子即將臨近。這是因?yàn)镺penAI在報(bào)告中把Sora定義為可以生成視頻的世界模型(World Simulators),并認(rèn)為Sora的技術(shù)是打造通用世界模型的一種有前景的方法。

此前,楊力昆(Yann LeCun)曾提出,實(shí)現(xiàn)真正的智能突破不是靠規(guī)模,而是讓AI在世界模型中學(xué)習(xí)常識(shí)。智能體需要從經(jīng)驗(yàn)中學(xué)習(xí),而學(xué)習(xí)又轉(zhuǎn)化為創(chuàng)建一個(gè)我們可以用來(lái)理解周圍環(huán)境的世界模型,那么因果演繹就構(gòu)成了學(xué)習(xí)的一個(gè)基本要素,從而也構(gòu)成了智能的一個(gè)基本要素。而世界模型正是現(xiàn)有模型所缺少的一個(gè)方面,也是朝著 AGI 前進(jìn)的關(guān)鍵步驟之一。

但楊力昆(Yann LeCun)言辭堅(jiān)決地表明:Sora不僅成本高昂,而且對(duì)于世界模型完全沒(méi)有意義。與此同時(shí),Google DeepMind 聯(lián)合創(chuàng)始人和 CEO Demis Hassabis 認(rèn)為越來(lái)越可靠的世界模型明顯是必要的,但這可能并不是 AGI 系統(tǒng)的充分條件。

在AGI何時(shí)到來(lái)還是個(gè)未知數(shù)的時(shí)候,谷歌DeepMind聯(lián)合創(chuàng)始人謝恩·萊格(Shane Legg),率先帶領(lǐng)DeepMind團(tuán)隊(duì)總結(jié)歷史上的結(jié)論,并提出了他們認(rèn)為AGI應(yīng)該滿足的“六大原則”:注重能力,而非過(guò)程;注重通用性與性能;注重認(rèn)知與元認(rèn)知任務(wù);專注于潛力而不是實(shí)際應(yīng)用;重視實(shí)際適用性;關(guān)注實(shí)現(xiàn)AGI的路徑,而非單一終點(diǎn)。

其中,關(guān)注實(shí)現(xiàn)AGI的路徑,意味著定義AGI在不同“水平”上的衡量標(biāo)準(zhǔn)是很有益的。AGI的發(fā)展就像是一次長(zhǎng)途跋涉,終極目標(biāo)可能不是一個(gè)固定點(diǎn),而是一個(gè)不斷演進(jìn)的過(guò)程。

總之,在通往終極智能體的路上,人類還需要越過(guò)很多個(gè)山丘,但越過(guò)山丘所需的時(shí)間可能會(huì)越來(lái)越短。

03 AGI該加速還是踩剎車,大佬如何看?

“AGI近在咫尺。”這像一部電影的神秘開(kāi)場(chǎng)白,但很多人卻不知道結(jié)局走向如何?

當(dāng)技術(shù)探索未知的邊界時(shí),技術(shù)樂(lè)觀者興奮,技術(shù)悲觀者擔(dān)憂。圖靈獎(jiǎng)得主、深度學(xué)習(xí)技術(shù)先驅(qū)杰弗里·辛頓(Geoffrey Hinton)從谷歌離職后,曾公開(kāi)表明對(duì) AI 技術(shù)風(fēng)險(xiǎn)的擔(dān)憂:“一旦數(shù)字智能開(kāi)始追求更多的控制權(quán),可能會(huì)通過(guò)控制人類來(lái)獲得更多權(quán)力。一旦 AI 掌握了‘欺騙’技能,也就能輕易具備控制人類的能力。AI 會(huì)欺騙人類,且可以操縱人就很容易獲得更多的權(quán)力。因此,超級(jí)智能控制問(wèn)題非常重要?!?/p>

辛頓提醒大家居安思危,希望年輕一代的研究人員能找到相關(guān)解決方案,使超級(jí) AI 可以為人類帶來(lái)更好的生活,同時(shí)還不會(huì)剝奪人類的控制權(quán)。“這可能是人類目前具備的微弱優(yōu)勢(shì)?!?/p>

去年年底,Geoffrey Hinton曾與Yann LeCun、吳恩達(dá)針對(duì)“大模型會(huì)不會(huì)毀滅人類”這一問(wèn)題,在社交平臺(tái)X激情辯論。后來(lái),幾位大佬線下見(jiàn)面依舊會(huì)合照,并聲明只是學(xué)術(shù)探討,不會(huì)影響友誼。

不過(guò),當(dāng)Yann LeCun看到反人工智能論點(diǎn),依舊會(huì)鋒芒畢露:對(duì)你來(lái)說(shuō),AI導(dǎo)致人類滅亡只是順其自然的但你又無(wú)能為力的事情??蓪?duì)我們來(lái)說(shuō),我們親自做出來(lái)的東西,我們是代理權(quán)的,這給了我們一些應(yīng)對(duì)的確定性,這也是你所缺失的地方。

到了今年,輿論風(fēng)向好像發(fā)生了變化。Yann LeCun發(fā)現(xiàn)在今年的達(dá)沃斯上,關(guān)于人工智能的流行話語(yǔ)發(fā)生了明顯的轉(zhuǎn)變:

“很少有人仍然在談?wù)撋骘L(fēng)險(xiǎn),也很少有人相信當(dāng)前的技術(shù),即使擴(kuò)大了規(guī)模,也會(huì)帶來(lái)生存風(fēng)險(xiǎn)。同時(shí),每個(gè)人都同意,開(kāi)源人工智能平臺(tái)對(duì)文化和語(yǔ)言多樣性、地方主權(quán)、教育、科學(xué)和商業(yè)都是一件好事?!?/p>

AI領(lǐng)域知名學(xué)者吳恩達(dá)也有同感:“很多關(guān)于人工智能監(jiān)管的對(duì)話比 6 個(gè)月前要明智得多。例如,關(guān)于人工智能滅絕風(fēng)險(xiǎn)的不必要的恐懼和討論正在逐漸消失。但一些大公司仍在推動(dòng)令人窒息的反競(jìng)爭(zhēng)法規(guī),保護(hù)開(kāi)源的斗爭(zhēng)還遠(yuǎn)未取得勝利。”

面對(duì)這些爭(zhēng)論,Demis Hassabis坦言,面對(duì)這樣一項(xiàng)變革性的技術(shù),它是如此之大,如此未知。所以他認(rèn)為,能夠精確地給出它的概率是有點(diǎn)荒謬的。并認(rèn)為,與其等到通用人工智能(AGI)即將迎來(lái)?yè)?dān)心人類滅亡的事情,不如提前深入理解這些AI系統(tǒng)?!耙苍S在五年后,我會(huì)給出——我希望能給出一個(gè)基于證據(jù)的、更加精確的答案,而不是在推特上進(jìn)行無(wú)謂的口水戰(zhàn)?!?/p>

同時(shí),深度學(xué)習(xí)程序Keras的創(chuàng)造者Francois Chollet,則呼吁更多人理性看待AGI的未來(lái):

“AGI是一種類似于哲學(xué)家之石的文化結(jié)構(gòu),沒(méi)有人能清晰地定義它,但人們?cè)谒厦嫱渡涑龈鞣N神奇的力量——它將使你永生,它將以數(shù)字形式復(fù)活死者,它將提供無(wú)限的豐富,等等。不過(guò),它不會(huì)有任何超自然的力量。它不會(huì)有能力一點(diǎn)擊數(shù)字手指就奴役人類,也不會(huì)給你永恒的生命。

人們認(rèn)為智力是一個(gè)無(wú)界的標(biāo)量。他們可能會(huì)說(shuō),「AGI的智商將達(dá)到10000,然后是100000……」——因?yàn)楦叩臄?shù)字會(huì)賦予你在世界上更高的權(quán)力,所以AGI將擁有無(wú)限的權(quán)力。因此才有了神奇的壯舉。

這一切都沒(méi)有意義。智力不是無(wú)界的,也不能直接轉(zhuǎn)化為權(quán)力。

流體智能是一種信息轉(zhuǎn)換率,因此它有一個(gè)上限:最優(yōu)效率。在遙遠(yuǎn)的未來(lái),我們的人工智能將實(shí)現(xiàn)這一目標(biāo)(它不會(huì)采取擬合到大型數(shù)據(jù)集的曲線的形式,因?yàn)檫@效率非常低)。達(dá)到最優(yōu)性并不意味著系統(tǒng)一直無(wú)所不能。這只是意味著它將不再受到信息處理的阻礙。

相反,它將受到其他一切的阻礙——從信息收集開(kāi)始?!?/p>

對(duì)于AGI的未來(lái),Demis Hassabis 在著名的科技播客主持人 Dwarkesh Patel 的深度專訪則興奮地說(shuō)道:“當(dāng)我們 2010 年創(chuàng)辦 DeepMind 時(shí),我們把它看作是一個(gè) 20 年的項(xiàng)目。實(shí)際上,我認(rèn)為我們正在按計(jì)劃進(jìn)行。因此,如果在未來(lái)十年內(nèi)擁有類似 AGI 的系統(tǒng),我也不會(huì)感到意外?!?/p>

Denis Hassabis還暢想了AGI時(shí)代的生活:“我一直想要使用我的 AGI 工具的目的就是真正理解自然界和物理學(xué)中最根本的問(wèn)題——那就是現(xiàn)實(shí)的本質(zhì)。我想有時(shí)間來(lái)思考這些問(wèn)題,或許乘坐一艘前往半人馬座阿爾法星的星際飛船,在思考這些問(wèn)題,冥想這些觀點(diǎn),也許做一些極限運(yùn)動(dòng)。諸如此類的事情?!?/p>

的確,AGI的重要性和顛覆性可能給世界帶來(lái)巨大的改變,但在一切發(fā)生之前,需要確認(rèn)的是,它是工具,而非權(quán)力,以及人類是否做好準(zhǔn)備。

有關(guān)AGI的討論還在繼續(xù)。人工智能可能正在經(jīng)歷“薛定諤的貓”的十年。AGI可能已經(jīng)實(shí)現(xiàn),也可能未實(shí)現(xiàn),這完全取決于每個(gè)人的觀點(diǎn)。

AGI能實(shí)現(xiàn)多大程度的躍升?人類對(duì)于智能探索的邊界在哪里?人類的未來(lái)掌握在誰(shuí)的手中……這些思考,是AI行業(yè)者無(wú)從避免的問(wèn)題。

在智能水平、處理速度和成本之間,AI巨頭們?cè)诓粩鄧L試,找到一個(gè)符合市場(chǎng)、滿足利益的最佳平衡。人類的參與在此刻顯得尤為重要,但如果AI與人的邊界模糊的那一刻真正到來(lái),人類的參與,將會(huì)是所有進(jìn)程中最不重要的一環(huán)。

1994年,《連線》雜志創(chuàng)始人、科技作家凱文·凱利,結(jié)合對(duì)技術(shù)和社會(huì)的觀察,寫成大部頭科幻著作《失控》,書(shū)中預(yù)言人類最終會(huì)和機(jī)器走向“統(tǒng)一”——“機(jī)器正在生物化,而生物正在工程化?!比旰蟮慕裉熘匦禄仡欉@本書(shū),人們卻能發(fā)現(xiàn)其中的預(yù)言正在逐漸實(shí)現(xiàn)。

人類對(duì)于科技的探索總在大跨步式前進(jìn),但在臨近一個(gè)技術(shù)新紀(jì)元之前,我們也許要先停下來(lái)想想:人與智能的邊界還足夠清晰嗎?在邊界與邊界之間,我們距離真正的“失控”,還有多遠(yuǎn)的路?

References:

1.a16z:AI 大佬們?nèi)绾慰创?AGI 的當(dāng)下及未來(lái)?|Founder Park

2.Keras 作者 Francois Chollet:理性看待AGI未來(lái)的趨勢(shì)|跳動(dòng)的數(shù)據(jù)

3.OpenAI神秘Q*毀滅人類?爆火「Q*假說(shuō)」竟?fàn)砍鍪澜缒P?,全網(wǎng)AI大佬長(zhǎng)文熱議|新智元

4.全球最強(qiáng)大模型一夜易主,GPT-4時(shí)代終結(jié)!Claude 3提前狙擊GPT-5,3秒讀懂萬(wàn)字論文理解力接近人類|新智元

5.第二物種的核心:什么是 AGI 和涌現(xiàn)?|施途

6.2027年實(shí)現(xiàn)AGI?OpenAI AGI時(shí)間表疑似泄露,53頁(yè)P(yáng)DF全網(wǎng)爆火|鈦媒體AGI

7.Informa:Google DeepMind CEO on AGI, OpenAI and Beyond – MWC 2024

8.OpenAI回應(yīng)了!甩出8年前郵件,駁回馬斯克所有主張|甲子光年

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。

OpenAI

  • 強(qiáng)達(dá)電路年交付產(chǎn)品型號(hào)近10萬(wàn)款,業(yè)內(nèi)領(lǐng)先!
  • OpenAI和微軟據(jù)悉就轉(zhuǎn)型后的股權(quán)分割聘請(qǐng)投資銀行

評(píng)論

暫無(wú)評(píng)論哦,快來(lái)評(píng)價(jià)一下吧!

下載界面新聞

微信公眾號(hào)

微博

馬斯克的“核彈式訴訟”,對(duì)準(zhǔn)了AGI的另一面

馬斯克與OpenAI的訴與駁。

圖片來(lái)源:界面新聞 匡達(dá)

文|經(jīng)緯創(chuàng)投

人類距離擁有一個(gè)有自我意識(shí)的AI工具還遠(yuǎn)嗎?

不久前,Anthropic剛發(fā)布了新一代大模型系列 Claude 3,緊接著Anthropic的提示工程師 Alex Albert 在社交平臺(tái)X爆料 ,在內(nèi)部測(cè)試中,Claude 3 Opus表現(xiàn)出了一種「元認(rèn)知」或自我意識(shí)的情況——Claude表現(xiàn)出完全意識(shí)到自己可能正在接受測(cè)試,能夠“假裝友好”以通過(guò)測(cè)試,并且這是靠它自己推斷出來(lái)的。

機(jī)器學(xué)習(xí)專家普遍認(rèn)為當(dāng)前的大模型不具有人類一樣的自我意識(shí)。英偉達(dá)高級(jí)科學(xué)家Jim Fan分析:“看似自我意識(shí)的展示只是人類創(chuàng)作的模式匹配對(duì)齊數(shù)據(jù)。去問(wèn)GPT-4「你有自我意識(shí)嗎」,它給出的答案大概也不會(huì)有太大區(qū)別。”

AI科學(xué)家、圖靈獎(jiǎng)獲得者楊力昆(Yann LeCun)更為直接地回答:這種可能性為0。

雖然業(yè)內(nèi)學(xué)者從理性分析的角度來(lái)看,均給出了否定答案。但AI圈卻形成了一個(gè)輿論共識(shí):AGI好像離人類越來(lái)越近。

或許出于對(duì)未來(lái)的焦慮,馬斯克正式起訴OpenAI及其首席執(zhí)行官Sam Altman 等人,稱其為了利潤(rùn)而非“人類的利益”開(kāi)發(fā)人工智能,要求其恢復(fù)開(kāi)源狀態(tài)。馬斯克認(rèn)為,GPT-4是一個(gè)AGI算法,所以O(shè)penAI已經(jīng)實(shí)現(xiàn)了AGI。訴狀曾這樣寫道:「像馬斯克這樣的人認(rèn)為 AGI 存在生存威脅,而另一些人則將 AGI 視為利潤(rùn)和權(quán)力的來(lái)源。」

最新消息,OpenAI高管聯(lián)名發(fā)布博客回?fù)簦厚R斯克曾提議并入特斯拉,認(rèn)為OpenAI注定失敗,但并未正面回應(yīng)GPT-4是否為AGI的相關(guān)內(nèi)容。隨即,馬斯克回復(fù)稱:“把名字換了。換成ClosedAI,我將放棄訴訟?!?/p>

從Claude 3到馬斯克與OpenAI訴訟,都圍繞著一個(gè)核心:AGI。難道,只存在于科幻作品中的AGI真的近在咫尺?為何準(zhǔn)確定義AGI難度這么大?當(dāng)人類進(jìn)入AGI時(shí)代,世界究竟會(huì)發(fā)生怎樣的變化?以下,Enjoy:

01 馬斯克與OpenAI的訴與駁

故事起因是,馬斯克一紙?jiān)V訟告了OpenAI及現(xiàn)有高管團(tuán)隊(duì)。

據(jù) Courthouse News 報(bào)道,近日,馬斯克向舊金山高等法院提起訴訟,指控 OpenAI 背離了公司最初對(duì)于公共開(kāi)源人工通用智能(AGI)的承諾。

訴狀中提到,OpenAI 在新的董事會(huì)領(lǐng)導(dǎo)下,公司不僅在開(kāi)發(fā),而且實(shí)際上正在優(yōu)化 AGI,目的是為了增加微軟的利潤(rùn),而不是為了人類的福祉。

原告(馬斯克)指出,GPT-4 可以被當(dāng)作早期的AGI(通用人工智能,被認(rèn)為是人工智能的更高層次),但GPT-4 的內(nèi)部細(xì)節(jié)僅為 OpenAI 和微軟所知,這與『開(kāi)放AI』的理念背道而馳。訴訟引用的論據(jù)為微軟研究團(tuán)隊(duì)去年發(fā)表的論文,根據(jù)論文,GPT-4展示了AGI的早期跡象,其中包括“人類推理水平”的跡象。

同時(shí),原告還提到,OpenAI的董事會(huì)在2023年發(fā)生了變動(dòng),導(dǎo)致董事會(huì)成員被替換,這可能影響了OpenAI的非營(yíng)利使命。

因此,馬斯克要求法院命令被告繼續(xù)遵守OpenAI的創(chuàng)立協(xié)議,包括公開(kāi)AI研究和技術(shù);確認(rèn)GPT-4和Q*(如果存在)構(gòu)成AGI,因此超出了OpenAI與微軟的許可協(xié)議范圍。

同時(shí),馬斯克還要求法院頒布禁令,阻止OpenAI、其總裁格雷格·布羅克曼(Gregory Brockman)和首席執(zhí)行官奧特曼(此案的共同被告)以及微軟從OpenAI的通用人工智能技術(shù)中獲利。

面對(duì)馬斯克火力全開(kāi),OpenAI于昨日(3月6日)在官網(wǎng)發(fā)布博文正式回應(yīng)該事件,并甩出8年前溝通郵件,聲稱“駁回馬斯克所有主張”。在這篇博文中出現(xiàn)了一位很久未現(xiàn)身的關(guān)鍵人物—— OpenAI 聯(lián)合創(chuàng)始人 Ilya Sutskever。

1.馬斯克只捐了4500萬(wàn)美元,而其他支持者提供了9000多萬(wàn)美元。

2015 年底創(chuàng)辦 OpenAI 時(shí),Greg和 Sam 最初計(jì)劃籌集 1 億美元。馬斯克在一封電子郵件中表示:“我們需要提供比 1 億美元更多的資金,避免這件事聽(tīng)起來(lái)像沒(méi)有希望……我認(rèn)為我們應(yīng)該說(shuō)‘我們從 10 億美元的資金承諾開(kāi)始’……我將承擔(dān)其他人沒(méi)有提供的任何資金”。

但OpenAI 稱,公司從馬斯克處籌集的資金不到4500萬(wàn)美元,而其他支持者提供了9000多萬(wàn)美元。

2.OpenAI 和馬斯克認(rèn)識(shí)到需要一個(gè)營(yíng)利性實(shí)體來(lái)獲取這些資源。

2017 年底,OpenAI和 馬斯克決定下一步的任務(wù)是創(chuàng)建一個(gè)營(yíng)利性實(shí)體。但馬斯克想要獲得多數(shù)股權(quán)、初始董事會(huì)控制權(quán)并擔(dān)任首席執(zhí)行官。在這些討論期間,他扣留了資金。最終雙方無(wú)法就營(yíng)利性條款達(dá)成一致,Elon 很快就選擇離開(kāi) OpenAI,稱OpenAI成功的概率為 0,并計(jì)劃在特斯拉內(nèi)部建立一個(gè) AGI 競(jìng)爭(zhēng)對(duì)手。

3.馬斯克同意了OpenAI不會(huì)為AGI構(gòu)建開(kāi)源軟件的想法。

2016年,Ilya Sutskever曾在郵件中告訴馬斯克 :“隨著我們?cè)絹?lái)越接近構(gòu)建人工智能,開(kāi)始減少開(kāi)放是有意義的。OpenAI 中的開(kāi)放意味著每個(gè)人都應(yīng)該從 AI 構(gòu)建后的成果中受益,但不分享科學(xué)也是完全可以的……”,Elon 回答道:“是的”。

文章最后,OpenAI強(qiáng)調(diào),公司的使命是確保 AGI 惠及全人類,這意味著既要構(gòu)建安全、有益的 AGI,又要幫助創(chuàng)造廣泛的利益。而公司致力于推進(jìn)其使命,并且還有很長(zhǎng)的路要走。隨著公司不斷改進(jìn)其工具,從而能夠部署這些系統(tǒng),以便它們?yōu)槊總€(gè)人提供幫助。

該篇文章發(fā)出后,馬斯克隔了一段時(shí)間在下方留言:“把名字換成ClosedAI,我將撤銷訴訟?!彪S即,又發(fā)了一條動(dòng)態(tài):Fixed it,配圖是Sam Altman手持ClosedAI 的工牌。

有網(wǎng)友曾調(diào)侃,馬斯克與OpenAI的訴訟是一場(chǎng)攸關(guān)AGI和人類命運(yùn)的訴訟。這場(chǎng)官司的歷史意義暫且不作評(píng)判,但想要裁決這場(chǎng)官司,業(yè)內(nèi)的確需要對(duì)AGI有個(gè)精確的定義,并依據(jù)此標(biāo)準(zhǔn)來(lái)對(duì)技術(shù)進(jìn)行評(píng)估,而這可能對(duì)當(dāng)下行業(yè)發(fā)展更具推動(dòng)意義。

02 讓人談之色變的AGI,到底是什么?

其實(shí),AGI還沒(méi)有一個(gè)精準(zhǔn)的定義。

1997年,馬克·古布魯?shù)拢∕ark Gubrud)首次提出AGI(Artificial General Intelligence)這一概念時(shí),他將AGI類比于人腦——一種能在復(fù)雜性和速度上超越人腦,能獲取和內(nèi)化知識(shí),被用于需要運(yùn)用人類智慧來(lái)解決問(wèn)題的用途之上。但問(wèn)題在于,現(xiàn)代的AI系統(tǒng),比如基于Transformer模型,與人類的大腦結(jié)構(gòu)和學(xué)習(xí)模式的聯(lián)系其實(shí)并不緊密。

本世紀(jì)初,當(dāng)DeepMind聯(lián)合創(chuàng)始人謝恩·萊格(Shane Legg)將AGI的概念向計(jì)算機(jī)科學(xué)家們普及時(shí),他將AGI定義為在認(rèn)知任務(wù)上能取得類人表現(xiàn)的機(jī)器智能。

因而,當(dāng)下大家對(duì) AGI 定義普遍是,AI 系統(tǒng)能夠以人類水平或更高水平在多個(gè)認(rèn)知領(lǐng)域進(jìn)行理解和推理。谷歌DeepMind首席執(zhí)行官丹尼斯·哈薩比斯(Denis Hassabis)則將AGI定義為一個(gè)可以執(zhí)行人類幾乎可以執(zhí)行的任何認(rèn)知任務(wù)的系統(tǒng)。

與狹義 AI(Narrow AI)系統(tǒng)專注于解決特定任務(wù)不同,AGI被賦予了更廣泛的認(rèn)知和推理能力,能夠在多個(gè)領(lǐng)域進(jìn)行學(xué)習(xí)、適應(yīng)和執(zhí)行任務(wù)。簡(jiǎn)單來(lái)說(shuō),AGI是一種可以執(zhí)行復(fù)雜任務(wù)的人工智能,可以實(shí)現(xiàn)自我學(xué)習(xí)、自我改進(jìn)、自我調(diào)整,進(jìn)而解決任何問(wèn)題而不需要人為干預(yù)?!办`活”和“通用”,是它最大的特點(diǎn)和優(yōu)勢(shì)。

人工智能領(lǐng)域常被提起的詞匯“涌現(xiàn)”,則是AGI得以實(shí)現(xiàn)的一個(gè)先決條件。涌現(xiàn)是指當(dāng)一個(gè)系統(tǒng)由許多簡(jiǎn)單的個(gè)體組成時(shí),這些個(gè)體之間會(huì)在某些條件下,產(chǎn)生一種自發(fā)協(xié)同的、整體的行為或現(xiàn)象,而這種行為或現(xiàn)象無(wú)法用個(gè)體的特征或行為來(lái)解釋或預(yù)測(cè)。

舉例來(lái)說(shuō),單只螞蟻的行動(dòng)軌跡可能非常簡(jiǎn)單,它們根據(jù)觸角尋找同伴和食物,但當(dāng)許多螞蟻湊到一起時(shí),它們所形成的蟻群會(huì)自動(dòng)形成一種協(xié)同的社會(huì)結(jié)構(gòu)和行動(dòng)軌跡,例如社會(huì)分工、建筑巢穴、攻擊敵人等等。這些行為并不因某只單獨(dú)的螞蟻而存在,而是因?yàn)樗鼈冎g的協(xié)同的聚集,從而帶來(lái)了“涌現(xiàn)”效應(yīng)。

而人工智能領(lǐng)域緣何如此驚懼AGI時(shí)代的到來(lái),或許也是因?yàn)檫^(guò)度強(qiáng)大的涌現(xiàn)所帶來(lái)的作用和效果,是難以為人類所控的。

因此,AGI何時(shí)出現(xiàn)成為了一個(gè)值得關(guān)注的問(wèn)題。在“AGI Safety Literature Review”一文中,Everitt、Lea、Hutter 提到:“我們問(wèn)了很多研究人員,他們認(rèn)為 AGI 可能會(huì)在 2040-2061 年之間出現(xiàn),但大家的猜測(cè)差異很大,有人覺(jué)得可能永遠(yuǎn)不會(huì)出現(xiàn),也有人覺(jué)得未來(lái)幾年可能就會(huì)出現(xiàn)”。

不過(guò),隨著OpenAI發(fā)布首個(gè)視頻生成模型Sora,不少科學(xué)家和業(yè)內(nèi)人士則認(rèn)為:AGI到來(lái)的日子即將臨近。這是因?yàn)镺penAI在報(bào)告中把Sora定義為可以生成視頻的世界模型(World Simulators),并認(rèn)為Sora的技術(shù)是打造通用世界模型的一種有前景的方法。

此前,楊力昆(Yann LeCun)曾提出,實(shí)現(xiàn)真正的智能突破不是靠規(guī)模,而是讓AI在世界模型中學(xué)習(xí)常識(shí)。智能體需要從經(jīng)驗(yàn)中學(xué)習(xí),而學(xué)習(xí)又轉(zhuǎn)化為創(chuàng)建一個(gè)我們可以用來(lái)理解周圍環(huán)境的世界模型,那么因果演繹就構(gòu)成了學(xué)習(xí)的一個(gè)基本要素,從而也構(gòu)成了智能的一個(gè)基本要素。而世界模型正是現(xiàn)有模型所缺少的一個(gè)方面,也是朝著 AGI 前進(jìn)的關(guān)鍵步驟之一。

但楊力昆(Yann LeCun)言辭堅(jiān)決地表明:Sora不僅成本高昂,而且對(duì)于世界模型完全沒(méi)有意義。與此同時(shí),Google DeepMind 聯(lián)合創(chuàng)始人和 CEO Demis Hassabis 認(rèn)為越來(lái)越可靠的世界模型明顯是必要的,但這可能并不是 AGI 系統(tǒng)的充分條件。

在AGI何時(shí)到來(lái)還是個(gè)未知數(shù)的時(shí)候,谷歌DeepMind聯(lián)合創(chuàng)始人謝恩·萊格(Shane Legg),率先帶領(lǐng)DeepMind團(tuán)隊(duì)總結(jié)歷史上的結(jié)論,并提出了他們認(rèn)為AGI應(yīng)該滿足的“六大原則”:注重能力,而非過(guò)程;注重通用性與性能;注重認(rèn)知與元認(rèn)知任務(wù);專注于潛力而不是實(shí)際應(yīng)用;重視實(shí)際適用性;關(guān)注實(shí)現(xiàn)AGI的路徑,而非單一終點(diǎn)。

其中,關(guān)注實(shí)現(xiàn)AGI的路徑,意味著定義AGI在不同“水平”上的衡量標(biāo)準(zhǔn)是很有益的。AGI的發(fā)展就像是一次長(zhǎng)途跋涉,終極目標(biāo)可能不是一個(gè)固定點(diǎn),而是一個(gè)不斷演進(jìn)的過(guò)程。

總之,在通往終極智能體的路上,人類還需要越過(guò)很多個(gè)山丘,但越過(guò)山丘所需的時(shí)間可能會(huì)越來(lái)越短。

03 AGI該加速還是踩剎車,大佬如何看?

“AGI近在咫尺。”這像一部電影的神秘開(kāi)場(chǎng)白,但很多人卻不知道結(jié)局走向如何?

當(dāng)技術(shù)探索未知的邊界時(shí),技術(shù)樂(lè)觀者興奮,技術(shù)悲觀者擔(dān)憂。圖靈獎(jiǎng)得主、深度學(xué)習(xí)技術(shù)先驅(qū)杰弗里·辛頓(Geoffrey Hinton)從谷歌離職后,曾公開(kāi)表明對(duì) AI 技術(shù)風(fēng)險(xiǎn)的擔(dān)憂:“一旦數(shù)字智能開(kāi)始追求更多的控制權(quán),可能會(huì)通過(guò)控制人類來(lái)獲得更多權(quán)力。一旦 AI 掌握了‘欺騙’技能,也就能輕易具備控制人類的能力。AI 會(huì)欺騙人類,且可以操縱人就很容易獲得更多的權(quán)力。因此,超級(jí)智能控制問(wèn)題非常重要。”

辛頓提醒大家居安思危,希望年輕一代的研究人員能找到相關(guān)解決方案,使超級(jí) AI 可以為人類帶來(lái)更好的生活,同時(shí)還不會(huì)剝奪人類的控制權(quán)?!斑@可能是人類目前具備的微弱優(yōu)勢(shì)?!?/p>

去年年底,Geoffrey Hinton曾與Yann LeCun、吳恩達(dá)針對(duì)“大模型會(huì)不會(huì)毀滅人類”這一問(wèn)題,在社交平臺(tái)X激情辯論。后來(lái),幾位大佬線下見(jiàn)面依舊會(huì)合照,并聲明只是學(xué)術(shù)探討,不會(huì)影響友誼。

不過(guò),當(dāng)Yann LeCun看到反人工智能論點(diǎn),依舊會(huì)鋒芒畢露:對(duì)你來(lái)說(shuō),AI導(dǎo)致人類滅亡只是順其自然的但你又無(wú)能為力的事情??蓪?duì)我們來(lái)說(shuō),我們親自做出來(lái)的東西,我們是代理權(quán)的,這給了我們一些應(yīng)對(duì)的確定性,這也是你所缺失的地方。

到了今年,輿論風(fēng)向好像發(fā)生了變化。Yann LeCun發(fā)現(xiàn)在今年的達(dá)沃斯上,關(guān)于人工智能的流行話語(yǔ)發(fā)生了明顯的轉(zhuǎn)變:

“很少有人仍然在談?wù)撋骘L(fēng)險(xiǎn),也很少有人相信當(dāng)前的技術(shù),即使擴(kuò)大了規(guī)模,也會(huì)帶來(lái)生存風(fēng)險(xiǎn)。同時(shí),每個(gè)人都同意,開(kāi)源人工智能平臺(tái)對(duì)文化和語(yǔ)言多樣性、地方主權(quán)、教育、科學(xué)和商業(yè)都是一件好事?!?/p>

AI領(lǐng)域知名學(xué)者吳恩達(dá)也有同感:“很多關(guān)于人工智能監(jiān)管的對(duì)話比 6 個(gè)月前要明智得多。例如,關(guān)于人工智能滅絕風(fēng)險(xiǎn)的不必要的恐懼和討論正在逐漸消失。但一些大公司仍在推動(dòng)令人窒息的反競(jìng)爭(zhēng)法規(guī),保護(hù)開(kāi)源的斗爭(zhēng)還遠(yuǎn)未取得勝利?!?/p>

面對(duì)這些爭(zhēng)論,Demis Hassabis坦言,面對(duì)這樣一項(xiàng)變革性的技術(shù),它是如此之大,如此未知。所以他認(rèn)為,能夠精確地給出它的概率是有點(diǎn)荒謬的。并認(rèn)為,與其等到通用人工智能(AGI)即將迎來(lái)?yè)?dān)心人類滅亡的事情,不如提前深入理解這些AI系統(tǒng)?!耙苍S在五年后,我會(huì)給出——我希望能給出一個(gè)基于證據(jù)的、更加精確的答案,而不是在推特上進(jìn)行無(wú)謂的口水戰(zhàn)?!?/p>

同時(shí),深度學(xué)習(xí)程序Keras的創(chuàng)造者Francois Chollet,則呼吁更多人理性看待AGI的未來(lái):

“AGI是一種類似于哲學(xué)家之石的文化結(jié)構(gòu),沒(méi)有人能清晰地定義它,但人們?cè)谒厦嫱渡涑龈鞣N神奇的力量——它將使你永生,它將以數(shù)字形式復(fù)活死者,它將提供無(wú)限的豐富,等等。不過(guò),它不會(huì)有任何超自然的力量。它不會(huì)有能力一點(diǎn)擊數(shù)字手指就奴役人類,也不會(huì)給你永恒的生命。

人們認(rèn)為智力是一個(gè)無(wú)界的標(biāo)量。他們可能會(huì)說(shuō),「AGI的智商將達(dá)到10000,然后是100000……」——因?yàn)楦叩臄?shù)字會(huì)賦予你在世界上更高的權(quán)力,所以AGI將擁有無(wú)限的權(quán)力。因此才有了神奇的壯舉。

這一切都沒(méi)有意義。智力不是無(wú)界的,也不能直接轉(zhuǎn)化為權(quán)力。

流體智能是一種信息轉(zhuǎn)換率,因此它有一個(gè)上限:最優(yōu)效率。在遙遠(yuǎn)的未來(lái),我們的人工智能將實(shí)現(xiàn)這一目標(biāo)(它不會(huì)采取擬合到大型數(shù)據(jù)集的曲線的形式,因?yàn)檫@效率非常低)。達(dá)到最優(yōu)性并不意味著系統(tǒng)一直無(wú)所不能。這只是意味著它將不再受到信息處理的阻礙。

相反,它將受到其他一切的阻礙——從信息收集開(kāi)始?!?/p>

對(duì)于AGI的未來(lái),Demis Hassabis 在著名的科技播客主持人 Dwarkesh Patel 的深度專訪則興奮地說(shuō)道:“當(dāng)我們 2010 年創(chuàng)辦 DeepMind 時(shí),我們把它看作是一個(gè) 20 年的項(xiàng)目。實(shí)際上,我認(rèn)為我們正在按計(jì)劃進(jìn)行。因此,如果在未來(lái)十年內(nèi)擁有類似 AGI 的系統(tǒng),我也不會(huì)感到意外?!?/p>

Denis Hassabis還暢想了AGI時(shí)代的生活:“我一直想要使用我的 AGI 工具的目的就是真正理解自然界和物理學(xué)中最根本的問(wèn)題——那就是現(xiàn)實(shí)的本質(zhì)。我想有時(shí)間來(lái)思考這些問(wèn)題,或許乘坐一艘前往半人馬座阿爾法星的星際飛船,在思考這些問(wèn)題,冥想這些觀點(diǎn),也許做一些極限運(yùn)動(dòng)。諸如此類的事情?!?/p>

的確,AGI的重要性和顛覆性可能給世界帶來(lái)巨大的改變,但在一切發(fā)生之前,需要確認(rèn)的是,它是工具,而非權(quán)力,以及人類是否做好準(zhǔn)備。

有關(guān)AGI的討論還在繼續(xù)。人工智能可能正在經(jīng)歷“薛定諤的貓”的十年。AGI可能已經(jīng)實(shí)現(xiàn),也可能未實(shí)現(xiàn),這完全取決于每個(gè)人的觀點(diǎn)。

AGI能實(shí)現(xiàn)多大程度的躍升?人類對(duì)于智能探索的邊界在哪里?人類的未來(lái)掌握在誰(shuí)的手中……這些思考,是AI行業(yè)者無(wú)從避免的問(wèn)題。

在智能水平、處理速度和成本之間,AI巨頭們?cè)诓粩鄧L試,找到一個(gè)符合市場(chǎng)、滿足利益的最佳平衡。人類的參與在此刻顯得尤為重要,但如果AI與人的邊界模糊的那一刻真正到來(lái),人類的參與,將會(huì)是所有進(jìn)程中最不重要的一環(huán)。

1994年,《連線》雜志創(chuàng)始人、科技作家凱文·凱利,結(jié)合對(duì)技術(shù)和社會(huì)的觀察,寫成大部頭科幻著作《失控》,書(shū)中預(yù)言人類最終會(huì)和機(jī)器走向“統(tǒng)一”——“機(jī)器正在生物化,而生物正在工程化。”三十年后的今天重新回顧這本書(shū),人們卻能發(fā)現(xiàn)其中的預(yù)言正在逐漸實(shí)現(xiàn)。

人類對(duì)于科技的探索總在大跨步式前進(jìn),但在臨近一個(gè)技術(shù)新紀(jì)元之前,我們也許要先停下來(lái)想想:人與智能的邊界還足夠清晰嗎?在邊界與邊界之間,我們距離真正的“失控”,還有多遠(yuǎn)的路?

References:

1.a16z:AI 大佬們?nèi)绾慰创?AGI 的當(dāng)下及未來(lái)?|Founder Park

2.Keras 作者 Francois Chollet:理性看待AGI未來(lái)的趨勢(shì)|跳動(dòng)的數(shù)據(jù)

3.OpenAI神秘Q*毀滅人類?爆火「Q*假說(shuō)」竟?fàn)砍鍪澜缒P?,全網(wǎng)AI大佬長(zhǎng)文熱議|新智元

4.全球最強(qiáng)大模型一夜易主,GPT-4時(shí)代終結(jié)!Claude 3提前狙擊GPT-5,3秒讀懂萬(wàn)字論文理解力接近人類|新智元

5.第二物種的核心:什么是 AGI 和涌現(xiàn)?|施途

6.2027年實(shí)現(xiàn)AGI?OpenAI AGI時(shí)間表疑似泄露,53頁(yè)P(yáng)DF全網(wǎng)爆火|鈦媒體AGI

7.Informa:Google DeepMind CEO on AGI, OpenAI and Beyond – MWC 2024

8.OpenAI回應(yīng)了!甩出8年前郵件,駁回馬斯克所有主張|甲子光年

本文為轉(zhuǎn)載內(nèi)容,授權(quán)事宜請(qǐng)聯(lián)系原著作權(quán)人。