正在閱讀:

我們不只是不信任AI,我們彼此也不信任 | 專訪

掃一掃下載界面新聞APP

我們不只是不信任AI,我們彼此也不信任 | 專訪

《再見智人》作者吳冠軍認為,在技術(shù)呈指數(shù)級發(fā)展的當下,缺乏的是政治智慧。我們必須呼吁一次政治智慧的迭代,不再止步于人類主義的固有框架。

界面新聞記者 | 尹清露

界面新聞編輯 | 黃月

ChatGPT的廣泛應(yīng)用、諾獎頒給人工智能領(lǐng)域?qū)W者、美國大選受DeepFake影響……即使你不太關(guān)注技術(shù)話題,也不得不承認,人工智能已經(jīng)深度卷入了我們的世界。然而,看著“AI”熱詞滿天飛,大科技公司占據(jù)新聞頭條,我們到底要如何揭示人工智能的真正意義,以及人類身處其中的位置?

《再見智人:技術(shù)-政治與后人類境況》作者、華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍認為,在技術(shù)呈指數(shù)級發(fā)展的當下,缺乏的是政治智慧;對人工智能的信任危機,其實根植于人類彼此的信任危機。書中分析了技術(shù)加速、智慧缺失帶來的困境:大量“無用階級”失業(yè)者不再被社會需要,大國互相爭斗,“智人”的“智”不再名副其實,人類本身也成為了人工智能文明的序曲。

界面文化對吳冠軍的專訪,不僅涉及了“AI與人類的創(chuàng)造力如何不同”等一直被討論、從未有答案的抽象議題,也從特朗普與馬斯克的聯(lián)合、諾獎委員會的選擇、學(xué)歷貶值等近期熱議的話題出發(fā),步步逼近那條最終的道路:今天,我們必須呼吁一次政治智慧的迭代,如果我們以AI為啟發(fā),更新思維范式,不再止步于人類主義的固有框架,那么,智人便有一線生機,在新的地平線上看見自己。

吳冠軍近照。圖片來源:華東師范大學(xué)官網(wǎng)

01 人不只是不信任AI,彼此也不信任

界面文化:與尤瓦爾·赫拉利側(cè)重于人工智能的信息與聯(lián)結(jié)不同,《再見智人》側(cè)重人工智能的技術(shù)-政治面向。為什么研究人工智能需要強調(diào)政治?

吳冠軍:巧合的是,我和赫拉利的新書都是在9月10號出版,我們都是1976年生人?!对僖娭侨恕泛汀吨侨酥稀穬蓚€書名也具有鮮明的互文性(intertextuality)。赫拉利作品的原名是“Nexus”(聯(lián)結(jié)),就像我在那本書的推薦序中所寫,這個關(guān)鍵詞恰恰有一個具體的政治面向。

亞里士多德說,men by nature are political animals(人天生就是政治的動物)。“政治”的詞根在希臘語里是polis,指的是城市,人是在城市生活的動物。亞里士多德認為政治是人的定義性特征,政治對智人來說是唯一關(guān)鍵的、自我界定的向度。意味著人能夠以共同體群居,而不是獨立生存。所以,政治不是很多人理解的暴力爭斗,這恰恰是缺乏政治智慧的表現(xiàn)。動物為了交配殊死爭斗,這不是政治,而是政治的反面,是政治向度的缺失。

現(xiàn)在有了人工智能,我們就更清楚智人是怎么回事了。一種可能是我們離智慧越來越遠,智人本身被邊緣化,也就是“再見智人”了。年輕人傾向于躺平和自我放逐,畢業(yè)找工作時,發(fā)現(xiàn)自己還比不過人工智能,而人工智能盡職盡責(zé)、知識面廣、工作效率又高,信息整合能力也很強。

另一種可能是,我們在新的地平線上重新看到人之智,也就是另一重意義的“再見智人”。在人工智能已然超越人之智能的那些領(lǐng)域,我們是否能夠發(fā)展出與之合作的方式?還是堅持站在人類中心的位置拒認其超出人的智能?可是很多人就是這么想的:我不讓你發(fā)展,因為我怕你比我更強。為了擺脫這種根深蒂固的思維模式,我們需要智人獨有的智慧,那就是形成共同體的智慧。雖然目前人工智能已經(jīng)很厲害、但讓它提出解決當下中東問題或俄烏沖突的方案,恐怕它仍力所不逮。

《再見智人:技術(shù)-政治與后人類境況》
吳冠軍 著
北京大學(xué)出版社 2024-9

“再見智人”是一個雙關(guān)語:一個是和智人say goodbye,智人文明是可能會結(jié)束的,沒有本體論保證使它會一直持續(xù)下去,人類可能只是技術(shù)發(fā)展的一個階段而已;但是,人類也可以發(fā)展出或重新拾起人工智能仍然沒辦法取代的能力,“再見智人”可以指see you again?!凹夹g(shù)-政治”這個詞很好,技術(shù)和政治是人類的兩根拐杖。雖然赫拉利在書中沒有明顯使用“政治”詞匯,但是“聯(lián)結(jié)”就是一種政治性。聯(lián)結(jié)意味著通過各種方式互動,無論是通過神話故事還是信息技術(shù),聯(lián)結(jié)一旦中斷,更高層次的文明發(fā)展就會變得困難。

最近人工智能專業(yè)很熱門,政治專業(yè)卻非常邊緣了,外語專業(yè)也似乎不再重要,因為AI翻譯足夠強大。但我們面對的一個核心問題是:以后要如何與這些“后人類”合作和對話呢?我認為,被逐漸忽視的政治學(xué)恰恰是應(yīng)該重視的。政治沒有終極答案,它不斷面臨新問題,也不能簡單地抄襲或套用以往的答案,永遠是一個持續(xù)迭代的過程。

《智人之上》
[以色列] 尤瓦爾·赫拉利 著 林俊宏 譯
中信出版社 2024-9

界面文化:一方面AI技術(shù)非常先進,另一方面我們的思維模式還是互相爭斗。這讓我想到你在書中強調(diào)的信任,而信任其實是一個沒有理性支撐的跳躍。你為什么會這樣強調(diào)?人工智能這一新成員的加入,會怎樣影響信任缺失的現(xiàn)狀?

吳冠軍:很多人提出要做trustworthy AI(可信任的人工智能),或者停止開發(fā)AI,因為AI內(nèi)部是一個黑箱。但是我們不妨想想,人類的大腦也是黑箱,AI的人工神經(jīng)網(wǎng)絡(luò)作為一種仿生學(xué)概念,模擬的是人類腦神經(jīng)網(wǎng)絡(luò),人腦中有大約800億個神經(jīng)元,它們通過電信號相互交流。腦科學(xué)能夠監(jiān)測到大腦皮層中哪些區(qū)域很活躍,但是無法還原為腦海里在想的內(nèi)容。

我們不斷從新聞中看到這種事情:在西方社會,一個人昨天還是你的同學(xué),今天拿起槍在校園里掃射。美國政府最怕的不是群體作案,那樣還有辦法監(jiān)控,最怕的是一個個腦海黑箱式的“獨狼”。

當?shù)貢r間2023年12月6日,美國內(nèi)華達大學(xué)拉斯維加斯分校發(fā)生槍擊事件,肖恩·哈斯科克(右)和米歇爾·阿什利在兩人為槍擊案受害者留下蠟燭后親吻。圖源:視覺中國

可是,人類是否因為大腦中的黑箱而停止合作了呢?并沒有。背后的原因就是信任,我稱之為一種政治性智慧。信任這件事并沒有基礎(chǔ),如果我能掌握你100%的信息,那我就是上帝了,而上帝是不需要信任他人的,只有人才需要相互信任??墒?,沒有任何本體論來保證人的想法一定符合哈貝馬斯所說的sincere(真誠)和communicative(可交流的),我們只能對信任他者做出一個躍步(leap)。

然而今天,無論是全球?qū)用娴膰H政治,還是私人層面的夫妻關(guān)系,政治智慧都變得很稀薄。我們在面對人工智能時還能擔(dān)得起“智”人的身份嗎?我們不只是不信任AI,我們彼此也不信任。

02 人工智能發(fā)展出慢思考是極有可能的

界面文化:雖然人類和人工智能都是黑箱,但如你在書中所寫,這是兩種完全不同的黑箱,比如人類懂得愛和創(chuàng)造;與人工智能相比,人類有一種本體論上永遠無法被完全實現(xiàn)的潛能。關(guān)于這一點也有不同觀點,比如赫拉利認為,機器也可以進行文化創(chuàng)造。你對此怎么看?

吳冠軍:我們稱人類的大腦為“濕件”(wet ware),既不是硬件也不是軟件,而是一團肉。它有一個關(guān)鍵的有趣之處,也就是可塑性(plasticity),大腦雖然被認為利用率已經(jīng)很高,實際上仍有很大的可塑性。而人工智能模型完成預(yù)訓(xùn)練后,它的能力也就基本定型了,你要么重新再訓(xùn)練一個更高級的模型,比如從GPT-3到GPT-4。

2023年3月15日,上海,一位年輕人訪問和試用OpenAi最新推出的GPT-4。圖源:視覺中國

所以,即便人類在知識廣度上差人工智能很遠,但是我們擁有一個獨有的潛能,那就是可以不斷地再生成、再組織。舉個例子,盲人失去視覺輸入后,視覺神經(jīng)處理區(qū)域會逐漸變得不活躍,但即使是遭遇了這樣的創(chuàng)傷,大腦還是會以積極的方式去應(yīng)對,比如重新調(diào)用觸覺信號,讓你經(jīng)過訓(xùn)練后能讀懂盲文,這對視力正常的人來說是不可思議的。再比如對文科學(xué)者來說,年紀大了以后,盡管生物學(xué)意義上神經(jīng)元總是在變少,由于此前的積累與相互激發(fā),還是進一步能輸出更好的想法。

從生物學(xué)上來說,個體在演化過程中不是很重要,演化是一種快速殘酷的迭代過程,生完孩子基本就完成了DNA傳承的使命。但是,由于人類具有再學(xué)習(xí)和不斷重新訓(xùn)練自己的能力,人類就擁有了一個獨特之處——個體生命變得非常重要,而不是局限于簡單的生物傳承。除非你放棄自己大腦的潛能,躺平做一個吃貨——那就相當于早早結(jié)束了自身的演化可能性。

界面文化:人工智能是否能夠進化出更多潛能?你在書中談到,人工智能的大語言模型是一種前意識的快思考,只有人類能夠慢思考,但是隨著近日OpenAI開發(fā)出o1模型,人工智能也能進行慢思考了。

吳冠軍:這種情況相當有可能。2022年之前,我們都不曾想到,人工智能竟然能具備如此強大的生成能力。有時我們?nèi)⌒θ斯ぶ悄軘?shù)學(xué)不行,比如有次它認為18.18大于18.8,錯誤地將18視作兩位數(shù)。但問題是人類普遍也是數(shù)學(xué)不行,人類最擅長的思維模式就是快思維。我們看到長得像蛇的東西會認為很危險,先逃跑再說;有人對你說了有攻擊性的話,你馬上會感到不快,如果對可能的威脅與危險沒有快思維,根本就活不下來。

生成式人工智能的強大,就在于它用快思維的方式,在很多方面能做到人類只能通過慢思維才能做到的輸出,尤其是文本處理方面。你讀完一本書后寫書評,需要在腦海中提煉書的核心內(nèi)容,而人工智能可以將復(fù)雜的思維過程轉(zhuǎn)化為迅速的輸出。人類的快思考是無法處理抽象的文字,然而人工智能的快思考能夠直接針對具體的象征性符號,直接處理抽象語言。從這方面上來看,它可能真的是一個更厲害的species(物種),而o1這樣的模型顯示出人工智能發(fā)展出慢思考是極有可能的。

當?shù)貢r間2024年5月21日,美國華盛頓州,微軟Build 2024開發(fā)者大會上,OpenAI首席執(zhí)行官薩姆·奧特曼在微軟總部華盛頓州雷德蒙德舉行的微軟Build大會上發(fā)表講話。圖源:視覺中國

03 比起民族國家,“人類命運共同體”是更好的政治智慧

界面文化:特朗普勝選后與馬斯克的一系列聯(lián)合、硅谷精英集體轉(zhuǎn)向右翼,都似乎說明技術(shù)威權(quán)主義十分盛行。你如何看待當下的情況?

吳冠軍:我的理解是,事情都是在變化中的。很多人沒想到,馬斯克竟然會和特朗普合作,他們兩人在很多地方分歧很大,馬斯克做新能源車和SpaceX,核心訴求是改變能源結(jié)構(gòu)和探索火星,為人類文明留后路。但是,特朗普代表的是氣候變化的拒認者,他決定讓美國退出《巴黎氣候協(xié)定》,認為人類可以繼續(xù)過往的方式發(fā)展,不需要做什么改變。特朗普宣布退出協(xié)定的第二天,馬斯克就退出了總統(tǒng)顧問委員會,他認為特朗普是一個大忽悠。然而今天,他們又達成了合作,這是很有意思的。

當?shù)貢r間2024年10月5日,賓夕法尼亞州巴特勒,特斯拉和SpaceX首席執(zhí)行官埃隆·馬斯克(右)在一場競選集會上跳上舞臺,與前美國總統(tǒng)及共和黨總統(tǒng)候選人特朗普(左)同臺亮相,圖源:視覺中國

我的分析是,馬斯克對人類文明懷有一種危機意識。比如9月30日,他為特朗普單獨搞了一場競選演講的背書,表示西方文明可能面臨終結(jié)。他認為,民主黨是更加不作為的,過于關(guān)注政治正確如性別議題,忽視了其他人類的大問題,民主黨上臺可能又是白白浪費四年。馬斯克尤其痛恨“覺醒文化”。我們暫且不評論馬斯克的認知本身,在他的認知中,首先就沒有那么多時間可以浪費。

再反過來看特朗普是一個怎樣的人。特朗普非常在乎“贏”這件事,他甚至說過一句話:“我認為競選總統(tǒng)比做總統(tǒng)更有意思?!辈⑶?,特朗普是商人出身而不是政治家出身,他的施政就可能不會被此前的說法和做法所綁架,說出的話也經(jīng)常隨便改口。他可能會愿意談判,只要他認為他能贏。但如果按照政治正確的標準,很多話是不能說的,稍微說錯就會被貼上標簽。

所以,這就產(chǎn)生了一種可能性:當特朗普和哈里斯勢均力敵時,馬斯克在關(guān)鍵時刻給予助力,讓特朗普獲得了很大的優(yōu)勢,那么接下來,馬斯克就可能擁有很大的政治介入空間、能夠深入影響政治議程,比如帶來技術(shù)和生態(tài)方面的改變。我們也已經(jīng)看到,特朗普在很多場合都帶著馬斯克,比如和澤連斯基通話、參加巴黎圣母院的重開儀式。

這是件好事嗎?我覺得還是蠻好的,今天的時間常常浪費在政客們彼此指責(zé)、彼此起外號的話語中,但我們需要能夠?qū)嶋H地帶來變化的人。至于怎樣變化還無法預(yù)測,但至少會有新的可能性。

你可以不喜歡馬斯克,但他的確是一個思考者,一旦想好以后執(zhí)行力也很強。比如在此之前,沒有人認為去火星這件事可以由私營公司來完成,但是他承擔(dān)了下來,并且做得有聲有色。

界面文化:雖然馬斯克是一個思考者和行動者,推出了Neuralink腦機接口等非常科幻的技術(shù),但如你在書中所說,他的愿景歸根結(jié)底是超人類主義的,會導(dǎo)致權(quán)貴精英最先享受到增強技術(shù),進一步加劇全球不平等,馬斯克對AI的恐懼也仍然根植于“人類-AI”的二元對立。與之相反,后人類主義則是激進地打破了二元對立??梢院唵握?wù)剝煞N框架的區(qū)別嗎?

另一個問題是,如今,真正掌握技術(shù)的人才許多都被招至OpenAI等科技公司,他們也會不可避免地進入技術(shù)-商業(yè)精英的框架;而還在想象“后人類”未來的,似乎是并不擁有技術(shù)的“文科生”。即使我們知道后者才是努力的方向,但是在提出理論之余,還應(yīng)該怎么做?

吳冠軍:這是一個很值得探討的問題。首先要講一下超人類主義和后人類主義的區(qū)別。人類主義一種基于生物性身份的思維邏輯,超人類主義是人類主義的延伸,當馬斯克看到人工智能的挑戰(zhàn),他會想:不能讓人工智能比我更強大,所以要通過腦機接口等方式,使它成為我思維的一部分,從而駕馭它。人類主體是一個基座,其他所有東西都往上加,目的是提升我的能力。經(jīng)常出現(xiàn)兩種心態(tài),一種是對人工智能充滿恐懼、不讓它發(fā)展;另一種寄希望于人工智能來解決人類的問題,這也是一種人類主義,叫做有效加速主義。

在此之外,我們還可以多走一步路,提出另一種思維方式。人類對自己的能力具有信心的歷史并不悠久,只有四五百年,再往前其實并不是這樣。西方文化中有全知全能的上帝,泛神論中山有山神、樹有樹神,許多事物都比我們厲害,《西游記》里的唐僧看到一棵杏樹里的樹精都要嚇死了,所以人類沒什么了不起的。但是幾百年來,人類形成了一定要坐在中心的思維方式,當智能有可能被超越時,就不能平心靜氣地對待了。

因此,“后人類”的概念很好,它不是反人類主義,而是要在人類之后,看看不一樣的可能性,有沒有被人類主義所掩蓋和忽視的存在值得探索和合作。它也不是取代關(guān)系,不再是中心-邊緣的框架,而是擁抱多樣性,打開主體間性、文明間性、物種間性和智能間性。如果世界上只有一種智能,其實你也很孤獨,這意味著你很難再提升了。

圖源:視覺中國

舉個例子,人類的成就與其他生物的合作密切相關(guān),同身體中腸道菌群的合作形成了我們的健康狀態(tài)。從國際角度來說,切斷國家之間的合作并進入“掐脖子”狀態(tài),是一種很愚蠢的行為。很多人留戀人類主義也很正常,就像是留戀故鄉(xiāng),但我們應(yīng)該有更大的思考格局,學(xué)會謙卑,去看到一開始讓你不舒服的存在者。并且,當人類文明變得越來越陳腐、老化,公共平臺上充斥著各種對撕和謾罵,還能出現(xiàn)這么有意思的可能性,這不是很好嗎。

界面文化:奇怪的是,人工智能技術(shù)本身是去中心化、跨學(xué)科的,可現(xiàn)實卻是,它成為了一種中心化和威權(quán)化的技術(shù)。按照書中的觀點,如果全球資本主義秩序、民族國家格局沒有改變,人工智能趨于中心集權(quán)化的未來是否就無法改變?

吳冠軍:這是人類的自我組織的兩種主流方式,兩種方式彼此依存,延續(xù)的時間很長,同時也構(gòu)成了我們當前的僵局。

我們先從民族國家的角度來談起斯特伐利亞合約以來,歐洲國家進入了民族國家狀態(tài),這種狀態(tài)后來主導(dǎo)世界。盡管聯(lián)合國呼吁了許多事情,但它的力量很弱,我們?nèi)蕴幱诓粩嗖翗屪呋鸬木置嬷小?/span>

曾經(jīng),民族(nation)讓世界有了新的可能性。通過這個概念,我們能夠建立連接,形成想象的共同體,連結(jié)許多氏族和種姓,打破了以往不可合作的壁壘。隨著時間的推移,它反而成了紛爭的源頭。政治智慧是沒有最終結(jié)論的,今天可以被視為一個迭代政治智慧的階段,比起民族國家,“人類命運共同體”是一個更好的政治智慧。它超越了傳統(tǒng)的民族框架,在人類乃至行星的意義上思考共同的命運,它更可以開啟各個物種命運共同體的后人類視角。

另一個關(guān)鍵問題是資本主義。資本主義的生存依賴于外部,資本主義不能自給自足地增長,它一定要開辟新的市場、發(fā)現(xiàn)新的方式。今天全球化的程度越來越高,既有的市場越來越飽和,各種資源也已經(jīng)被深度開發(fā),那要如何找到新的地方呢?于是,技術(shù)變得極為重要,一有新技術(shù)出現(xiàn)資本就撲了過去。

圖源:視覺中國

過去的世界是廣闊的,但今天的行星變得越來越小、已經(jīng)變成“地球村”了,導(dǎo)致了許多矛盾。盡管中國和美國地理上相隔遙遠,但地球變小使得他們很近,有人就會感覺對方多吃了一口肉,我就會少吃到一口。在這個意義上,資本主義和民族國家共同形成了一個巨大的矩陣,嚴重制約了人類文明的進步,也讓我們陷入危險的邊緣,比如生態(tài)危機。

在資本主義中,什么都要算一算利潤,生態(tài)問題的成本就很高,例如,實現(xiàn)碳中和的成本就很昂貴。而民族國家的模式讓局面變得更糟糕,特朗普認為,美國憑什么要承擔(dān)責(zé)任?但問題是,生態(tài)問題主要是經(jīng)歷過工業(yè)革命的發(fā)達國家造成的,而不是南方國家。在這個意義上,民族國家與資本主義結(jié)構(gòu)使很多事情無法做成。

技術(shù)也是一樣,AI原本是一個非常好的討論平臺,但現(xiàn)在AI本身變成了一場軍備競賽。所以,我們要呼吁一次政治哲學(xué)的大的迭代。上一次的政治智慧迭代是三四百年前,在以往等級化的社會中,很多人的幸福指數(shù)很低,活著就是吃飽這一件事,但那時的啟蒙哲學(xué)家們發(fā)明了一組新概念,讓我們進入了現(xiàn)代性,人類也取得了許多成就?,F(xiàn)在我們又到了一個關(guān)頭。

04 就算人類輸給人工智能,也不意味著一切都結(jié)束了

界面文化:你在寫這本書時,諾貝爾物理獎和化學(xué)獎授予與人工智能領(lǐng)域相關(guān)的學(xué)者的消息還未公布。但你也在書中寫到,技術(shù)已經(jīng)不再是科學(xué)、政治、藝術(shù)等維度之一,而是凌駕于這些維度,成為主導(dǎo)性維度。在你看來,諾獎委員會的選擇是技術(shù)凌駕于科學(xué)的表征之一嗎?你如何評價這一選擇?

吳冠軍:諾獎物理學(xué)獎公布后,我的朋友圈幾乎炸了。我的一個朋友是有名的哲學(xué)教授,本科學(xué)的是物理學(xué),他非常生氣,說:“諾貝爾獎委員會瘋了,杰弗里·信頓和約翰·霍普菲爾德都是搞人工智能的,計算機科學(xué)有圖靈獎,怎么又跑來搶諾貝爾物理學(xué)獎,他們又沒有受過物理學(xué)的學(xué)術(shù)訓(xùn)練?!?/span>

我的分析是,這次的諾獎既激進又保守。激進在于,他們竟然大踏步?jīng)_破學(xué)科的壁壘,關(guān)注研究者跨學(xué)科的貢獻,而不是物理學(xué)歸物理學(xué),計算機科學(xué)歸計算機科學(xué)。人工智能本身就是跨越學(xué)科的,ChatGPT或者Sora可以是物理學(xué)家,也可以是人類學(xué)家。

保守在于,諾獎委員會在評選時仍然要證明這是人類獲的獎,人類中心主義的思維仍然存在。這導(dǎo)致了某種扭曲——約翰·喬普是AlphaFold的首席科學(xué)家,他并不是做結(jié)構(gòu)分子生物學(xué)的,然而他領(lǐng)銜做出來的計算機模型是一位很棒的結(jié)構(gòu)分子生物學(xué)家。但諾獎委員會無法認可一位連“臉”都沒有的科學(xué)家的成就。同樣,辛頓在人工神經(jīng)網(wǎng)絡(luò)方面的一組奠基性工作使得物理大模型有了可能性,但并不意味著他是這個領(lǐng)域的專家,所以信頓接到獲獎電話時還以為這是一個玩笑。

當?shù)貢r間2024年10月8日,瑞典斯德哥爾摩,在宣布2024年諾貝爾物理學(xué)獎的新聞發(fā)布會上,物理學(xué)家約翰·霍普菲爾德(左)和杰弗里·辛頓的照片出現(xiàn)在屏幕上。圖源:視覺中國

界面文化:我讀過一篇諾貝爾物理學(xué)獎評獎委員會委員Ulf Danielsson的專訪,他也認為AI只是工具,不能自己推動科學(xué)前進。

吳冠軍:我這本書也是一個努力,希望慢慢打開我們的格局。我們只是倚賴生物性的快思考的時候,格局比現(xiàn)在更小,看到不同膚色的人會感到警惕或恐懼。所以人工智能要用起來、不同國別民族的朋友交起來,互相學(xué)習(xí)才是解決生物性恐懼的方式。就算人類最終輸給了人工智能,那也沒關(guān)系,不意味著一切結(jié)束了,我們?nèi)祟愡€可以regroup(重新部署),就像愛因斯坦去到普林斯頓大學(xué)后進行了重新調(diào)整,相對早年物理科研上進展有限,但他成為了一個偉大的公共知識分子。

今天的情況是相反的,學(xué)者在論文署名時,還是不允許給AI共同署名;由于不能署名,學(xué)者使用了ChatGPT進行文獻梳理,結(jié)果就被抓出來說成抄襲。這都是很猥瑣的事情,有好的工具為什么不允許使用呢?

05 當下是人類文明史上政治智慧和技術(shù)智能最脫軌的時代

界面文化:你在書中著重寫了AI時代的教育問題,認為在AI取代人類工作、知識更新迭代加快的當下,教育應(yīng)該從實體學(xué)校的單線灌輸式教學(xué),轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)狀結(jié)構(gòu)的終身教育,所有人都是教-學(xué)實踐的行動者,需要時時與網(wǎng)絡(luò)互動,這樣才不會被淘汰。關(guān)于AI對教育的啟發(fā),可以再展開談?wù)剢幔?/strong>

吳冠軍:今年1月份的Nature雜志有一篇很棒的文章,題目叫做《It Taks Two to Think》(要二才能思)。人類的思考過程從來不是孤立的,看似是“吳冠軍”寫的書,但這建立在我閱讀了許多優(yōu)秀著作、向很多深具洞見的作者進行思想交流的基礎(chǔ)上,只是在人類的寫作傳統(tǒng)中,“作者”不能寫上幾百個,所以我的書“后記”變得很重要,里面有在我生命中那些重要的交流者。

法國哲學(xué)家拉圖爾有一個“行動者網(wǎng)絡(luò)理論”,個體并不是以自我為本體論根基的行動者,而是在互動中才產(chǎn)生了行動者。并不是首先有兩個個體在彼此互動,而是通過互動才有了這樣的你和我。所以,改變和互動是最根本的,關(guān)鍵不是你是誰、有怎樣的理念,關(guān)鍵是你做了什么。

2024年9月,香港科技大學(xué)推出首批“AI講師”。圖源:視覺中國

界面文化:一個疑惑在于,在學(xué)歷貶值、畢業(yè)即失業(yè)的嚴峻情況下,以上討論對大部分人的意義是什么?清華大學(xué)基礎(chǔ)科學(xué)講席教授劉嘉也提到,在AI時代,教育應(yīng)該從就業(yè)導(dǎo)向變?yōu)榭鐚W(xué)科的通識教育??墒悄茏龅竭@一點的,似乎仍然是精英群體,你怎么看?

吳冠軍:可以從兩個角度回答。第一個角度指向自我、我該怎么做;另一個角度是整個社會應(yīng)該怎么部署,使我們能夠更好的合作,而不是互相傷害或產(chǎn)生大量失業(yè)。

從自我出發(fā)就是倫理學(xué),從社會結(jié)構(gòu)出發(fā)就是政治學(xué)。然而在今天,這兩個學(xué)問都幾乎停滯不前。政治學(xué)被邊緣化,我們也不怎么講倫理了,反而要求人工智能講究倫理。

從自我出發(fā),今天面對世界的唯一可能性就是重新構(gòu)建認知地圖。以前,我們是在同學(xué)、父母的軌道上學(xué)習(xí),但是了解人工智能的學(xué)習(xí)模式后,我們可以反思人類的學(xué)習(xí)制度。傳統(tǒng)上,人類的學(xué)習(xí)周期是20多年,工作后就停止學(xué)習(xí)了。然而,學(xué)習(xí)本身是一種重要的倫理實踐,人工智能也要通過學(xué)習(xí)生成新內(nèi)容,因此,學(xué)習(xí)應(yīng)該是終身性的投入,并且要與各種人、后人類對話。

雖然你提到精英與非精英的區(qū)分,但反過來也可以說,你愿不愿意提升自己呢?學(xué)習(xí)的確很累人,因為慢思考會消耗能量,也不符合人的本能,人的眼睛不擅長梳理抽象文字,更擅長處理圖像,所以刷短視頻很開心,但同時你也喪失了很多。而倫理學(xué)要求我們走出舒適圈,不僅僅滿足于當一個“吃貨”。

從政治學(xué)出發(fā),我們面臨的一大挑戰(zhàn)是,大量的人不再被需要。以前只是在體力上不被需要,比如工業(yè)化生產(chǎn)代替了木匠的手工藝,但如今,AI在智能方面的表現(xiàn)也經(jīng)常超過人類。在文明史上,已有的各種社會形態(tài)都高度依賴人力(體力與智力),連戰(zhàn)爭也需要人力,但是現(xiàn)在無人機技術(shù)已經(jīng)很成熟。未來,當AGI(通用人工智能)的時代真正來臨,它在各個領(lǐng)域超過85%甚至90%的人類,那么除了最一流的人類仍有價值和話語權(quán),剩下的絕大多數(shù)怎么辦?

可惜的是,我們?nèi)匀辉谟美戏椒☉?yīng)對新問題。特朗普還認為是移民搶了他們的工作,畢竟沒有臉的人工智能沒法被直接看到,技術(shù)還在以指數(shù)級發(fā)展,這是人類文明史上政治智慧和技術(shù)智能最脫軌的時代。

赫拉利說,總會出現(xiàn)新的工作,可是新工作的學(xué)習(xí)成本誰來支付?人們本來就不愿意學(xué)習(xí),學(xué)習(xí)成本還變得越來越高。最后還是要同時落到技術(shù)與政治,要去加快迭代政治智慧,通過哲學(xué)來創(chuàng)造概念,并把新概念安頓進我們的世界中,否則真的要告別智人了。如果我們能做好,那么在后人類的地平線上,我們將再次見到智人的身影。

未經(jīng)正式授權(quán)嚴禁轉(zhuǎn)載本文,侵權(quán)必究。

評論

暫無評論哦,快來評價一下吧!

下載界面新聞

微信公眾號

微博

我們不只是不信任AI,我們彼此也不信任 | 專訪

《再見智人》作者吳冠軍認為,在技術(shù)呈指數(shù)級發(fā)展的當下,缺乏的是政治智慧。我們必須呼吁一次政治智慧的迭代,不再止步于人類主義的固有框架。

界面新聞記者 | 尹清露

界面新聞編輯 | 黃月

ChatGPT的廣泛應(yīng)用、諾獎頒給人工智能領(lǐng)域?qū)W者、美國大選受DeepFake影響……即使你不太關(guān)注技術(shù)話題,也不得不承認,人工智能已經(jīng)深度卷入了我們的世界。然而,看著“AI”熱詞滿天飛,大科技公司占據(jù)新聞頭條,我們到底要如何揭示人工智能的真正意義,以及人類身處其中的位置?

《再見智人:技術(shù)-政治與后人類境況》作者、華東師范大學(xué)政治與國際關(guān)系學(xué)院院長吳冠軍認為,在技術(shù)呈指數(shù)級發(fā)展的當下,缺乏的是政治智慧;對人工智能的信任危機,其實根植于人類彼此的信任危機。書中分析了技術(shù)加速、智慧缺失帶來的困境:大量“無用階級”失業(yè)者不再被社會需要,大國互相爭斗,“智人”的“智”不再名副其實,人類本身也成為了人工智能文明的序曲。

界面文化對吳冠軍的專訪,不僅涉及了“AI與人類的創(chuàng)造力如何不同”等一直被討論、從未有答案的抽象議題,也從特朗普與馬斯克的聯(lián)合、諾獎委員會的選擇、學(xué)歷貶值等近期熱議的話題出發(fā),步步逼近那條最終的道路:今天,我們必須呼吁一次政治智慧的迭代,如果我們以AI為啟發(fā),更新思維范式,不再止步于人類主義的固有框架,那么,智人便有一線生機,在新的地平線上看見自己。

吳冠軍近照。圖片來源:華東師范大學(xué)官網(wǎng)

01 人不只是不信任AI,彼此也不信任

界面文化:與尤瓦爾·赫拉利側(cè)重于人工智能的信息與聯(lián)結(jié)不同,《再見智人》側(cè)重人工智能的技術(shù)-政治面向。為什么研究人工智能需要強調(diào)政治?

吳冠軍:巧合的是,我和赫拉利的新書都是在9月10號出版,我們都是1976年生人?!对僖娭侨恕泛汀吨侨酥稀穬蓚€書名也具有鮮明的互文性(intertextuality)。赫拉利作品的原名是“Nexus”(聯(lián)結(jié)),就像我在那本書的推薦序中所寫,這個關(guān)鍵詞恰恰有一個具體的政治面向。

亞里士多德說,men by nature are political animals(人天生就是政治的動物)?!罢巍钡脑~根在希臘語里是polis,指的是城市,人是在城市生活的動物。亞里士多德認為政治是人的定義性特征,政治對智人來說是唯一關(guān)鍵的、自我界定的向度。意味著人能夠以共同體群居,而不是獨立生存。所以,政治不是很多人理解的暴力爭斗,這恰恰是缺乏政治智慧的表現(xiàn)。動物為了交配殊死爭斗,這不是政治,而是政治的反面,是政治向度的缺失。

現(xiàn)在有了人工智能,我們就更清楚智人是怎么回事了。一種可能是我們離智慧越來越遠,智人本身被邊緣化,也就是“再見智人”了。年輕人傾向于躺平和自我放逐,畢業(yè)找工作時,發(fā)現(xiàn)自己還比不過人工智能,而人工智能盡職盡責(zé)、知識面廣、工作效率又高,信息整合能力也很強。

另一種可能是,我們在新的地平線上重新看到人之智,也就是另一重意義的“再見智人”。在人工智能已然超越人之智能的那些領(lǐng)域,我們是否能夠發(fā)展出與之合作的方式?還是堅持站在人類中心的位置拒認其超出人的智能?可是很多人就是這么想的:我不讓你發(fā)展,因為我怕你比我更強。為了擺脫這種根深蒂固的思維模式,我們需要智人獨有的智慧,那就是形成共同體的智慧。雖然目前人工智能已經(jīng)很厲害、但讓它提出解決當下中東問題或俄烏沖突的方案,恐怕它仍力所不逮。

《再見智人:技術(shù)-政治與后人類境況》
吳冠軍 著
北京大學(xué)出版社 2024-9

“再見智人”是一個雙關(guān)語:一個是和智人say goodbye,智人文明是可能會結(jié)束的,沒有本體論保證使它會一直持續(xù)下去,人類可能只是技術(shù)發(fā)展的一個階段而已;但是,人類也可以發(fā)展出或重新拾起人工智能仍然沒辦法取代的能力,“再見智人”可以指see you again。“技術(shù)-政治”這個詞很好,技術(shù)和政治是人類的兩根拐杖。雖然赫拉利在書中沒有明顯使用“政治”詞匯,但是“聯(lián)結(jié)”就是一種政治性。聯(lián)結(jié)意味著通過各種方式互動,無論是通過神話故事還是信息技術(shù),聯(lián)結(jié)一旦中斷,更高層次的文明發(fā)展就會變得困難。

最近人工智能專業(yè)很熱門,政治專業(yè)卻非常邊緣了,外語專業(yè)也似乎不再重要,因為AI翻譯足夠強大。但我們面對的一個核心問題是:以后要如何與這些“后人類”合作和對話呢?我認為,被逐漸忽視的政治學(xué)恰恰是應(yīng)該重視的。政治沒有終極答案,它不斷面臨新問題,也不能簡單地抄襲或套用以往的答案,永遠是一個持續(xù)迭代的過程。

《智人之上》
[以色列] 尤瓦爾·赫拉利 著 林俊宏 譯
中信出版社 2024-9

界面文化:一方面AI技術(shù)非常先進,另一方面我們的思維模式還是互相爭斗。這讓我想到你在書中強調(diào)的信任,而信任其實是一個沒有理性支撐的跳躍。你為什么會這樣強調(diào)?人工智能這一新成員的加入,會怎樣影響信任缺失的現(xiàn)狀?

吳冠軍:很多人提出要做trustworthy AI(可信任的人工智能),或者停止開發(fā)AI,因為AI內(nèi)部是一個黑箱。但是我們不妨想想,人類的大腦也是黑箱,AI的人工神經(jīng)網(wǎng)絡(luò)作為一種仿生學(xué)概念,模擬的是人類腦神經(jīng)網(wǎng)絡(luò),人腦中有大約800億個神經(jīng)元,它們通過電信號相互交流。腦科學(xué)能夠監(jiān)測到大腦皮層中哪些區(qū)域很活躍,但是無法還原為腦海里在想的內(nèi)容。

我們不斷從新聞中看到這種事情:在西方社會,一個人昨天還是你的同學(xué),今天拿起槍在校園里掃射。美國政府最怕的不是群體作案,那樣還有辦法監(jiān)控,最怕的是一個個腦海黑箱式的“獨狼”。

當?shù)貢r間2023年12月6日,美國內(nèi)華達大學(xué)拉斯維加斯分校發(fā)生槍擊事件,肖恩·哈斯科克(右)和米歇爾·阿什利在兩人為槍擊案受害者留下蠟燭后親吻。圖源:視覺中國

可是,人類是否因為大腦中的黑箱而停止合作了呢?并沒有。背后的原因就是信任,我稱之為一種政治性智慧。信任這件事并沒有基礎(chǔ),如果我能掌握你100%的信息,那我就是上帝了,而上帝是不需要信任他人的,只有人才需要相互信任??墒?,沒有任何本體論來保證人的想法一定符合哈貝馬斯所說的sincere(真誠)和communicative(可交流的),我們只能對信任他者做出一個躍步(leap)。

然而今天,無論是全球?qū)用娴膰H政治,還是私人層面的夫妻關(guān)系,政治智慧都變得很稀薄。我們在面對人工智能時還能擔(dān)得起“智”人的身份嗎?我們不只是不信任AI,我們彼此也不信任。

02 人工智能發(fā)展出慢思考是極有可能的

界面文化:雖然人類和人工智能都是黑箱,但如你在書中所寫,這是兩種完全不同的黑箱,比如人類懂得愛和創(chuàng)造;與人工智能相比,人類有一種本體論上永遠無法被完全實現(xiàn)的潛能。關(guān)于這一點也有不同觀點,比如赫拉利認為,機器也可以進行文化創(chuàng)造。你對此怎么看?

吳冠軍:我們稱人類的大腦為“濕件”(wet ware),既不是硬件也不是軟件,而是一團肉。它有一個關(guān)鍵的有趣之處,也就是可塑性(plasticity),大腦雖然被認為利用率已經(jīng)很高,實際上仍有很大的可塑性。而人工智能模型完成預(yù)訓(xùn)練后,它的能力也就基本定型了,你要么重新再訓(xùn)練一個更高級的模型,比如從GPT-3到GPT-4。

2023年3月15日,上海,一位年輕人訪問和試用OpenAi最新推出的GPT-4。圖源:視覺中國

所以,即便人類在知識廣度上差人工智能很遠,但是我們擁有一個獨有的潛能,那就是可以不斷地再生成、再組織。舉個例子,盲人失去視覺輸入后,視覺神經(jīng)處理區(qū)域會逐漸變得不活躍,但即使是遭遇了這樣的創(chuàng)傷,大腦還是會以積極的方式去應(yīng)對,比如重新調(diào)用觸覺信號,讓你經(jīng)過訓(xùn)練后能讀懂盲文,這對視力正常的人來說是不可思議的。再比如對文科學(xué)者來說,年紀大了以后,盡管生物學(xué)意義上神經(jīng)元總是在變少,由于此前的積累與相互激發(fā),還是進一步能輸出更好的想法。

從生物學(xué)上來說,個體在演化過程中不是很重要,演化是一種快速殘酷的迭代過程,生完孩子基本就完成了DNA傳承的使命。但是,由于人類具有再學(xué)習(xí)和不斷重新訓(xùn)練自己的能力,人類就擁有了一個獨特之處——個體生命變得非常重要,而不是局限于簡單的生物傳承。除非你放棄自己大腦的潛能,躺平做一個吃貨——那就相當于早早結(jié)束了自身的演化可能性。

界面文化:人工智能是否能夠進化出更多潛能?你在書中談到,人工智能的大語言模型是一種前意識的快思考,只有人類能夠慢思考,但是隨著近日OpenAI開發(fā)出o1模型,人工智能也能進行慢思考了。

吳冠軍:這種情況相當有可能。2022年之前,我們都不曾想到,人工智能竟然能具備如此強大的生成能力。有時我們?nèi)⌒θ斯ぶ悄軘?shù)學(xué)不行,比如有次它認為18.18大于18.8,錯誤地將18視作兩位數(shù)。但問題是人類普遍也是數(shù)學(xué)不行,人類最擅長的思維模式就是快思維。我們看到長得像蛇的東西會認為很危險,先逃跑再說;有人對你說了有攻擊性的話,你馬上會感到不快,如果對可能的威脅與危險沒有快思維,根本就活不下來。

生成式人工智能的強大,就在于它用快思維的方式,在很多方面能做到人類只能通過慢思維才能做到的輸出,尤其是文本處理方面。你讀完一本書后寫書評,需要在腦海中提煉書的核心內(nèi)容,而人工智能可以將復(fù)雜的思維過程轉(zhuǎn)化為迅速的輸出。人類的快思考是無法處理抽象的文字,然而人工智能的快思考能夠直接針對具體的象征性符號,直接處理抽象語言。從這方面上來看,它可能真的是一個更厲害的species(物種),而o1這樣的模型顯示出人工智能發(fā)展出慢思考是極有可能的。

當?shù)貢r間2024年5月21日,美國華盛頓州,微軟Build 2024開發(fā)者大會上,OpenAI首席執(zhí)行官薩姆·奧特曼在微軟總部華盛頓州雷德蒙德舉行的微軟Build大會上發(fā)表講話。圖源:視覺中國

03 比起民族國家,“人類命運共同體”是更好的政治智慧

界面文化:特朗普勝選后與馬斯克的一系列聯(lián)合、硅谷精英集體轉(zhuǎn)向右翼,都似乎說明技術(shù)威權(quán)主義十分盛行。你如何看待當下的情況?

吳冠軍:我的理解是,事情都是在變化中的。很多人沒想到,馬斯克竟然會和特朗普合作,他們兩人在很多地方分歧很大,馬斯克做新能源車和SpaceX,核心訴求是改變能源結(jié)構(gòu)和探索火星,為人類文明留后路。但是,特朗普代表的是氣候變化的拒認者,他決定讓美國退出《巴黎氣候協(xié)定》,認為人類可以繼續(xù)過往的方式發(fā)展,不需要做什么改變。特朗普宣布退出協(xié)定的第二天,馬斯克就退出了總統(tǒng)顧問委員會,他認為特朗普是一個大忽悠。然而今天,他們又達成了合作,這是很有意思的。

當?shù)貢r間2024年10月5日,賓夕法尼亞州巴特勒,特斯拉和SpaceX首席執(zhí)行官埃隆·馬斯克(右)在一場競選集會上跳上舞臺,與前美國總統(tǒng)及共和黨總統(tǒng)候選人特朗普(左)同臺亮相,圖源:視覺中國

我的分析是,馬斯克對人類文明懷有一種危機意識。比如9月30日,他為特朗普單獨搞了一場競選演講的背書,表示西方文明可能面臨終結(jié)。他認為,民主黨是更加不作為的,過于關(guān)注政治正確如性別議題,忽視了其他人類的大問題,民主黨上臺可能又是白白浪費四年。馬斯克尤其痛恨“覺醒文化”。我們暫且不評論馬斯克的認知本身,在他的認知中,首先就沒有那么多時間可以浪費。

再反過來看特朗普是一個怎樣的人。特朗普非常在乎“贏”這件事,他甚至說過一句話:“我認為競選總統(tǒng)比做總統(tǒng)更有意思?!辈⑶遥乩势帐巧倘顺錾矶皇钦渭页錾?,他的施政就可能不會被此前的說法和做法所綁架,說出的話也經(jīng)常隨便改口。他可能會愿意談判,只要他認為他能贏。但如果按照政治正確的標準,很多話是不能說的,稍微說錯就會被貼上標簽。

所以,這就產(chǎn)生了一種可能性:當特朗普和哈里斯勢均力敵時,馬斯克在關(guān)鍵時刻給予助力,讓特朗普獲得了很大的優(yōu)勢,那么接下來,馬斯克就可能擁有很大的政治介入空間、能夠深入影響政治議程,比如帶來技術(shù)和生態(tài)方面的改變。我們也已經(jīng)看到,特朗普在很多場合都帶著馬斯克,比如和澤連斯基通話、參加巴黎圣母院的重開儀式。

這是件好事嗎?我覺得還是蠻好的,今天的時間常常浪費在政客們彼此指責(zé)、彼此起外號的話語中,但我們需要能夠?qū)嶋H地帶來變化的人。至于怎樣變化還無法預(yù)測,但至少會有新的可能性。

你可以不喜歡馬斯克,但他的確是一個思考者,一旦想好以后執(zhí)行力也很強。比如在此之前,沒有人認為去火星這件事可以由私營公司來完成,但是他承擔(dān)了下來,并且做得有聲有色。

界面文化:雖然馬斯克是一個思考者和行動者,推出了Neuralink腦機接口等非常科幻的技術(shù),但如你在書中所說,他的愿景歸根結(jié)底是超人類主義的,會導(dǎo)致權(quán)貴精英最先享受到增強技術(shù),進一步加劇全球不平等,馬斯克對AI的恐懼也仍然根植于“人類-AI”的二元對立。與之相反,后人類主義則是激進地打破了二元對立??梢院唵握?wù)剝煞N框架的區(qū)別嗎?

另一個問題是,如今,真正掌握技術(shù)的人才許多都被招至OpenAI等科技公司,他們也會不可避免地進入技術(shù)-商業(yè)精英的框架;而還在想象“后人類”未來的,似乎是并不擁有技術(shù)的“文科生”。即使我們知道后者才是努力的方向,但是在提出理論之余,還應(yīng)該怎么做?

吳冠軍:這是一個很值得探討的問題。首先要講一下超人類主義和后人類主義的區(qū)別。人類主義一種基于生物性身份的思維邏輯,超人類主義是人類主義的延伸,當馬斯克看到人工智能的挑戰(zhàn),他會想:不能讓人工智能比我更強大,所以要通過腦機接口等方式,使它成為我思維的一部分,從而駕馭它。人類主體是一個基座,其他所有東西都往上加,目的是提升我的能力。經(jīng)常出現(xiàn)兩種心態(tài),一種是對人工智能充滿恐懼、不讓它發(fā)展;另一種寄希望于人工智能來解決人類的問題,這也是一種人類主義,叫做有效加速主義。

在此之外,我們還可以多走一步路,提出另一種思維方式。人類對自己的能力具有信心的歷史并不悠久,只有四五百年,再往前其實并不是這樣。西方文化中有全知全能的上帝,泛神論中山有山神、樹有樹神,許多事物都比我們厲害,《西游記》里的唐僧看到一棵杏樹里的樹精都要嚇死了,所以人類沒什么了不起的。但是幾百年來,人類形成了一定要坐在中心的思維方式,當智能有可能被超越時,就不能平心靜氣地對待了。

因此,“后人類”的概念很好,它不是反人類主義,而是要在人類之后,看看不一樣的可能性,有沒有被人類主義所掩蓋和忽視的存在值得探索和合作。它也不是取代關(guān)系,不再是中心-邊緣的框架,而是擁抱多樣性,打開主體間性、文明間性、物種間性和智能間性。如果世界上只有一種智能,其實你也很孤獨,這意味著你很難再提升了。

圖源:視覺中國

舉個例子,人類的成就與其他生物的合作密切相關(guān),同身體中腸道菌群的合作形成了我們的健康狀態(tài)。從國際角度來說,切斷國家之間的合作并進入“掐脖子”狀態(tài),是一種很愚蠢的行為。很多人留戀人類主義也很正常,就像是留戀故鄉(xiāng),但我們應(yīng)該有更大的思考格局,學(xué)會謙卑,去看到一開始讓你不舒服的存在者。并且,當人類文明變得越來越陳腐、老化,公共平臺上充斥著各種對撕和謾罵,還能出現(xiàn)這么有意思的可能性,這不是很好嗎。

界面文化:奇怪的是,人工智能技術(shù)本身是去中心化、跨學(xué)科的,可現(xiàn)實卻是,它成為了一種中心化和威權(quán)化的技術(shù)。按照書中的觀點,如果全球資本主義秩序、民族國家格局沒有改變,人工智能趨于中心集權(quán)化的未來是否就無法改變?

吳冠軍:這是人類的自我組織的兩種主流方式,兩種方式彼此依存,延續(xù)的時間很長,同時也構(gòu)成了我們當前的僵局。

我們先從民族國家的角度來談起斯特伐利亞合約以來,歐洲國家進入了民族國家狀態(tài),這種狀態(tài)后來主導(dǎo)世界。盡管聯(lián)合國呼吁了許多事情,但它的力量很弱,我們?nèi)蕴幱诓粩嗖翗屪呋鸬木置嬷小?/span>

曾經(jīng),民族(nation)讓世界有了新的可能性。通過這個概念,我們能夠建立連接,形成想象的共同體,連結(jié)許多氏族和種姓,打破了以往不可合作的壁壘。隨著時間的推移,它反而成了紛爭的源頭。政治智慧是沒有最終結(jié)論的,今天可以被視為一個迭代政治智慧的階段,比起民族國家,“人類命運共同體”是一個更好的政治智慧。它超越了傳統(tǒng)的民族框架,在人類乃至行星的意義上思考共同的命運,它更可以開啟各個物種命運共同體的后人類視角。

另一個關(guān)鍵問題是資本主義。資本主義的生存依賴于外部,資本主義不能自給自足地增長,它一定要開辟新的市場、發(fā)現(xiàn)新的方式。今天全球化的程度越來越高,既有的市場越來越飽和,各種資源也已經(jīng)被深度開發(fā),那要如何找到新的地方呢?于是,技術(shù)變得極為重要,一有新技術(shù)出現(xiàn)資本就撲了過去。

圖源:視覺中國

過去的世界是廣闊的,但今天的行星變得越來越小、已經(jīng)變成“地球村”了,導(dǎo)致了許多矛盾。盡管中國和美國地理上相隔遙遠,但地球變小使得他們很近,有人就會感覺對方多吃了一口肉,我就會少吃到一口。在這個意義上,資本主義和民族國家共同形成了一個巨大的矩陣,嚴重制約了人類文明的進步,也讓我們陷入危險的邊緣,比如生態(tài)危機。

在資本主義中,什么都要算一算利潤,生態(tài)問題的成本就很高,例如,實現(xiàn)碳中和的成本就很昂貴。而民族國家的模式讓局面變得更糟糕,特朗普認為,美國憑什么要承擔(dān)責(zé)任?但問題是,生態(tài)問題主要是經(jīng)歷過工業(yè)革命的發(fā)達國家造成的,而不是南方國家。在這個意義上,民族國家與資本主義結(jié)構(gòu)使很多事情無法做成。

技術(shù)也是一樣,AI原本是一個非常好的討論平臺,但現(xiàn)在AI本身變成了一場軍備競賽。所以,我們要呼吁一次政治哲學(xué)的大的迭代。上一次的政治智慧迭代是三四百年前,在以往等級化的社會中,很多人的幸福指數(shù)很低,活著就是吃飽這一件事,但那時的啟蒙哲學(xué)家們發(fā)明了一組新概念,讓我們進入了現(xiàn)代性,人類也取得了許多成就?,F(xiàn)在我們又到了一個關(guān)頭。

04 就算人類輸給人工智能,也不意味著一切都結(jié)束了

界面文化:你在寫這本書時,諾貝爾物理獎和化學(xué)獎授予與人工智能領(lǐng)域相關(guān)的學(xué)者的消息還未公布。但你也在書中寫到,技術(shù)已經(jīng)不再是科學(xué)、政治、藝術(shù)等維度之一,而是凌駕于這些維度,成為主導(dǎo)性維度。在你看來,諾獎委員會的選擇是技術(shù)凌駕于科學(xué)的表征之一嗎?你如何評價這一選擇?

吳冠軍:諾獎物理學(xué)獎公布后,我的朋友圈幾乎炸了。我的一個朋友是有名的哲學(xué)教授,本科學(xué)的是物理學(xué),他非常生氣,說:“諾貝爾獎委員會瘋了,杰弗里·信頓和約翰·霍普菲爾德都是搞人工智能的,計算機科學(xué)有圖靈獎,怎么又跑來搶諾貝爾物理學(xué)獎,他們又沒有受過物理學(xué)的學(xué)術(shù)訓(xùn)練?!?/span>

我的分析是,這次的諾獎既激進又保守。激進在于,他們竟然大踏步?jīng)_破學(xué)科的壁壘,關(guān)注研究者跨學(xué)科的貢獻,而不是物理學(xué)歸物理學(xué),計算機科學(xué)歸計算機科學(xué)。人工智能本身就是跨越學(xué)科的,ChatGPT或者Sora可以是物理學(xué)家,也可以是人類學(xué)家。

保守在于,諾獎委員會在評選時仍然要證明這是人類獲的獎,人類中心主義的思維仍然存在。這導(dǎo)致了某種扭曲——約翰·喬普是AlphaFold的首席科學(xué)家,他并不是做結(jié)構(gòu)分子生物學(xué)的,然而他領(lǐng)銜做出來的計算機模型是一位很棒的結(jié)構(gòu)分子生物學(xué)家。但諾獎委員會無法認可一位連“臉”都沒有的科學(xué)家的成就。同樣,辛頓在人工神經(jīng)網(wǎng)絡(luò)方面的一組奠基性工作使得物理大模型有了可能性,但并不意味著他是這個領(lǐng)域的專家,所以信頓接到獲獎電話時還以為這是一個玩笑。

當?shù)貢r間2024年10月8日,瑞典斯德哥爾摩,在宣布2024年諾貝爾物理學(xué)獎的新聞發(fā)布會上,物理學(xué)家約翰·霍普菲爾德(左)和杰弗里·辛頓的照片出現(xiàn)在屏幕上。圖源:視覺中國

界面文化:我讀過一篇諾貝爾物理學(xué)獎評獎委員會委員Ulf Danielsson的專訪,他也認為AI只是工具,不能自己推動科學(xué)前進。

吳冠軍:我這本書也是一個努力,希望慢慢打開我們的格局。我們只是倚賴生物性的快思考的時候,格局比現(xiàn)在更小,看到不同膚色的人會感到警惕或恐懼。所以人工智能要用起來、不同國別民族的朋友交起來,互相學(xué)習(xí)才是解決生物性恐懼的方式。就算人類最終輸給了人工智能,那也沒關(guān)系,不意味著一切結(jié)束了,我們?nèi)祟愡€可以regroup(重新部署),就像愛因斯坦去到普林斯頓大學(xué)后進行了重新調(diào)整,相對早年物理科研上進展有限,但他成為了一個偉大的公共知識分子。

今天的情況是相反的,學(xué)者在論文署名時,還是不允許給AI共同署名;由于不能署名,學(xué)者使用了ChatGPT進行文獻梳理,結(jié)果就被抓出來說成抄襲。這都是很猥瑣的事情,有好的工具為什么不允許使用呢?

05 當下是人類文明史上政治智慧和技術(shù)智能最脫軌的時代

界面文化:你在書中著重寫了AI時代的教育問題,認為在AI取代人類工作、知識更新迭代加快的當下,教育應(yīng)該從實體學(xué)校的單線灌輸式教學(xué),轉(zhuǎn)變?yōu)榫W(wǎng)絡(luò)狀結(jié)構(gòu)的終身教育,所有人都是教-學(xué)實踐的行動者,需要時時與網(wǎng)絡(luò)互動,這樣才不會被淘汰。關(guān)于AI對教育的啟發(fā),可以再展開談?wù)剢幔?/strong>

吳冠軍:今年1月份的Nature雜志有一篇很棒的文章,題目叫做《It Taks Two to Think》(要二才能思)。人類的思考過程從來不是孤立的,看似是“吳冠軍”寫的書,但這建立在我閱讀了許多優(yōu)秀著作、向很多深具洞見的作者進行思想交流的基礎(chǔ)上,只是在人類的寫作傳統(tǒng)中,“作者”不能寫上幾百個,所以我的書“后記”變得很重要,里面有在我生命中那些重要的交流者。

法國哲學(xué)家拉圖爾有一個“行動者網(wǎng)絡(luò)理論”,個體并不是以自我為本體論根基的行動者,而是在互動中才產(chǎn)生了行動者。并不是首先有兩個個體在彼此互動,而是通過互動才有了這樣的你和我。所以,改變和互動是最根本的,關(guān)鍵不是你是誰、有怎樣的理念,關(guān)鍵是你做了什么。

2024年9月,香港科技大學(xué)推出首批“AI講師”。圖源:視覺中國

界面文化:一個疑惑在于,在學(xué)歷貶值、畢業(yè)即失業(yè)的嚴峻情況下,以上討論對大部分人的意義是什么?清華大學(xué)基礎(chǔ)科學(xué)講席教授劉嘉也提到,在AI時代,教育應(yīng)該從就業(yè)導(dǎo)向變?yōu)榭鐚W(xué)科的通識教育??墒悄茏龅竭@一點的,似乎仍然是精英群體,你怎么看?

吳冠軍:可以從兩個角度回答。第一個角度指向自我、我該怎么做;另一個角度是整個社會應(yīng)該怎么部署,使我們能夠更好的合作,而不是互相傷害或產(chǎn)生大量失業(yè)。

從自我出發(fā)就是倫理學(xué),從社會結(jié)構(gòu)出發(fā)就是政治學(xué)。然而在今天,這兩個學(xué)問都幾乎停滯不前。政治學(xué)被邊緣化,我們也不怎么講倫理了,反而要求人工智能講究倫理。

從自我出發(fā),今天面對世界的唯一可能性就是重新構(gòu)建認知地圖。以前,我們是在同學(xué)、父母的軌道上學(xué)習(xí),但是了解人工智能的學(xué)習(xí)模式后,我們可以反思人類的學(xué)習(xí)制度。傳統(tǒng)上,人類的學(xué)習(xí)周期是20多年,工作后就停止學(xué)習(xí)了。然而,學(xué)習(xí)本身是一種重要的倫理實踐,人工智能也要通過學(xué)習(xí)生成新內(nèi)容,因此,學(xué)習(xí)應(yīng)該是終身性的投入,并且要與各種人、后人類對話。

雖然你提到精英與非精英的區(qū)分,但反過來也可以說,你愿不愿意提升自己呢?學(xué)習(xí)的確很累人,因為慢思考會消耗能量,也不符合人的本能,人的眼睛不擅長梳理抽象文字,更擅長處理圖像,所以刷短視頻很開心,但同時你也喪失了很多。而倫理學(xué)要求我們走出舒適圈,不僅僅滿足于當一個“吃貨”。

從政治學(xué)出發(fā),我們面臨的一大挑戰(zhàn)是,大量的人不再被需要。以前只是在體力上不被需要,比如工業(yè)化生產(chǎn)代替了木匠的手工藝,但如今,AI在智能方面的表現(xiàn)也經(jīng)常超過人類。在文明史上,已有的各種社會形態(tài)都高度依賴人力(體力與智力),連戰(zhàn)爭也需要人力,但是現(xiàn)在無人機技術(shù)已經(jīng)很成熟。未來,當AGI(通用人工智能)的時代真正來臨,它在各個領(lǐng)域超過85%甚至90%的人類,那么除了最一流的人類仍有價值和話語權(quán),剩下的絕大多數(shù)怎么辦?

可惜的是,我們?nèi)匀辉谟美戏椒☉?yīng)對新問題。特朗普還認為是移民搶了他們的工作,畢竟沒有臉的人工智能沒法被直接看到,技術(shù)還在以指數(shù)級發(fā)展,這是人類文明史上政治智慧和技術(shù)智能最脫軌的時代。

赫拉利說,總會出現(xiàn)新的工作,可是新工作的學(xué)習(xí)成本誰來支付?人們本來就不愿意學(xué)習(xí),學(xué)習(xí)成本還變得越來越高。最后還是要同時落到技術(shù)與政治,要去加快迭代政治智慧,通過哲學(xué)來創(chuàng)造概念,并把新概念安頓進我們的世界中,否則真的要告別智人了。如果我們能做好,那么在后人類的地平線上,我們將再次見到智人的身影。

未經(jīng)正式授權(quán)嚴禁轉(zhuǎn)載本文,侵權(quán)必究。