界面新聞?dòng)浾?| 尹清露

界面新聞編輯 | 黃月

一貫重視用戶體驗(yàn)的蘋果公司，最近卻在這上面栽了跟頭。5月7日，蘋果發(fā)布了新款iPad Pro的廣告短片《Crush》，畫面中，一臺巨大的液壓機(jī)把書籍、樂器、顏料等物品以摧枯拉朽之勢壓碎，凝結(jié)出了迄今為止最輕薄的iPad。廣告很快引發(fā)群嘲，網(wǎng)友紛紛質(zhì)疑，為何技術(shù)的革新一定要以毀壞人們珍愛之物為代價(jià)？也有人上傳了倒放版的短片——被損毀的吉他和鋼琴恢復(fù)了原來的模樣，這才更符合人們心目中的世界。

5月9日，蘋果公司發(fā)布道歉聲明稱，“我們的目標(biāo)一直是慶祝用戶通過iPad將想法變成現(xiàn)實(shí)，這段視頻沒有切中要害?！敝徊贿^，在被技術(shù)牢牢掌控的今天，聲明也顯得于事無補(bǔ)。用電子設(shè)備代替真實(shí)創(chuàng)作工具已經(jīng)是創(chuàng)作者的現(xiàn)實(shí)，直到蘋果也將之視為理所當(dāng)然，我們才驚慌地發(fā)現(xiàn)，“相信技術(shù)變革”與“恐懼技術(shù)毀滅人類”之間的張力已經(jīng)如此之大，來到了難以調(diào)和的境地。

于是，界面文化（ID：booksandfun）邀請清華大學(xué)人文學(xué)院教授汪民安，從這則廣告入手，探討了現(xiàn)代化以來的技術(shù)變革，要以怎樣的理論視角解釋今日的技術(shù)。汪民安認(rèn)為，技術(shù)既有毒性也有藥性，人們的生死都置放在技術(shù)框架下，很難過一種完全逃避技術(shù)的生活，能做的只是盡量降低技術(shù)的毒性。

我們當(dāng)下所面對的一個(gè)現(xiàn)實(shí)是，技術(shù)的變化永遠(yuǎn)比想象中更快。就在汪民安回復(fù)書面采訪的前一天，也就是5月14日，OpenAI發(fā)布了GPT-4o，它可以實(shí)時(shí)識別用戶的情緒并進(jìn)行語音對話，如同直接從科幻電影《Her》走出來的薩曼莎。這讓人想起福柯對“人之死”的隱喻：“人將被抹去，如同海邊沙灘上一張臉的形象。”只不過就如汪民安所說，今天的人工智能是在非常現(xiàn)實(shí)的意義上去預(yù)言人之死的。接下來人類的命運(yùn)幾何？答案仍在風(fēng)中飄著。

01 社會(huì)變得透明，是人們對技術(shù)最直接的恐懼

界面文化：你覺得觀眾對蘋果廣告的反應(yīng)為什么如此劇烈？

汪民安：那個(gè)廣告最直觀的感覺就是暴力。技術(shù)肯定對人會(huì)產(chǎn)生暴力，但是，技術(shù)的暴力通常是無形的，是不可見的，甚至常常是被忽略掉的，因?yàn)榧夹g(shù)在某些層面上還有明確的積極的意義，或者說我們看到和經(jīng)驗(yàn)到的通常都是技術(shù)的積極一面。但是，這個(gè)廣告表達(dá)的技術(shù)暴力如此地直接和粗魯，它還有明顯的反智傾向，看起來是對人類既有文明的踐踏。人們當(dāng)然會(huì)感到強(qiáng)烈的不適。

不過，我也要為這個(gè)廣告辯護(hù)幾句。廣告提供的通常是幻覺和謊言——人們有時(shí)候需要幻覺，只有借助幻覺才能生活下去。這同樣也是早期藝術(shù)的功能。尼采就說過，希臘悲劇的意義就在于它提供的是一個(gè)謊言世界，這個(gè)謊言可以讓人們擺脫掉對真實(shí)生活的恐懼，因此，藝術(shù)（謊言）對人來說至關(guān)重要。一般來說，廣告也是謊言，也是讓人們能夠心安理得地順從地生活。這是人們對廣告不滿和抱怨的一個(gè)重要原因。但蘋果的這個(gè)廣告短片卻不同凡響地去表達(dá)真實(shí)——人們不僅因?yàn)槠渲械谋┝Ω械讲贿m，人們也因?yàn)槊鎸χ鎸?shí)而感到不適?；蛟S人們已經(jīng)習(xí)慣廣告的謊言了。

界面文化：在短片中，液壓機(jī)的形象讓人聯(lián)想起工業(yè)文明時(shí)期人被機(jī)器控制的不適和恐懼。然而，廣告呈現(xiàn)的不再是工業(yè)革命，而是科技革命——所有的實(shí)體物都被數(shù)字化了。這樣看來，我們?nèi)缃竦目謶质菍^往的延續(xù)嗎，還是其中產(chǎn)生了某些變化？

汪民安：工業(yè)革命以來的技術(shù)經(jīng)歷了幾個(gè)階段。每一個(gè)階段都產(chǎn)生了不同的控制效果。19世紀(jì)開始出現(xiàn)的機(jī)械化工業(yè)革命開始將人束縛于機(jī)器的節(jié)奏中。無論是個(gè)體還是社會(huì)，都是根據(jù)機(jī)器的運(yùn)轉(zhuǎn)速度而被動(dòng)地運(yùn)轉(zhuǎn)。人的這種受縛狀態(tài)，馬克思主義傳統(tǒng)做過最深入的分析，這就是所謂的“異化”或者“物化”。這樣的控制基礎(chǔ)是身體控制，或者說，是通過身體控制對整全的個(gè)體進(jìn)行控制。

但是，到了20世紀(jì)中期，技術(shù)出現(xiàn)了一次變化。除了生產(chǎn)性的工業(yè)技術(shù)外，媒介技術(shù)有過一次大規(guī)模擴(kuò)張。媒介技術(shù)的控制更多是記憶，視覺和精神方面的。麥克盧漢把媒介看做是人的延伸。人的延伸當(dāng)然也可以理解成人的知覺和記憶能力的增強(qiáng)，但是，這種增強(qiáng)是靠技術(shù)來完成的，正是過度依賴于這些外在技術(shù)，我們也可以反過來把它理解成人的這些內(nèi)在的自然能力的減弱。無論如何，媒介技術(shù)是通過控制身體的記憶和知覺來控制整全的個(gè)體的。它當(dāng)然不是對工業(yè)技術(shù)的取代，而是和工業(yè)技術(shù)疊加在一起來進(jìn)行更全面更總體性的內(nèi)外控制。正是在這個(gè)意義上，60年代的社會(huì)被稱之為后工業(yè)社會(huì)，或者也被說成景觀社會(huì)、消費(fèi)社會(huì)。景觀和消費(fèi)當(dāng)然脫離不了媒介霸權(quán)。

今天的情況完全不同。今天是數(shù)字化技術(shù)的時(shí)代，所有的實(shí)體物都被數(shù)據(jù)化了，它在徹底重組人類的生活。數(shù)字化技術(shù)的影響是全方位的，每個(gè)人都有所體會(huì)。就像所有技術(shù)一樣，它帶來了太多的便利；但也像所有技術(shù)一樣，它帶來了太多的恐懼。你問的是人們對此的恐懼，我覺得最直接的恐懼，就是今天變成了一個(gè)透明社會(huì)。一切都是敞開的，一切都是透明的，甚至你的意愿和觀念也都可以被大數(shù)據(jù)計(jì)算清楚，它們都不是什么隱私了。如果由我來給人類下定義的話，我會(huì)說，人應(yīng)該是有隱私的動(dòng)物。如果沒有隱私，是不是也是一種人的消失？另一個(gè)恐懼，或者說是擔(dān)憂吧，那就是人本身可能會(huì)徹底地發(fā)生改變?；蛘撸覀兏^一點(diǎn)地說，古典的人文主義意義上的人可能會(huì)消失。這也正是“后人類”這個(gè)概念流行的原因。

02 人工智能在現(xiàn)實(shí)的意義上預(yù)言了“人之死”

界面文化：你曾提到，?？略?960年代預(yù)言了“人之死”，他指的是作為主宰地位的現(xiàn)代人之死，是隱喻上的死亡；而人工智能或許會(huì)引發(fā)另外一次“人之死”，人會(huì)變得愚蠢、不再主動(dòng)思考。可否詳細(xì)談?wù)?，兩次死亡的區(qū)別和關(guān)聯(lián)是什么？ 

汪民安：福柯提及的“人之死”，指的是人文科學(xué)所確定的關(guān)于人的概念的死亡。?？碌囊馑际?8世紀(jì)開始出現(xiàn)了所謂的成熟的人文科學(xué)（human science），就是關(guān)于人的一套學(xué)說。這個(gè)學(xué)說對人有種種定義和主張，其核心是強(qiáng)調(diào)人的主體性和理性。但是，從尼采開始，一直到?？卤救藢懴隆对~與物》這本書的20世紀(jì)60年代，有大量的對人文科學(xué)有關(guān)人的定義的質(zhì)疑和批判。所謂的人之死就是對這樣一個(gè)人的觀念的質(zhì)疑：死掉的是作為主體的人和理性的人這樣一種觀念，而不是真正的現(xiàn)實(shí)的人。這類批判為今天各種各樣的后人類主張奠定了理論基礎(chǔ)。

但是，今天的人工智能是在非?，F(xiàn)實(shí)的意義上去預(yù)言人之死的。人工智能的基礎(chǔ)是控制論。早期的諸如維納這樣的控制論理論家，將生命理解為一套信息。這是一個(gè)顛覆性的觀點(diǎn)：在這之前，人們把生命要么理解為物質(zhì)構(gòu)成，要么理解為力、能量、沖動(dòng)或欲望，等等。而維納等人努力將人理解為一套信息程序，一套算法模式，生命就是由算法、數(shù)據(jù)和代碼函數(shù)等構(gòu)成的。一切都是算法。如果是這樣的話，具體的物質(zhì)形象或者肉身，對生命而言不再是根本性的了，它們不過是附著在算法程序上面的臨時(shí)載體。算法程序可以擺脫它們獨(dú)自存在。正是基于這一理念，早期控制論理論家試圖將大腦中的信息從大腦中提取出來，將它保存在另一個(gè)地方從而讓生命變得不朽。

這樣一個(gè)同肉身剝離的數(shù)據(jù)生命，它本身不帶有觀念、意識形態(tài)和人格，它和智能機(jī)器（計(jì)算機(jī)）類似，甚至可以與之結(jié)合起來。也正是因?yàn)樗且粋€(gè)數(shù)據(jù)，一個(gè)信息化的生命，它才可以和機(jī)器相類比。或者說，機(jī)器可以和它相類比，可以和它相結(jié)合。人和智能機(jī)器的界線就被打破了，二者沒有什么本質(zhì)的不同，二者之間的信息可以自由流動(dòng)。如果人的肉身不重要的話，那么，傳統(tǒng)意義上的人就不存在了。還存在生命，但不是我們一般意義上的人的生命。ChatGPT、AlphaGo都是這樣的無身體的數(shù)據(jù)生命，這樣的生命在很多科幻電影中也出現(xiàn)過。當(dāng)然還有各種各樣的有形的智能機(jī)器，它們由硅元素組成，能活動(dòng)，能感知，比如無人駕駛汽車，它們同樣也是計(jì)算生命?，F(xiàn)在人們都擔(dān)心，這兩種類型的人工智能或者人工生命是否會(huì)取代或者否定肉身生命？也就是說，是否會(huì)出現(xiàn)一種現(xiàn)實(shí)意義上的人之死？

界面文化：有觀點(diǎn)認(rèn)為，注重用戶體驗(yàn)的蘋果竟然沒意識到這則廣告的負(fù)面觀感，說明技術(shù)進(jìn)步的信念如此深入人心，以至于沒人覺得不妥。但另一方面，人們又在擔(dān)憂被技術(shù)奴役。

最近你的文集《親密關(guān)系的核心是友誼》出版，收錄其中的演講稿《技術(shù)末世論》提到了這一矛盾，認(rèn)為現(xiàn)代人會(huì)不停地實(shí)現(xiàn)潛能，直到那個(gè)臨界點(diǎn)到來——技術(shù)能輕易地毀滅人類。你覺得我們來到臨界點(diǎn)了嗎？對技術(shù)的擔(dān)憂和驚懼，是否說明我們終于從現(xiàn)代人的幻夢中醒過來了？你對技術(shù)整體抱著悲觀的態(tài)度嗎？

汪民安：進(jìn)步論是現(xiàn)代性的一個(gè)核心法則。但是對技術(shù)進(jìn)步的擔(dān)憂在啟蒙時(shí)期就出現(xiàn)了。盧梭在工業(yè)技術(shù)開始出現(xiàn)苗頭的時(shí)候就意識到它可能帶來的危險(xiǎn)。但是，二十世紀(jì)成熟的規(guī)?；墓I(yè)技術(shù)已經(jīng)顯露出它的消極后果，這促使海德格爾和本雅明對技術(shù)進(jìn)步做了更為深入的批判。不過，他們批判的著力點(diǎn)不完全一樣。對海德格爾來說，技術(shù)對大地的開墾和索取會(huì)讓人們最終無家可歸。本雅明認(rèn)為技術(shù)的進(jìn)步不過是剝削的進(jìn)步，是文化和道德的退步。  

海德格爾的批判引發(fā)了大規(guī)模的反響，生態(tài)和氣候問題現(xiàn)在成為最重要和最迫切的議題之一，哈拉維、拉圖爾還有一大批人類學(xué)家實(shí)際上都在海德格爾的批判框架下工作。本雅明的技術(shù)批判關(guān)注的人不是很多，但是，我們只要看看當(dāng)今的全球現(xiàn)實(shí)，就發(fā)現(xiàn)他非常有預(yù)見性。技術(shù)確實(shí)在進(jìn)步，但是，全球范圍內(nèi)的貧富差距越來越大，科技巨頭是為了財(cái)富而拼命發(fā)展技術(shù)的。對他們來說，技術(shù)的進(jìn)步首先是一個(gè)積累財(cái)富的問題，或者說是一個(gè)市場競爭的問題，改進(jìn)人類生活是附帶目標(biāo)。技術(shù)進(jìn)步不過是富人的財(cái)富進(jìn)步，技術(shù)的壟斷者也是財(cái)富的壟斷者。

從這個(gè)意義上來說，技術(shù)進(jìn)步是不道德的，它確實(shí)是文化的退步。我們暫且不要夸大其詞地說，技術(shù)進(jìn)步會(huì)導(dǎo)致人的奴役甚至毀滅，會(huì)導(dǎo)致一個(gè)所謂的新的末世論，我們只要看看今天全球范圍內(nèi)的民粹主義擴(kuò)張就知道它的負(fù)面作用了：無數(shù)諸眾正在遭到技術(shù)進(jìn)步的拋棄。每個(gè)人都感知到技術(shù)在進(jìn)步，但并不是每個(gè)人都感覺到生活在改善。我的法國朋友告訴我，他們的生活水平不如上個(gè)世紀(jì)80年代，而這并非個(gè)別現(xiàn)象。

至于我們是否到臨界點(diǎn)？事實(shí)上，不用考慮未來的人工智能，甚至不需要專業(yè)人士來告訴我們，我們只要自己體會(huì)一下我們反常的天氣狀況——我們不是每個(gè)人都覺得最近幾年的氣候越來越奇怪了嗎？如果沒有危機(jī)意識，如果不采取干預(yù)行動(dòng)，真的會(huì)出現(xiàn)危險(xiǎn)。但是我碰到過很多人包括一些受過很好教育的知識分子，認(rèn)為氣候變暖是一個(gè)假問題，是陰謀論。

界面文化：如今，科技的敘事似乎仍然受制于“控制或被控制”這一對立。你的《ChatGPT的互文性、生成和異化》一文談到，人的語言被ChatGPT所統(tǒng)治，就像是曾經(jīng)在車間的身體被機(jī)器的齒輪所統(tǒng)治一樣。也常有人用福柯的規(guī)訓(xùn)理論來說明算法對勞動(dòng)者的奴役。

可是，這些舊日的理論還能解釋今天的技術(shù)嗎？除此之外，還有其他更廣闊的視角嗎？與之相關(guān)的另一個(gè)問題是，在這個(gè)流媒體時(shí)代，人們越來越難以看完整的書、聽完整的唱片，一切都是被壓縮的和碎片化的。你怎樣看這一現(xiàn)狀？如果還執(zhí)著于本雅明的“靈韻”之消逝，是否會(huì)錯(cuò)過當(dāng)今時(shí)代本身的某些特征？

汪民安： 我不怎么對理論進(jìn)行新舊區(qū)分。很多新的理論都是建立對往日的理論的回跳或重讀的基礎(chǔ)上的。所有的理論都是開放的，不同的理論可以有跨時(shí)空的疊拼和并置從而形成一個(gè)新的理論。不要說?？禄蛘叩吕掌澋睦碚?，更早的海德格爾的理論，黑格爾的理論甚至亞里士多德的理論，我覺得仍舊有強(qiáng)烈的現(xiàn)實(shí)意義。理論和現(xiàn)實(shí)的關(guān)系是靈活性的，一種現(xiàn)實(shí)并不意味著只能有一套理論來解釋。所有的解釋都是局部視角的，因?yàn)槊恳环N現(xiàn)實(shí)總是呈現(xiàn)為多個(gè)層面和多個(gè)維度。

就算法奴役而言，你從不同的角度看，它展開的就是不同層面的問題。我們當(dāng)然可以用規(guī)訓(xùn)理論：這是對身體每時(shí)每刻的管理；用德勒茲的控制社會(huì)的理論解釋也沒有問題：你一天必須有多少績效，你最多可以達(dá)到多少績效；你還可以用維納的控制論：這是將人的生命看成是一套計(jì)算程序，和機(jī)器一樣的計(jì)算程序；你也可以用馬克思主義傳統(tǒng)的“物化”理論和剝削理論來解釋：這當(dāng)然是一種新的剝削方式，當(dāng)然是將人改造為一個(gè)開足馬力的物質(zhì)化的運(yùn)輸機(jī)器，當(dāng)然也是資本家盤剝剩余價(jià)值的新手段；你還可以用加速主義理論，用德賽都的都市戰(zhàn)略理論，甚至用結(jié)構(gòu)主義理論來解釋——你也可以將這些理論進(jìn)行恰當(dāng)?shù)恼{(diào)和運(yùn)用而發(fā)展出一套自己的理論來。

對碎片化閱讀也有廣泛的多樣化解釋。碎片化是19世紀(jì)大都市出現(xiàn)時(shí)就出現(xiàn)的現(xiàn)象。它當(dāng)然不止是靈韻的消失，還是專注力的消失，是現(xiàn)代生活大漩渦的必然結(jié)果，是時(shí)空壓縮的全新經(jīng)驗(yàn)，當(dāng)然也是對今天信息無休無止的生產(chǎn)和上傳的一個(gè)必然回應(yīng)，每個(gè)人都是無限信息洪流沖刷過的碎片。不過，我要說，雖然我是研究理論的，但我很少嘗試用某一種先在的理論去解釋某一種現(xiàn)實(shí)這樣的工作方法。我更喜歡直面現(xiàn)實(shí)本身去描繪它，我越來越喜歡現(xiàn)象學(xué)的方法了。

03 無法完全逃避技術(shù)，可以盡量降低其毒性

界面文化：你曾在《論愛欲》中談到巴迪歐對愛的觀點(diǎn)：愛不是強(qiáng)行把所有都納入“一”，不是控制和支配對方，而是承認(rèn)異質(zhì)性和混雜物的存在，并用對方的視角體驗(yàn)世界。所以，對愛欲的思考是否也能啟發(fā)人與機(jī)器/人工智能的關(guān)系？

汪民安：這個(gè)我沒什么經(jīng)驗(yàn)，我只是嘗試和ChatGPT對話過，它沒有說出什么特別有意思的東西來。它提供的只是知識方面的，它總是在回應(yīng)，總是被動(dòng)的，它不會(huì)問你。

我希望有這樣一種智能機(jī)器，它不停地問你，對你產(chǎn)生好奇，就像一個(gè)陌生人對另一個(gè)陌生人那樣充滿好奇。兩個(gè)人可以不停的彼此追問彼此打聽。只有互問，才能體現(xiàn)雙方的二重性的差異視角，才能產(chǎn)生真正的交流、探索和愛欲。ChatGPT顯然還沒有達(dá)到這點(diǎn)。

它給我印象最深的是，你只要問它，它總有話可說，它甚至很啰嗦地說，它從不沉默。我還希望人工智能能夠沉默，它不愿意回答你，或者它也不想再問你了。我和它的默契是通過沉默來達(dá)成的，就像兩個(gè)朋友不想說話但默默地抽煙一樣。

界面文化：如果人注定要被技術(shù)席卷，個(gè)體能做些什么來維持一個(gè)良好的生活？ 

汪民安：我們一直在講技術(shù)帶來的危險(xiǎn)，這是因?yàn)榧夹g(shù)的成就和益處是顯而易見的。技術(shù)總是有兩面性。這就是人們說的技術(shù)的藥性，它既是毒藥也是良藥。不幸的是，人類將自己的潛能同時(shí)應(yīng)用在這兩面性上來。你看看，人們一方面竭盡全力地在制造和發(fā)明救人的藥物，另一方面，人們也在竭盡全力地制造殺人的戰(zhàn)爭武器。技術(shù)既要讓你死，也要讓你活。當(dāng)你看到戰(zhàn)場上的士兵同時(shí)攜帶著藥物和武器，你就會(huì)覺得非?；闹嚕喝藗兤疵匕l(fā)明一種技術(shù)就是為了來抵消和對抗他們發(fā)明的另一種技術(shù)。

我要說的是，人們的生死都置放在技術(shù)的框架下，技術(shù)構(gòu)成了我們存在的必然裝置，斯蒂格勒等人認(rèn)為技術(shù)構(gòu)成了我們身體不可分離的外在器官。我們很難去過一種完全逃避技術(shù)的生活。我們大概能做的，就是去盡量降低技術(shù)的毒性。對個(gè)體而言，這似乎很難，但如果每個(gè)人都有這種意愿，都發(fā)出自己的聲音，對技術(shù)毒性無限蔓延的遏制并不是不可能的。