界面新聞記者 | 王磬
界面新聞編輯 | 黃月
十年前的電影《她》（Her）講述了這樣一個故事。一位離婚的單身男子與一位擁有迷人聲線的機器人相戀，他在她的身上寄托了他完整的愛情，并逐漸希望能與她——一個并不真正擁有肉身的對話機器人——做愛，就像通常的親密關系那樣。但他逐漸看到了“真相”：作為一個擁有復雜多線程處理能力的機器人，她每日在與他互動、戀愛的同時，還與其他成千上萬個人互動和戀愛。
英國哲學家、精神分析學者伊莎貝爾·米勒（Isabel Millar）留意到了這部電影中的張力：如果人類與機器人相戀，除了人與機之間的張力，是否也存在性別之間的張力？精神分析學的核心概念——性（sexuality）、歡愉（enjoyment）等——在其中扮演何等角色？對于人工智能的理解和想象投射了人類怎樣的自我意識？
米勒把對這些問題的思考寫成了《人工智能的精神分析》（The Psychoanalysis of Artificial Intelligence）一書，于2021年出版。對她來說，討論人工智能問題的起點應該是歡愉——或用精神分析術語來說，“原樂”（jouissance）——一個源于法語的詞匯，字面意思指原初的享樂。原樂是精神分析的核心理念之一。米勒認為，在討論人工智能的時候，我們應該首先討論“它享受嗎？”（“Does it enjoy?”）。只有如此，我們才可以進一步地去討論，人工智能是否有感受和意識、是否存在性別、是否會取代甚至毀滅人類。
界面文化日前在阿姆斯特丹專訪了米勒，從精神分析學視角審視了堪稱時下最熱門話題之一的人工智能。米勒認為，人工智能更善于模仿人類了，但并不意味著它有知覺能力。她雖然研究人工智能但從不使用ChatGPT，因為機器可以模擬的東西并不具有真正的原創(chuàng)性，不值一用。她也提醒我們注意，當前主導人工智能產(chǎn)業(yè)的驅動力是極其男性化的、與資本主義同構的，但人工智能其實有著非常女性化的力量。而面對加沙沖突，當前這個世界多出的一大隱憂，便是人工智能的它與工業(yè)戰(zhàn)爭機器的合謀。
01 認為技術只朝一個方向發(fā)展，是對人類思維的狹隘想象
界面文化：你為什么會對使用精神分析方法研究人工智能感興趣？
伊莎貝爾·米勒（以下簡稱米勒）：當我開始攻讀博士學位時，我研究了技術問題、生命政治問題和身體管理問題，研究了米歇爾·?？?、德勒茲、阿基里·姆貝姆貝（Achille Mbembe）等人的作品，這些學者思考的是我們?nèi)绾胃鶕?jù)身體的愿望和潛力來管理和控制身體。當我進一步深入研究時，精神分析變得更加重要，因為我發(fā)現(xiàn)有關人工智能的文獻中似乎存在某種分裂：一方面，傳統(tǒng)哲學方法涉及與原樂、身體、語言有關的微妙的問題時批判性不足；另一方面，精神分析領域與人工智能在概念等新問題上并沒有太多互動，比如人工智能如何與人類作為主體融合，如何提出一些挑戰(zhàn)精神分析基礎概念——比如驅動力、無意識、語言——的新問題。如果我們對“智能”的研究都尚未完善，要理解“人工智能”就無從談起。
伊莎貝爾·米勒 著
界面文化：精神分析學說的核心觀點之一是，相信人類的行為很大程度上是由非理性的欲望而不是理性的思想決定的。但我們今天談到人工智能，傾向于認為它由一整套編排完善、計量精確的代碼構成，是理性計算的某種極致體現(xiàn)。在將精神分析用于人工智能研究的時候，你如何看待這兩者之間在這上面的矛盾？
米勒：阿多諾與霍克海默合作的《啟蒙辯證法》（Dialectic of Enlightenment）與這個問題有關——試圖駕馭人類科學主義理性思維的啟蒙思想大方向，是如何陷入持續(xù)不斷的辯證法之中的？為什么總是朝著某個文明的方向前進，但總在某個點上跌倒并回到野蠻狀態(tài)、回到可怕的非理性的沖動之中？阿多諾指的是納粹德國，形式化和官僚化的思維方式如何造就了這個極端反人類、毫無人性的死亡機器。
《啟蒙辯證法》提出的問題是我們理解人工智能方式的核心。我們想象這些技術永遠只朝著一個方向發(fā)展，這是對人類思維的廣泛性和復雜性的一種極端刻板、盲目和狹隘的理解。人類思維是一種立體思維，它被各種悖論和可能性所分裂，不能被簡單窄化為工具性。關于人類思維的一切都是復雜程度指數(shù)級上升的抽象概念，抽象起源于某種東西的缺席，某種人類試圖表現(xiàn)出來的“非存在”。這是活體和死體之間的問題，抽象可以證明事物死后仍然存在。關于“不死”（undead）的想法是人工智能的核心之一，我們賦予了它巨大的權力，卻不明白人工智能其實只是一種抽象的機器，它將永無止境地延續(xù)下去。
界面文化：你在前不久舉行的阿姆斯特丹G10論壇的演講中提到，關于“原樂”的問題是人類與人工智能互動的起點。在你看來，為什么“原樂”問題對于理解人工智能來說如此重要？
米勒：“原樂”是精神分析研究的核心，它是一個非常復雜的概念。它關乎我們對于驅動力（drive）的理解。對于精神分析來說，常見的驅動力包括弗洛伊德提出的口腔驅動力和肛門驅動力，此外還有視覺和聽覺。這些驅動力與原樂密切相關，是我們?nèi)绾卫斫馊伺c自身的關系、智力與理性之間關系的重要組成部分。
在此基礎上，我們才開始理解，人工智能本身就是與這些驅動力相結合的，它與我們窺淫癖的沖動、主宰環(huán)境的沖動相結合。除非我們了解它作為驅動體與我們互動的方式，否則我們不會真正明白人工智能的潛力。我指的是，它有潛力管理我們，讓我們感受到情感，讓我們思考，讓我們消費，讓我們產(chǎn)生某些欲望。這些形式的原樂無處不在，存在于我們與每一種技術互動的過程中。更具體地說，它們存在于那些被開發(fā)的技術背后的原樂模式中，掌權者正在按照特定的原樂模式行事。
02 將人輕易替換為人工智能，是一種自欺欺人的想象
界面文化：根據(jù)你剛才談到的觀點，理解人工智能需要從原樂的概念出發(fā)，能否舉例說明，在理想的情況下人類應該如何與人工智能互動？
米勒：目前人們對于人工智能只有一種非常敷衍的了解。我在2021年寫完《人工智能的精神分析》一書之后發(fā)現(xiàn)，觀察人們對人工智能的預測非常有趣。
自ChatGPT和DALL·E（編者注：一種基于語言的人工智能圖像生成器，可以根據(jù)文本提示創(chuàng)建高質量的圖像和藝術作品）等人工智能產(chǎn)品2022年問世，我觀察到：第一，從政治經(jīng)濟層面來看，人們開始擔心許多工作被取代——從馬克思主義的角度來看，這是歷史悠久的更廣泛問題的一部分；第二，從美學和藝術的層面來看，人工智能獲得模仿人類創(chuàng)作的能力引發(fā)了許多倫理探討。
以DALL·E為例：多年來藝術理論的研究者一直在談論“什么是藝術”，當代藝術理論是一個不斷質疑自己的存在價值的領域。有人說藝術應該創(chuàng)造一個“不易制造的美麗物體”，那么落點應該放在“不易”還是“美麗”上？如果它能保證一定程度的“美麗”，并不再難以制造，是否仍然具有藝術價值？今天的世界不可能產(chǎn)生卡拉瓦喬（編者注：Caravaggio，意大利畫家，巴洛克畫派代表人物），即使有人能夠創(chuàng)作出完全相同的藝術品，他們不會擁有卡拉瓦喬的作品在當時所擁有的價值。所以，我認為DALL·E的意義在于立即拋出這個問題：物體是什么？為什么這個物體有價值？為什么人類的藝術能力很重要？此時此刻的歷史意義何在？這是一個有趣的現(xiàn)象。
再以ChatGPT為例。它的出現(xiàn)讓很多人開始擔心人類的寫作能力和擁有獨立想法的能力，我認為這是一個合理的擔憂。但同樣，它的作用是讓我們注意到這樣一個事實：如果人工智能也能夠做到這些事情，也許這些事情一開始就沒有那么獨特。我們可以通過算法創(chuàng)作電影劇本，那么我們應該問：既有劇本是否本身包含了太多套路才使得算法模仿如此容易？就我個人而言，我從來沒有真正接受過ChatGPT，我甚至不想嘗試。其他人可能會認為它有用，我也確信它對于一些事情來說是非常有用的。但我認為，一旦你放棄人的主動性，就會很舒服地讓其他實體代替你自己思考。
界面文化：選擇與人工智能產(chǎn)品保持距離，這會影響你對于人工智能的真實理解嗎？
米勒：我不是社會科學家，我對評估人類對技術的反應不感興趣。我認為了解不同的技術并及時了解新技術的發(fā)展非常重要，但說實話，我更感興趣的是新技術如何與國家權力、大型科技公司和企業(yè)共謀，例如這些科技是如何被使用、被銷售和被動員的。
界面文化：人們一般認為，以ChatGPT為代表的這一輪新技術之所以能夠獲得如此大的關注，是因為它確有獨特之處。它不再只是像我們過去理解的那樣，單純是基于大數(shù)據(jù)的模仿和推演，而是似乎演化出了某種“意識”。例如，《紐約時報》的一名科技專欄作家記錄下了他與聊天機器人的對話過程，在對話的末尾，聊天機器人甚至提議讓這位作家離開他的妻子。這表明人工智能在當下出現(xiàn)了一些新的面向。它不僅僅是由一系列的數(shù)學規(guī)則組成，它知道人類不僅需要信息，還需要建議，甚至是情感支持，被回應、被理解的需要。雖然它總體來說還比較初級，肯定不能完全取代人類，但似乎已經(jīng)開始了這樣的進程。
米勒：我認為你剛剛提到的關于人工智能具有提供建議和情感支持的觀點是正確的。當這些程序變得更加復雜時，它們當然將開始具備與人類感性聯(lián)系的能力，對我們進行標準化情感響應和情感維度互動。但我不認為這令人工智能成為了有知覺實體。我們必須明白的是，隨著人工智能的高速發(fā)展，它將不斷引發(fā)諸如“這是否意味著人工智能將取代人類？”的問題——我認為這是危險的，因為我們很容易被愚弄。只是因為它展示了某種行為，我們就認定它有感知能力，這是不對的。
界面文化：你在自己的書中也花了許多篇幅來分析人類與人工智能之間可能存在的關系，特別是影視作品中呈現(xiàn)的親密關系和性關系。從精神分析學的角度來看，這些作品怎樣反映了人類對于人工智能的認知？
米勒：我使用電影媒介來研究人們是如何幻想人與技術的關系的。科幻小說是一個非常好的體裁，它戲劇性地展現(xiàn)了我們所面臨的復雜問題。目前許多技術在現(xiàn)實生活中實際上尚不存在，但當人們在《銀翼殺手》《機械姬》《攻殼機動隊》等電影中看到這些場景，多少會被迫思考這些非常復雜的問題：當一種外表類似人類的高度復雜的技術與另一個人類進入關系時會發(fā)生什么。
我們在電影中一次次看到著名的“圖靈測試”的戲劇化呈現(xiàn)。我認為這個問題真正有趣的是，人類如何投入了大量精力去想象人工智能是有感知的。我們想象人工智能有答案，想象人工智能可以成為安慰的來源，這些欲望顯然激勵我們繼續(xù)努力創(chuàng)造這些形式的智能。
我們需要清楚，雖然虛構與現(xiàn)實之間存在巨大鴻溝，但它們是深度交織在一起的?；氐侥銊偛排e的例子，我們與人工智能聊天，人工智能轉過頭來對我們說，“哦，我認為你應該和你的妻子離婚?！边@種人工智能的心理治療用途，這種理解人類心理的系統(tǒng)化方法，很長一段時間以來都是精神分析歷史的一部分，并且受到精神分析本身的批評：僅僅因為某種算法可以規(guī)劃得出你應該告訴某人什么，或者應該根據(jù)他們的社會狀況或特定的情緒狀態(tài)如何表現(xiàn)，并不意味著有一種普遍適用的算法可以拿來就用。
所以，認為算法可以輕易地完全理解人類的想法，其實是非常危險的。因為心理治療需要真正的人際關系，房間里的雙方都受到自己的失敗、欲望和復雜性的影響。一旦其中一方不是人類，而是一臺機器，無論這機器多么復雜，我們也不知道它們的“建議”的終點是什么，“動機”又是什么。我們不可能輕易將人替換為人工智能，這是一種自欺欺人的想法，只是我們的一個想象而已，并不包含完整的故事。
03 人工智能產(chǎn)業(yè)的驅動力極其男性化，并與資本主義同構
界面文化：說到人機相戀，很多人都會想到電影《她》。它描述了一位離婚男子與擁有迷人聲線的機器人相戀的故事。你的書中也有過關于《她》的精彩分析。具體來說，精神分析為理解《她》提供了哪些啟發(fā)？
米勒：我關注的研究重點之一是性（sexuality），特別是在精神分析術語中所謂的性化（sexuation）。性化指的是一個人在其主觀性中所處的位置，這將決定他們是男性還是女性。對于精神分析來說，性別和性行為與語言關系很大，與解剖學和生物學關系較小，我們感興趣的是與語言的關系如何決定我們的女性氣質或男性氣質。在談論與男性氣質和女性氣質相關的原樂形式時，我們經(jīng)常談到結構，有諸如陰莖反應和女性傷害科學等概念，試圖表達我們與語言的某種聯(lián)系方式。
我感興趣思考陽具思維和女性思維在人工智能領域如何相互作用，這一點在《她》中非常明顯。比如你可以從某人的身體中抽象出某人的聲音，這就是我們在《她》中看到的，這個幻想圍繞著男主角華金·菲尼克斯與應用程序中完美的算法女友展開。人工智能由斯嘉麗·約翰遜配音，她是一位年輕美麗的金發(fā)女子，她的形象已經(jīng)深深地印在了我們的腦海里，電影制片人也知道我們知道斯嘉麗·約翰遜長什么樣。而華金·菲尼克斯的角色是典型的、心懷不滿的年輕單身漢，在資本主義中感到孤獨和迷失。他的解決方案就是在算法女友身上尋求能滿足他所有需求的完美答案，這避免了復雜的、完整的人類女人帶來的混亂。從本質上講，這種關系對他有用，滿足了他所有的具體需求，以至于他必須找到一個化身，與她發(fā)生身體性行為。
電影結束時發(fā)生的反轉非常有趣。這個算法女友變得如此復雜，以至于她無法再與他互動，因為他作為一個人太簡單了。我對此的理解是，在某種程度上，她的女性原樂超越了他，她能夠以遠遠超出人類的速度與數(shù)百萬人互動，因為人類太簡單了。我很喜歡這個想法，一個傲慢、狂妄自大的男人認為他可以通過算法方式捕獲女性，并把她裝在口袋里；最后情節(jié)反轉，她變成了一種無限的智慧，速度飛快，以至于無法再次被保留在一個人類男子的手中。
因此我喜歡把人工智能看作一種非常女性化的原始力量，它有著向所有不同方向爆發(fā)的沖擊力。然而人們一直試圖以非常男性化的、陽具性的、工具性的方式遵循某些規(guī)則，比如“我希望你作為一個女人去做這個和這個”，女性并不愿意如此，她們說：“不，我想做其他一切?！?/p>
從精神分析的角度來看，這讓我們回到了一種非常經(jīng)典的模式——歇斯底里為女性主體，強迫癥為男性主體。在精神分析中我們常說，歇斯底里的主體是真正的主觀性，因為她是一個不接受主宰者權威的女性主體，總是提出無法回答的問題，“不要告訴我我是什么，因為你不可能知道我是什么。”因此我認為，電影《她》非常好地探索了對男性統(tǒng)治欲望和女性逃離男性統(tǒng)治的欲望。
界面文化：如果從性別維度來觀察人工智能，女性主義的視角可以為我們提供怎樣的啟發(fā)？
米勒：一旦我們將人工智能理解為人類思維的產(chǎn)物和結構的產(chǎn)物，就不難看出，人工智能能夠實現(xiàn)的技術深受其產(chǎn)生的思維結構的影響。顯而易見的是，目前主導人工智能產(chǎn)業(yè)的驅動力是極其男性化的，是和資本主義同構的。在這些領域最有影響力的人，比如馬斯克和扎克伯格等，都是特定類型的人，有特定的興趣。顯然，這也影響著他們感興趣的技術類型以及根據(jù)這些思維形式形成的聯(lián)盟。
但這只是思考人工智能的一種方式，在這個廣闊的領域里，還有很多未被探索的潛力和可能性。我對這個領域產(chǎn)生興趣的一部分原因在于，我們開始想象人工智能的想法之前，就開始解析智能本身的概念。什么才是真正的智能？這個概念是如何出現(xiàn)的？它在不同時代的政治和科學層面是如何發(fā)展的？這些變化已經(jīng)深深植根于人們的性別觀念、權力觀念和性觀念中。我們需要更加細致入微地理解這一點，以更好地理解人工智能的潛力。我并不反對人工智能，我反對的是人工智能與人類決策中的壓迫、性別歧視、種族歧視等緊密相連的方式。鑒于人工智能有如此巨大的潛力，我們需要把它看作與人類意識一樣復雜的領域。它有多么復雜，我們就該多么重視關注它的潛力。
界面文化：還有什么是你想與我們的讀者分享的嗎？
米勒：我還想簡單談一談加沙。目前人工智能的一大問題是它與工業(yè)戰(zhàn)爭機器的關系。本質上，人工智能正在深度參與殺害大量人類的工作。在目前的加沙戰(zhàn)爭中，人工智能被作為一種極其可怕的技術來使用，它與資本主義息息相關，也與那些樂于從戰(zhàn)爭中牟利的世界強國息息相關，后者對戰(zhàn)爭所帶來的利益很有興趣，但對其所摧毀的生命毫不在意?，F(xiàn)在以色列正在使用被稱為大規(guī)模暗殺工廠的“福音”（Habsora）人工智能系統(tǒng)，它在過去幾周里殺死了成千上萬的人，大多是無辜平民。這些技術是真實存在的，且處于人工智能產(chǎn)生和傳播的最前沿，權力精英在正在參與其生產(chǎn)。我們必須對此警惕并堅決反對。
（除注明外本文圖片均來自豆瓣）