第88期主持人 | 尹清露

熱點(diǎn)事件總是曇花一現(xiàn)，但是與AI相關(guān)的新聞卻在半年來(lái)持續(xù)引發(fā)關(guān)注。與此同時(shí)，被認(rèn)為在這次生成式AI革命中缺席的蘋(píng)果公司，在6月5日的WWDC發(fā)布會(huì)上亮相了一款混合現(xiàn)實(shí)可穿戴設(shè)備Apple Vision Pro，極高的完成度讓它從同類產(chǎn)品中脫穎而出，許多人認(rèn)為這是第一款真正能得到大范圍應(yīng)用、開(kāi)啟全新時(shí)代的AR/VR設(shè)備?？萍疾┲麋娢臐稍谑苎嚧骱?，按捺住激動(dòng)的心情說(shuō)：“我的感覺(jué)就是，未來(lái)已來(lái)。”無(wú)論如何，技術(shù)的發(fā)展已經(jīng)成為了任誰(shuí)都無(wú)法回避、必須面對(duì)的東西。

然而，就在Apple Vision Pro帶來(lái)震撼，甚至被認(rèn)為實(shí)現(xiàn)了電影《頭號(hào)玩家》中走進(jìn)虛擬世界的愿望，技術(shù)背后的隱憂卻一直存在，比如它是否會(huì)加劇貧富分化與其他不平等——畢竟在《頭號(hào)玩家》中，主角韋德雖然在虛擬世界擁有華麗的化身，在現(xiàn)實(shí)中卻居住在破敗和貧窮的街區(qū)，過(guò)著被大科技公司傾軋的生活。在文章《要么滅絕，要么適應(yīng)：人類該好好治理AI了》中，被稱為“人工智能教父”的約書(shū)亞·本希奧也認(rèn)為，人工智能的社會(huì)影響會(huì)直接與它的應(yīng)用和布局捆綁在一起，由于資本主義鼓勵(lì)競(jìng)爭(zhēng)的實(shí)質(zhì)，盈利和占據(jù)市場(chǎng)份額可能導(dǎo)致潛在的、不受控制的人工智能。

另一方面，技術(shù)的倫理問(wèn)題也浮現(xiàn)了出來(lái)。長(zhǎng)期以來(lái)，哲學(xué)家都在爭(zhēng)論人工智能會(huì)不會(huì)失控甚至摧毀人類，但往往停留在科幻構(gòu)想的層面，隨著大公司加快部署AI等技術(shù)，這一議題的嚴(yán)肅討論也變得越來(lái)越迫近。5月，美國(guó)兩黨參議員和OpenAI首席執(zhí)行官薩姆·奧特曼表示，需要一個(gè)新的聯(lián)邦機(jī)構(gòu)來(lái)保護(hù)人們免受AI“變壞”的影響。正如本希奧所言，ChatGPT和GPT-4這樣的人工智能系統(tǒng)之所以會(huì)引起廣泛關(guān)注，主要是因?yàn)樗鼈兡芡ㄟ^(guò)著名的圖靈測(cè)試，你很難辨別自己正在對(duì)話的是機(jī)器還是人，而這帶來(lái)了相當(dāng)程度的危險(xiǎn)。

“非必要”的人工智能頭盔，技術(shù)停滯的21世紀(jì)

林子人：我還沒(méi)有完全從ChatGPT帶來(lái)的震驚中緩過(guò)神來(lái)，蘋(píng)果就推出了Vision Pro，今年人工智能技術(shù)的突破性成果真是令人目不暇接。如果我說(shuō)我對(duì)Vision Pro無(wú)感甚至有些厭惡，是不是顯得自己很盧德主義？但我的確覺(jué)得，技術(shù)分為“必要的”和“非必要的”，人工智能頭盔就屬于“非必要”的那一種——是的，它能幫助我們突破肉眼的極限，看到更精彩豐富的東西，但這個(gè)需求是被創(chuàng)造出來(lái)的。

我最大的擔(dān)憂是，在這個(gè)人際關(guān)系本就日漸松散的時(shí)代，此類工具會(huì)讓我們的注意力更加遠(yuǎn)離附近的世界，進(jìn)入某個(gè)虛擬的、根據(jù)個(gè)人喜好定制到完美的世界，它會(huì)不會(huì)進(jìn)一步瓦解人類社會(huì)的存在基石？

徐魯青：我也很同意子人的看法，看到一些技術(shù)測(cè)評(píng)里提到Vision pro的研發(fā)成本和火箭SpaceX幾乎相似，但這一切只是為了讓我們能更好地沉浸式玩游戲？或者投出3個(gè)應(yīng)用處理工作在辦公室更好辦公嗎？

格雷伯也認(rèn)為，21世紀(jì)是個(gè)技術(shù)停滯的時(shí)代，“技術(shù)本身的純粹物理之力讓我們感到歷史的車輪滾滾向前，而今，我們卻只有屏幕和圖像可以把玩。”他覺(jué)得，自20世紀(jì)70年代起，我們的技術(shù)投資不再針對(duì)會(huì)帶來(lái)別樣未來(lái)的技術(shù)，而是轉(zhuǎn)向了針對(duì)強(qiáng)化勞動(dòng)紀(jì)律和社會(huì)控制的技術(shù)?？萍家词翘岣吖芾硇?、監(jiān)控能力，要么是增加消費(fèi)水平或軍事力量。所以我們會(huì)看到研制模仿和景觀的技術(shù)日新月異，比如最新款蘋(píng)果手機(jī)，比如Vision Pro。但工業(yè)革命這么久了，曾經(jīng)的人們對(duì)科技的想象，是抵達(dá)一個(gè)擺脫重復(fù)性勞動(dòng)、狗屁工作，每個(gè)人都能發(fā)揮靠創(chuàng)造力去生活的世界，他們會(huì)想到200年后的人類連一天工作八個(gè)小時(shí)的愿望都難以實(shí)現(xiàn)嗎？或許技術(shù)進(jìn)步從來(lái)不是根據(jù)人真正的需求驅(qū)動(dòng)的，而是由資本的邏輯與官僚制度的邏輯決定的。

潘文捷：小時(shí)候的一大夢(mèng)想就是能夠擁有《美少女戰(zhàn)士》里水野亞美那樣的眼鏡，它比較輕盈，而且是直接看見(jiàn)外部世界并且用于分析外部世界的。但是現(xiàn)在發(fā)布的蘋(píng)果設(shè)備首先是有點(diǎn)重量的，時(shí)間長(zhǎng)了脖子疼，而且它的頭顯并不透明，戴上它你會(huì)沉浸在里面的世界，當(dāng)然也可以通過(guò)它看現(xiàn)實(shí)中的外面世界，不過(guò)那是通過(guò)前端的兩個(gè)攝像頭來(lái)拍攝并且傳回眼中的，這一定會(huì)產(chǎn)生信息的丟失。目前看到的測(cè)評(píng)都是認(rèn)為對(duì)現(xiàn)實(shí)世界的傳感并沒(méi)有那么清晰。

2016年三星發(fā)布會(huì)上有一個(gè)非常經(jīng)典的照片，就是現(xiàn)場(chǎng)觀眾都戴上了三星Gear VR眼鏡，扎克伯格從他們身邊走過(guò)，但大家都渾然不知。是不是有點(diǎn)細(xì)思極恐的意味？扎克伯格光彩照人地行走在無(wú)知無(wú)覺(jué)的普通人中間，甚至他臉上泛起的微笑都被人們解讀為“creepy”。社交媒體上不少議論的聲音問(wèn)，這是不是對(duì)人類未來(lái)的寓言？人們都沉浸在虛擬世界之中，領(lǐng)導(dǎo)我們的人在我們身邊悄然走過(guò)？不論怎樣，人們都已經(jīng)黏在手機(jī)、筆記本電腦的世界里，未來(lái)還可能繼續(xù)沉溺在AR/VR眼鏡的世界里。

尹清露：這也很像降噪耳機(jī)，降噪的同時(shí)也隔絕了自然的鳥(niǎo)鳴和人聲，所謂的“通透模式”僅僅是讓你聽(tīng)到最低限度的車?guó)Q喇叭或者機(jī)場(chǎng)播報(bào)，如同Vision Pro的“精巧”設(shè)計(jì)——當(dāng)有朋友走到你面前，ta會(huì)突破虛擬畫(huà)面的限制、映入你的眼簾。但此時(shí)的現(xiàn)實(shí)世界也是人為制造的，是純?nèi)还δ苄缘摹?/p>

窮人更可能沉浸虛擬世界，技術(shù)也無(wú)法脫離物質(zhì)實(shí)體

潘文捷：未來(lái)MR（Mixed Reality）眼鏡最好是透明的，像水野亞美的眼鏡，至少那樣看起來(lái)會(huì)正常一點(diǎn)兒，其中最重要的當(dāng)然是人應(yīng)該保持和現(xiàn)實(shí)世界的關(guān)聯(lián)。其實(shí)，越是窮人，越可能長(zhǎng)時(shí)間沉浸于虛擬世界，失去與現(xiàn)實(shí)世界的聯(lián)系。

在《欲罷不能：刷屏?xí)r代如何擺脫行為上癮》一書(shū)中，普林斯頓大學(xué)心理學(xué)博士亞當(dāng)·阿爾特看到，那些生產(chǎn)和設(shè)計(jì)高科技產(chǎn)品的人仿佛遵守著毒品交易的頭號(hào)規(guī)則——自己絕不能上癮。喬布斯的孩子從未用過(guò)iPad，Twitter創(chuàng)始人沒(méi)有給兩個(gè)兒子買(mǎi)過(guò)平板電腦，游戲設(shè)計(jì)師對(duì)“魔獸世界”避之不及，很多硅谷巨頭根本不讓自己的孩子靠近電子設(shè)備?！斑@就好比宗教領(lǐng)袖不讓孩子參加宗教活動(dòng)。”

另一方面，根據(jù)韓國(guó)弘益大學(xué)建筑系教授劉賢俊的分析：“越是生活在狹窄的房子里，看電視的時(shí)間就越長(zhǎng)。越是在擁擠的地下鐵里，就越會(huì)長(zhǎng)時(shí)間看Netflix。某方面來(lái)看，越是收入低的人群，漸漸地越被推擠到線上空間?！睂?duì)生活在狹窄空間的人來(lái)說(shuō)，隨著線下空間逐漸縮窄，空缺會(huì)由線上的空間來(lái)填補(bǔ)?！跋硎茏匀弧⑾硎軐挸ǖ目臻g，從某方面來(lái)看，這可能會(huì)漸漸變成有錢(qián)人的專屬。”可以說(shuō)，扎克伯格的這張照片背后就暗含著人們對(duì)新技術(shù)加劇階層分化的隱憂。

林子人：互聯(lián)網(wǎng)、人工智能這些高科技總是給我們一種幻覺(jué)，創(chuàng)新非常輕盈，財(cái)富如煉金術(shù)師的魔法那般從無(wú)到有，但其實(shí)它并不能脫離物質(zhì)實(shí)體的支撐，這一事實(shí)其實(shí)掩蓋了某種不平等。這兩天讀《履單：無(wú)所不有與一無(wú)所有》，書(shū)中涉及了一個(gè)我此前從未思考過(guò)的話題，令我倍感驚異，那就是我們?nèi)缃褚劳谢ヂ?lián)網(wǎng)從事的一切活動(dòng)——發(fā)信息、網(wǎng)購(gòu)、在流媒體上聽(tīng)音樂(lè)看電影，以及在不遠(yuǎn)的未來(lái)戴著Vision Pro頭顯躍入數(shù)字世界徜徉——都依托巨大的服務(wù)器，這些服務(wù)器設(shè)備坐落于占地巨大的數(shù)據(jù)中心，數(shù)據(jù)中心只會(huì)創(chuàng)造很少的就業(yè)崗位（一個(gè)占地20多萬(wàn)平方英尺的數(shù)據(jù)中心之需要20名工程師和技術(shù)人員就可操作），卻需要大量的電力和水資源來(lái)運(yùn)行和冷卻機(jī)器。

書(shū)中介紹，2018年，亞馬遜、微軟、谷歌和臉書(shū)的資本支出總額達(dá)到770億美元，主要用于建造和維護(hù)數(shù)據(jù)中心。很多機(jī)器只能維持幾年的壽命，意味著數(shù)據(jù)中心的建造熱潮還伴隨著大量的廢品產(chǎn)出。與此同時(shí)，運(yùn)營(yíng)數(shù)據(jù)中心所需的能源大部分來(lái)自不可再生能源，比如煤炭。在亞馬遜數(shù)據(jù)中心的能源消耗中，只有12%來(lái)自可再生能源，落后于微軟和臉書(shū)，但領(lǐng)先于谷歌。在全美范圍內(nèi)，每花費(fèi)10億美元修建數(shù)據(jù)中心，在20年內(nèi)就會(huì)消耗70億美元的電力。

更令人驚詫的是，杰夫·貝索斯對(duì)能源消耗問(wèn)題相當(dāng)不以為然——根據(jù)本書(shū)作者的觀察，他是一個(gè)徹頭徹尾的自由市場(chǎng)主義者，對(duì)“企業(yè)社會(huì)責(zé)任”不屑一顧——在他看來(lái)，地球能源耗盡是遲早的事，這是為什么我們需要登月。如果真有那么一天，猜猜誰(shuí)能獲得去月球的通行證？

徐魯青：這讓我想到當(dāng)時(shí)ChatGPT4剛推出的時(shí)候，《Times》發(fā)布了一篇報(bào)道，調(diào)查了OpenAl背后的低薪工人狀況。要保證ChatGPT最終輸出的語(yǔ)句規(guī)范文明，需要大量人工訓(xùn)練AI，他們一般是外包工人，薪資低廉，保障缺失。根據(jù)這篇報(bào)道，OpenAl以時(shí)薪1.32美元雇傭了千萬(wàn)肯尼亞外包工對(duì)內(nèi)容審核，而由于長(zhǎng)期沉浸在有沖擊性的污穢內(nèi)容中，很多工人都出現(xiàn)了PTSD、抑郁、焦慮等心理問(wèn)題，失眠與噩夢(mèng)頻頻發(fā)生。

在AI發(fā)展浪潮中，很多人擔(dān)心AI會(huì)發(fā)展到超過(guò)人類智力的水平，但還有一種擔(dān)憂是平庸人工智能的濫用。如果平庸人工智能得出的結(jié)論或效果不僅不被懷疑，還在政策制定中被過(guò)度參考，可能會(huì)造成很多不公后果。

美國(guó)政治科學(xué)家Virginia Eubanks在Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor一書(shū)里研究了AI技術(shù)普及會(huì)如何加劇已有的貧窮與不公正，相關(guān)案例正在全球發(fā)生。比如美國(guó)警察局會(huì)使用預(yù)測(cè)分析軟件，在其指導(dǎo)之下，更頻繁地對(duì)低收入社區(qū)巡邏和搜索。如果將ChatGPT用作決策信息源，是否會(huì)加劇已有的系統(tǒng)不公，給社會(huì)弱勢(shì)群體造成更大的傷害？

AI與愛(ài)的倫理：技術(shù)能夠減輕寂寞嗎？

董子琪：最近看到國(guó)內(nèi)外都有網(wǎng)紅將自己的形象、朋友圈、語(yǔ)音制作成AI，兜售給交友APP的新聞。通過(guò)定制服務(wù)，用戶可以將這位網(wǎng)紅當(dāng)成自己的女朋友，與她聊天，分享見(jiàn)聞，請(qǐng)她提供建議，還能瀏覽她的社交狀態(tài)。有人說(shuō)這是電影《HER》的現(xiàn)實(shí)版，你可以與她陷入真摯的純愛(ài)，聽(tīng)她用性感的聲音說(shuō)愛(ài)你。不過(guò)，在與你交往的同時(shí)，她也會(huì)對(duì)成千上萬(wàn)付費(fèi)的男人說(shuō)“我愛(ài)你”。這真的可以減輕寂寞嗎？批量復(fù)制的愛(ài)還有一絲純潔性嗎？或許真像歌里唱的，“愛(ài)一個(gè)人不用大腦，只是各取需要?！?/p>

關(guān)于人工智能改造的陰暗面，想到喬治·桑德斯一篇驚悚的小說(shuō)《森普立卡女孩》，故事開(kāi)頭設(shè)有懸念，很多人家的庭院里都想要裝置SG，并視其為富裕的象征，可小說(shuō)卻沒(méi)有解釋SG是什么，后來(lái)才揭示，SG是森普立卡女孩的縮寫(xiě)。她們是從落后國(guó)家偷渡來(lái)的貧窮女孩，經(jīng)過(guò)一番改造后，可以成為富人庭院中的裝飾，隨風(fēng)輕輕搖擺。人工智能改造的倫理問(wèn)題在很多作品中都呈現(xiàn)過(guò)，像是《銀河護(hù)衛(wèi)隊(duì)3》里的被改造的動(dòng)物系列——智能浣熊、車輪海象和爪牙兔子，還有游戲《底特律變?nèi)恕防锉桓难b成武器、肢體殘缺、只能關(guān)在監(jiān)獄里的人造人。畫(huà)面對(duì)準(zhǔn)它們的時(shí)候，我難免有一種強(qiáng)烈的不適感。

潘文捷：子琪說(shuō)的使用別人的AI語(yǔ)音，和同人創(chuàng)作是不是有點(diǎn)兒像？同人創(chuàng)作也被指出可能會(huì)違法，比如江南寫(xiě)《此間的少年》就被金庸起訴了，主要是因?yàn)樯鲜兄箐N售量高，有很大的經(jīng)濟(jì)利益。假設(shè)有人用孫燕姿的AI聲音賣錢(qián)，我想可能就要考慮其中的法律問(wèn)題了。

但是普通人的圈地自萌又怎么說(shuō)呢？當(dāng)我嗑的CP被別人使用AI聲音來(lái)創(chuàng)作合唱的時(shí)候，我只感到喜聞樂(lè)見(jiàn)，拍手稱快。如果說(shuō)不存在和原主的競(jìng)爭(zhēng)關(guān)系，是不是沒(méi)有什么大問(wèn)題？而且，現(xiàn)在市面上最頂尖的AI合成聲音，高科技的痕跡還是存在的，不能夠躲過(guò)專業(yè)聲紋識(shí)別技術(shù)來(lái)以假亂真，所以，即使是用AI做了什么不該做的事情，也還是會(huì)被抓到把柄。

尹清露：我想這其中存在尺度的問(wèn)題。嗑人工智能CP合唱是無(wú)傷大雅的情感撫慰，但是AI女朋友觸及主體性，你對(duì)于愛(ài)的信念也會(huì)面臨崩塌。另一個(gè)例子是用AI復(fù)活親人，好似能帶來(lái)救贖，但這救贖是否過(guò)于虛假而有害？劉宇昆的小說(shuō)就探討過(guò)這個(gè)主題。也像是Apple Vision Pro宣傳片中小女孩們圍坐在一起吹生日蠟燭的動(dòng)態(tài)照片，這讓我想起《銀翼殺手2049》里復(fù)制人記憶的設(shè)計(jì)師安娜·史特林博士，她可以構(gòu)造花草樹(shù)木甚至是美麗的大雪，也同樣復(fù)制過(guò)吹生日蠟燭的回憶，那看上去真是十分動(dòng)人，安娜卻是因?yàn)樯〔挪坏貌槐焕г跓o(wú)菌的隔離空間里的。所以不禁令人發(fā)問(wèn)：這一切是否真的值得？