界面新聞?dòng)浾?| 王怡然

10月26日，由界面新聞主辦的2023REAL科技大會(huì)上在北京舉行，會(huì)上微軟亞洲研究院資深首席研究員謝幸發(fā)表題為《社會(huì)責(zé)任人工智能：跨學(xué)科探索與前景》的演講。他認(rèn)為，社會(huì)科學(xué)與人工智能的融合將使我們更好地理解和準(zhǔn)備未來所面臨的挑戰(zhàn)，在未來，社會(huì)科學(xué)與人工智能建立融合是不可避免的，我們需要展開人工智能和社會(huì)科學(xué)跨學(xué)科的合作，探究更為豐富的解決方案。

從人工智能概念的提出到專家系統(tǒng)、計(jì)算機(jī)視覺、自然語言等的廣泛應(yīng)用，人工智能的發(fā)展集中在過去不到100年的時(shí)間里，而對(duì)于人的研究，也就是所謂社會(huì)科學(xué)，卻已經(jīng)有上千年的歷史。隨著人工智能正在金融、醫(yī)療更行業(yè)發(fā)揮越來越大的作用，甚至于在部分任務(wù)上擁有了超越了人類的能力，社會(huì)科學(xué)研究也已經(jīng)不可忽視人工智能的存在。

謝幸認(rèn)為，在未來，社會(huì)科學(xué)和人工智能的融合是不可避免的。社會(huì)科學(xué)與人工智能的融合將使我們更好地理解和準(zhǔn)備未來所面臨的挑戰(zhàn)。目前，心理學(xué)、倫理、法學(xué)、社會(huì)學(xué)等學(xué)科都開始了初步合作。這些社會(huì)科學(xué)在過去積累下來的長期經(jīng)驗(yàn)和洞察將助力我們應(yīng)對(duì)人工智能的挑戰(zhàn)。

以人工智能和心理評(píng)測學(xué)的合作為例，心理測量學(xué)更夠幫助我們更好地進(jìn)行人工智能評(píng)估。現(xiàn)代的人工智能評(píng)估，首先會(huì)定義任務(wù)和數(shù)據(jù)集，然后基于數(shù)據(jù)集設(shè)計(jì)評(píng)估方法，評(píng)估不同的人工智能的模型。

目前的人工智能評(píng)估依然存在諸多挑戰(zhàn)。首先，對(duì)人工智能模型未來潛力的預(yù)測無法得知。現(xiàn)有數(shù)據(jù)集只能評(píng)價(jià)已知任務(wù)和表現(xiàn)，而無法測評(píng)人工智能未來能做的事情。第二，透明性?，F(xiàn)有技術(shù)可以測評(píng)任務(wù)表現(xiàn)上的差別，但無法解釋差別形成的原因。第三，可靠性。只要稍微修改數(shù)據(jù)就會(huì)產(chǎn)生很大變化，數(shù)據(jù)的可靠性滿意保證。

心理測量學(xué)是測量心理能力和過程的科學(xué)，通常被應(yīng)用于評(píng)估和量化心理屬性，如智力、性格特質(zhì)和情緒狀態(tài)，通過可靠和有效的測量來增進(jìn)我們對(duì)人類行為和認(rèn)知的理解。

謝幸介紹，目前，微軟亞洲研究院已經(jīng)和來自劍橋大學(xué)，北京師范大學(xué)的心理測量學(xué)者共同開展評(píng)測，共同應(yīng)對(duì)以上三個(gè)挑戰(zhàn)。新的評(píng)估框架大致分為三步。第一，識(shí)別并明確要測量的潛在構(gòu)建；第二，為測量的目標(biāo)構(gòu)造測試的方式方案；第三，評(píng)估這個(gè)方案的可靠性和有效性。

另一個(gè)案例是人工智能和倫理學(xué)合作，以定義人工智能價(jià)值觀對(duì)齊的范式。

謝幸介紹，所謂人工智能價(jià)值觀對(duì)齊，通俗來講，就是保證人工智能所認(rèn)為的價(jià)值觀和人類的理解相同。某些情況下，人類尚且無法明確我們要的清晰的價(jià)值觀是什么。即便明確，目前的應(yīng)用場景下，是否還能保持這個(gè)價(jià)值觀，如何遵循這個(gè)價(jià)值觀，這都是我們的研究和挑戰(zhàn)。

因此，研究者們希望基于一種基本的價(jià)值觀定義對(duì)齊的目標(biāo)，通過與倫理學(xué)的合作，構(gòu)建一個(gè)更好的對(duì)齊人工智能材料的模型，來評(píng)測價(jià)值觀定義是否有效。

謝幸表示，該領(lǐng)域潛在的研究方向還包括，如果沒辦法準(zhǔn)確的定義價(jià)值觀，是否能夠通過人工智能自主學(xué)習(xí)形成觀點(diǎn)？人工智能與人類的價(jià)值觀之間是否會(huì)形成各種沖突？如何把控人工智能在做復(fù)雜決定時(shí)的價(jià)值觀排序？以及，隨著人工智能能力進(jìn)一步增強(qiáng)，如何進(jìn)行監(jiān)督？

人工智能影響的深入帶來了評(píng)價(jià)和對(duì)齊等挑戰(zhàn)，社會(huì)科學(xué)長期積累的經(jīng)驗(yàn)和洞察恰恰可以應(yīng)用于緩解和解決這些挑戰(zhàn)。對(duì)于人工智能未來的發(fā)展，謝幸表示，“我們鼓勵(lì)不同領(lǐng)域的專家學(xué)者相互協(xié)作，共同探索人工智能在社會(huì)領(lǐng)域的應(yīng)用和影響。我們也希望培養(yǎng)更多這方面的學(xué)者和研究人員。