界面新聞記者 | 伍洋宇

界面新聞編輯 | 文姝琪

9月6日，在由界面新聞主辦的2024 REAL科技大會上，上海人工智能研究院總工程師王資凱發(fā)表了《前沿技術發(fā)展與治理路徑》主題演講。

上海人工智能研究院是由上海市政府和上海交通大學市校共建的新型研發(fā)機構，成立于2019年世界人工智能大會。在過去發(fā)展的四五年歷程中，研究院已逐步形成全面的技術研發(fā)和產業(yè)轉化的能力，目前已孵化二十余家細分領域初創(chuàng)公司，整體估值超過100億人民幣。 

王資凱首先就新一代AI技術的科研與實際應用的差別進行了論述。例如，科研論文或報告更關注最佳性能SOTA，采用靜態(tài)數(shù)據(jù)和封閉問題集，公平性和可解釋性的重要程度不那么突出，而實際應用則幾乎完全不同，產品的落地更注重比已有模型略好即可，其使用數(shù)據(jù)也在不斷變化，并且格外重視公平性和可解釋性。

這決定了科研與實際應用的難點和亮點也大相徑庭。科研論文的難度在于建模，即怎么把現(xiàn)實問題描繪成復雜的數(shù)學問題，而實際應用更多討論的是復雜的工程實現(xiàn)。從亮點角度講，產品落地講究的是穩(wěn)定，科研論文則要突出精挑細選的結果。

在不斷推進科研和實際應用的同時，王資凱也指出了新一代AI技術自身尚存的缺陷。

他表示，當前AI技術還存在多個問題，使其無法開箱即用，例如高質量的訓練數(shù)據(jù)、高昂的推理成本、龐大的算力需求、推理速度限制、無法滿足垂直領域安全性和可解釋性要求的黑盒體質，以及幻覺導致的“亂講話”等。

這每一個缺陷的背后都對應著巨大的技術和投資機遇。在應對方法上，王資凱提出，行業(yè)可以針對不同場景和用戶需求打造不同的解決方案，例如制作產業(yè)數(shù)據(jù)集、產業(yè)領域細分垂類小模型，以模型即服務的商業(yè)模式服務小中型企業(yè)，針對細分領域去推測試集，做高性能的邊緣側推理設施，以及圍繞細分場景做可控生成和結合增強等等。

在推動技術發(fā)展的同時，技術監(jiān)管問題也不可避免。王資凱表示，這背后的根本原因是新一代AI技術帶來了許多爭議。他提到了去年發(fā)生在美國的一份針對微軟和OpenAI的集體訴訟，可能對整個世界范圍內大模型的監(jiān)管和治理產生深遠影響。

同時，他也提到了近期引起強烈爭議的美國加州“SB 1047法案”，也即“前沿人工智能模型安全創(chuàng)新法案”。

王資凱認為，“SB 1047法案”可能成為人工智能治理的重要節(jié)點。該法案不僅提及了法律責任和“合理關懷”這一概念，也覆蓋系統(tǒng)安全與審查、監(jiān)管機制、法律框架與執(zhí)法、公眾和利益相關者的參與、未來可能出現(xiàn)的調整與更新等多個維度。

“我認為加州的SB 1047法案提到了各種各樣的安全標準、風險評估、測試程序，這套流程其實值得我們學習，這是中國和美國治理路徑的少許差異?！蓖踬Y凱說。

他就此回顧了中國在相關領域的技術監(jiān)管進程。從2023年4月網(wǎng)信辦發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》，到2023年7月國家網(wǎng)信辦聯(lián)同國家發(fā)改委、教育部、科技部、工信部、公安部、廣電總局共同發(fā)布的《生成式人工智能服務管理暫行辦法》，王資凱認為中國在該領域的監(jiān)管辦法質量有了很高的提升，“我認為這部立法是中國甚至世界人工智能治理節(jié)點性的事件。”

他也由此比較了中美在大模型治理領域面臨的差異，包括網(wǎng)絡速度和覆蓋范圍、數(shù)據(jù)中心規(guī)模、網(wǎng)絡安全和隱私保護、能源價格以及用戶習慣等。他具體提到，中國有非常強大的4G和5G能力，能源價格的差異會牽扯到訓練和推理成本，國內企業(yè)的SaaS習慣也還有所欠缺，這些差異或將導致中美人工智能落地路徑和環(huán)境的不一致。

面向中美在新一代AI技術上的未來競爭，王資凱認為上海和長三角在人才、科研產出以及產業(yè)鏈方面都具備獨特優(yōu)勢。

如果以上海為中心，以200公里為半徑畫一個圓圈，范圍內有至少15家世界排名前500的學校，對應整體長三角范圍內的人口達到2.3億，每年可能為市場供給至少上萬名人工智能專業(yè)相關的畢業(yè)生，這是非常強的人才動力。相比之下，美國灣區(qū)只有不到800萬人，人才供給并沒有長三角旺盛，不過美國的移民機制每年會幫助它吸引大量人才。

王資凱最后總結到，新一代AI技術的治理需要各個國家的探索和判例，面向未來。上海和長三角既具備豐富的場景和機遇，同時也會在各種實際案例中存在挑戰(zhàn)。