界面新聞?dòng)浾?| 何柳穎
界面新聞編輯 | 江怡曼
9月6日，由界面新聞主辦的2024REAL科技大會(huì)在上海順利舉辦，本次大會(huì)主題為“大模型落地，重塑現(xiàn)實(shí)場景”。
近年來，金融科技加速發(fā)展，金融+大模型成為了行業(yè)趨勢。目前在技術(shù)與實(shí)踐層面，各大金融機(jī)構(gòu)進(jìn)行了哪些嘗試？迎來了哪些挑戰(zhàn)？相關(guān)監(jiān)管配套是否完善？
在由寧波銀行贊助呈現(xiàn)的“金融大模型的進(jìn)階之路”圓桌討論會(huì)上，江蘇蘇商銀行股份有限公司副行長黃進(jìn)、眾邦銀行首席信息官李耀、招聯(lián)消費(fèi)金融股份有限公司首席信息官王耀南、眾源資本高級(jí)投資副總裁冉翀、螞蟻集團(tuán)金融AI首席架構(gòu)師徐萬青等與會(huì)嘉賓們就以上話題進(jìn)行了熱切討論。
（“金融大模型的進(jìn)階之路”圓桌討論會(huì)現(xiàn)場）
應(yīng)用場景多方面突破
“銀行已經(jīng)進(jìn)入5.0時(shí)代，銀行所有的業(yè)務(wù)模式都值得用AI重新思考一遍。” 李耀強(qiáng)調(diào)AI對(duì)于銀行的重要性。
起步之際，銀行+大模型多集中于人工客服、資料庫等基礎(chǔ)層面，如今伴隨技術(shù)的迭代與新需求的涌現(xiàn)，應(yīng)用場景實(shí)現(xiàn)了多方面突破。
黃進(jìn)介紹，目前銀行主要基于大模型的生成能力，在兩個(gè)核心的業(yè)務(wù)領(lǐng)域——產(chǎn)業(yè)鏈金融和科創(chuàng)金融，輔助生成相關(guān)的盡調(diào)報(bào)告。“我們也會(huì)基于自身的信貸語料庫，以及行內(nèi)整合的非結(jié)構(gòu)化數(shù)據(jù)，將大模型的分析能力應(yīng)用在O2O的信貸審批環(huán)節(jié)，應(yīng)用場景包括信貸客戶的KYC以及部分貸后管理環(huán)節(jié)。”
基于大模型能力，螞蟻集團(tuán)于去年發(fā)布了智能業(yè)務(wù)助手“支小助”。 徐萬青介紹，經(jīng)過一整年的打磨和培養(yǎng)，現(xiàn)在“支小助”已經(jīng)升級(jí)到2.0版本，并落地在銷售、理賠、財(cái)務(wù)寫作，營銷創(chuàng)意等多個(gè)場景。他稱，規(guī)?；穆涞仳?yàn)證了支小助2.0能為業(yè)務(wù)帶來非常好的提升效果。
“比如在財(cái)務(wù)報(bào)表領(lǐng)域，阿里巴巴最近發(fā)布的財(cái)報(bào)首次使用支小助2.0幫助專家進(jìn)行了很多精密任務(wù)的執(zhí)行。包括財(cái)務(wù)邏輯理解、業(yè)績歸因、專業(yè)寫作，都由支小助2.0輔助財(cái)務(wù)專家進(jìn)行編寫。”徐萬青稱，這些任務(wù)（完成情況）已經(jīng)達(dá)到了高級(jí)財(cái)務(wù)專家的要求。
對(duì)于金融機(jī)構(gòu)而言，如何借助大模型實(shí)現(xiàn)降本增效是一個(gè)重要命題。
招聯(lián)消費(fèi)金融股份有限公司首席信息官王耀南分享道，招聯(lián)2023年11月發(fā)布消費(fèi)金融行業(yè)首個(gè)130億參數(shù)大模型“招聯(lián)智鹿”，今年7月升級(jí)推出“招聯(lián)智鹿二代”，以智能客服為例，不僅可以結(jié)合具體會(huì)話狀態(tài)與服務(wù)場景，快速精準(zhǔn)地進(jìn)行會(huì)話小結(jié)，大幅提升坐席作業(yè)效率，還能充分利用深度學(xué)習(xí)技術(shù)，準(zhǔn)確理解客戶意圖，共情客戶情緒，并將與客戶交互的“經(jīng)驗(yàn)”和“感覺”積累成參考樣本，實(shí)現(xiàn)舉一反三的智能服務(wù)，大幅降低投訴率。
徐萬青也談及，現(xiàn)在支小助2.0有能力去學(xué)習(xí)優(yōu)質(zhì)的銷售經(jīng)驗(yàn)、銷售能力和銷售話術(shù)，從而構(gòu)建一個(gè)數(shù)字分身，讓數(shù)字分身幫助基礎(chǔ)銷售人員提升他們的客戶服務(wù)的能力和標(biāo)準(zhǔn)?！斑@套能力在保險(xiǎn)規(guī)劃師團(tuán)隊(duì)上已經(jīng)完全鋪開使用了，目前可以將人均產(chǎn)能提升約150%?！?/span>
展望銀行業(yè)未來的大模型應(yīng)用，王耀南表示，希望用大語言模型的推理能力持續(xù)優(yōu)化招聯(lián)的整體業(yè)務(wù)運(yùn)營情況。他認(rèn)為，對(duì)于金融企業(yè)而言，要把業(yè)務(wù)和語言模型結(jié)合，產(chǎn)生（實(shí)際）效果，因?yàn)橹挥性谄髽I(yè)內(nèi)部踏踏實(shí)實(shí)落地，語言模型的價(jià)值才能更好地凸顯出來?！?/span>
徐萬青強(qiáng)調(diào)需要基于用戶的角度進(jìn)行思考?！?/span>以理財(cái)為例，我們的客戶會(huì)希望能夠獲得更個(gè)性化的金融服務(wù)，希望大模型理解我真正的偏好、訴求、風(fēng)險(xiǎn)；同時(shí)，也希望這個(gè)服務(wù)的獲取方式非常便利，借助大模型能力，實(shí)現(xiàn)語言交流、視頻交流；更進(jìn)一步，用戶希望給到的個(gè)性化服務(wù)，能夠真正有效的能夠支持他的投資決策，而這對(duì)大模型處理信息的及時(shí)性和有效性也提出了更高的要求?！?/span>
金融領(lǐng)域有其特殊性，李耀建議在運(yùn)用大模型的過程中，應(yīng)當(dāng)走“通用加專用”的道路，即通用大模型搭配專用模型使用，這可以讓傳統(tǒng)的專家模型、機(jī)器學(xué)習(xí)手段更加穩(wěn)定、更加具有可解釋性。
冉翀則認(rèn)為，在金融大模型的未來，如果能把任務(wù)和職業(yè)定義清楚，應(yīng)該是都有可能利用大模型來實(shí)現(xiàn)任務(wù)和職業(yè)的替換。
（“金融大模型的進(jìn)階之路”圓桌討論會(huì)現(xiàn)場）
技術(shù)與成本的多重挑戰(zhàn)
不可避免地，路上總有挑戰(zhàn)。
一方面，Bug總會(huì)出現(xiàn)，這要求大量的實(shí)踐與改進(jìn)。王耀南舉例稱，在推斷客戶最近的資金需求時(shí)，銀行一般會(huì)查看他們的人行查詢報(bào)告次數(shù)，人工會(huì)發(fā)現(xiàn)客戶最近沒有很頻繁查看，但機(jī)器人推斷出客戶查看很頻繁。最后發(fā)現(xiàn)，這名客戶在一年前查看的次數(shù)比較多，但最近一年只有一次。“大語言模型對(duì)時(shí)間沒有什么概念，如果由機(jī)器做推斷，需要的細(xì)節(jié)非常多，我們正在持續(xù)推進(jìn)這方面的工作?！?/span>
冉翀也強(qiáng)調(diào)，目前在金融領(lǐng)域，如果模型的搜索能力不夠強(qiáng)，或者理解錯(cuò)誤，出現(xiàn)幻覺，單一任務(wù)上就有出錯(cuò)可能性。“面對(duì)復(fù)雜的工作流，比如有5個(gè)步驟，每個(gè)步驟都要做一次，如果每個(gè)步驟只有80%的正確率，答案幾乎不可能是對(duì)的。”
冉翀稱，在此背景下，模型本身的性能、模型使用工具的能力、模型做多步推理的可靠性，這是當(dāng)下面臨的很明確的問題。
“模型的能力要足夠強(qiáng)，是不是（達(dá)到）金融級(jí)別的模型？是不是足夠可靠？是否有很強(qiáng)的多步推理能力？模型能不能知道自己錯(cuò)了？以及中間和用戶場景之間的Gap怎么彌補(bǔ)？這些都是挑戰(zhàn)。”冉翀具體指出。
另一方面，成本的問題需要考量。李耀提及，“現(xiàn)在大公司要做大模型，沒有一萬個(gè)顯卡沒法進(jìn)行，這也就意味著3-4億美金的投入。對(duì)我們來說，不做訓(xùn)練，只做推理，投入也是很大的。”
黃進(jìn)也坦言，“現(xiàn)在各種大模型出來得太多、太快了，大模型需要本地化部署。我們作為一家中小銀行，缺乏足夠的財(cái)力與精力來適應(yīng)這些比較大的外部需求變化。”
同時(shí)，數(shù)據(jù)對(duì)于大模型的運(yùn)用尤其重要，但數(shù)據(jù)的獲取并不容易。黃進(jìn)表示，為什么說現(xiàn)在的金融行業(yè)并沒有真正的模型能達(dá)到金融學(xué)專業(yè)的碩士或者博士水平？因?yàn)?/span>數(shù)據(jù)很缺乏，單靠某一家機(jī)構(gòu)、銀行無法解決這個(gè)問題，這需要更高層面的努力。
最后，人才亦是關(guān)鍵所在，“大模型的人才非常難得，既要懂業(yè)務(wù)，同時(shí)還要懂大模型的技術(shù)，還要有工程化交付的能力，這些都要求極強(qiáng)的學(xué)習(xí)能力。” 黃進(jìn)稱。
強(qiáng)監(jiān)管背景下如何走得更遠(yuǎn)？
在 “AI+金融”的各式探索中，監(jiān)管與合規(guī)的重要性愈加突出。
黃進(jìn)坦言，由于銀行強(qiáng)監(jiān)管的特點(diǎn)，整個(gè)大模型利用還是相對(duì)比較局限，更多偏向中后臺(tái)，沒有完全直接對(duì)客的應(yīng)用場景。
徐萬青在論壇上強(qiáng)調(diào)，金融行業(yè)是強(qiáng)監(jiān)管行業(yè)，大模型在這樣的監(jiān)管和合規(guī)要求下能做的事情是什么？不能做的事情是什么？怎么結(jié)合才能實(shí)現(xiàn)用戶更深的需求？這些問題都有待思考和突破。
李耀對(duì)此持有同感，并期待監(jiān)管層在這方面能有更多相關(guān)立法和管理?xiàng)l例。
2024年法治藍(lán)皮書《中國法治發(fā)展報(bào)告》指出，2023年是生成式人工智能監(jiān)管元年。為應(yīng)對(duì)生成式人工智能帶來的安全風(fēng)險(xiǎn)，國家網(wǎng)信辦等7部門發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》。中國也因此成為世界上首個(gè)為GPT大模型立法的國家。
在金融科技領(lǐng)域，更完善的AI監(jiān)管制度仍在路上。顯然，只有在監(jiān)管環(huán)境更為明朗的環(huán)境下，銀行的大模型運(yùn)用才能走得更遠(yuǎn)。