文|科技新知

ChatGPT帶火的大模型，在軟件應(yīng)用領(lǐng)域一路高歌，與硬件設(shè)備的結(jié)合卻不疾不徐。

最先有動(dòng)作的是微軟的老對(duì)頭谷歌。今年5月，后者公布新一代大語(yǔ)言模型PaLM 2，其代號(hào)為“壁虎”的版本，每秒可處理約20個(gè)Tokens（大約為16個(gè)單詞），適用于手機(jī)等移動(dòng)設(shè)備，可以離線使用。并且，聯(lián)動(dòng)谷歌旗下搜索、地圖、郵件、視頻等各類產(chǎn)品后，相應(yīng)的功能可進(jìn)行重構(gòu)。

大模型向手機(jī)端蔓延的戰(zhàn)火突然加速。6月29日，榮耀在上海世界移動(dòng)通信大會(huì)上表示，未來(lái)將把AI大模型引入端側(cè)。7月初，搭載高通第二代驍龍8芯片的安卓手機(jī)，直接運(yùn)行了參數(shù)規(guī)模超過(guò)10億的Stable Diffusion，只需要15秒左右就可以出圖。更重要的是，這是完全本地化，只依賴手機(jī)本身的算力。

8月初的華為開(kāi)發(fā)者大會(huì)上，隨著HarmonyOS 4的發(fā)布，基于AI大模型的全新技術(shù)，華為的智能語(yǔ)音助手小藝也公布了三大方向的優(yōu)化升級(jí)。

在華為的構(gòu)想中，旗下盤(pán)古大模型給小藝賦予的能力一改往日的呆板，看起來(lái)更加吸引人。但冷靜下來(lái)看，由ChatGPT引發(fā)的故事已經(jīng)老套，這時(shí)各大廠商們爆出將大模型接入智能手機(jī)，究竟是噱頭還是創(chuàng)新？

“人工智障”有了大腦

移動(dòng)端的智能語(yǔ)音助手，在過(guò)去的很長(zhǎng)一段時(shí)間內(nèi)，被人戲稱為“人工智障”。

這種巨大的落差在于，藝術(shù)作品中的AI助手如《鋼鐵俠》中的賈維斯，拉高了人們的期待，而現(xiàn)實(shí)中無(wú)論是蘋(píng)果的Siri還是國(guó)產(chǎn)陣營(yíng)的小愛(ài)、小度、小藝等，實(shí)際體驗(yàn)都與智慧二字沾不上邊。大部分人或許有這樣的經(jīng)歷，對(duì)語(yǔ)音助手下達(dá)指令時(shí)，得到最多的回復(fù)是“我不太明白你在說(shuō)什么？”，甚至沒(méi)有反應(yīng)，不得不尷尬地喊話多次。

而在大模型的賦能下，用華為的話來(lái)說(shuō)，小藝會(huì)變得“更聰明、更能干、更貼心”，在1+8設(shè)備操控、語(yǔ)音交互、文案幫寫(xiě)等方面都能處理得游刃有余，能夠理解更為復(fù)雜的場(chǎng)景對(duì)話，輸出相應(yīng)的交互動(dòng)作和內(nèi)容。

這得益于華為早前在大模型領(lǐng)域的布局。今年7月7日的華為開(kāi)發(fā)者大會(huì)2023（Cloud）上，華為常務(wù)董事、華為云CEO張平安就宣布推出盤(pán)古大模型3.0，通用大模型、行業(yè)大模型及更為細(xì)化的場(chǎng)景模型分別對(duì)應(yīng)“L0~L2”三層模型架構(gòu)，進(jìn)而為行業(yè)提供大模型服務(wù)。

最新迭代的HarmonyOS 4就融入了自身盤(pán)古大模型底層能力，能為C端用戶帶來(lái)更智慧化、高效化、個(gè)性化的AI體驗(yàn)。比如智慧助手小藝，在傳統(tǒng)的語(yǔ)音交互外，還擴(kuò)展了文字、文檔、圖片等交互功能。用戶的表達(dá)可以更加模糊，口語(yǔ)化，能夠像與朋友交流一樣與小藝自然交互。

小藝背后的大模型就是在盤(pán)古L0基座大模型的基礎(chǔ)上，針對(duì)終端消費(fèi)者場(chǎng)景構(gòu)建了大量的場(chǎng)景數(shù)據(jù)與精調(diào)模型后的L1層對(duì)話模型，進(jìn)而適用于終端消費(fèi)者場(chǎng)景。

不過(guò)，根據(jù)官方發(fā)布會(huì)以及線下體驗(yàn)視頻來(lái)看，華為小藝確實(shí)展現(xiàn)出了如定鬧鐘、聽(tīng)新聞、識(shí)別文字制作表格等，面對(duì)復(fù)雜內(nèi)容時(shí)的良好表現(xiàn)能力。但由于目前受制于鴻蒙系統(tǒng)的正式發(fā)布，小藝也只是公布了測(cè)試計(jì)劃：在今年8月底開(kāi)放邀請(qǐng)測(cè)試，并于晚些時(shí)候在搭載HarmonyOS 4.0及以上的部分機(jī)型通過(guò)OTA升級(jí)體驗(yàn)。也就是說(shuō)，從目前華為公布的藍(lán)圖到落地，再到小藝融入尋常百姓家，這個(gè)過(guò)程中仍有著時(shí)間鴻溝。

參數(shù)、算力、能耗問(wèn)題何解？

大模型顧名思義包含的參數(shù)規(guī)模是巨大的，訓(xùn)練時(shí)的算力也成了關(guān)鍵。

中國(guó)工程院院士、鵬城實(shí)驗(yàn)室主任高文把算力比作電力，認(rèn)為沒(méi)有大算力做大模型就是天方夜譚。華為輪值董事長(zhǎng)胡厚崑也提到，大模型訓(xùn)練的效率或者是創(chuàng)新的速度，根本上取決于算力的大小。

因此，研發(fā)ChatGPT的OpenAI對(duì)英偉達(dá)A100/H100芯片的需求持續(xù)增加，訂單量超過(guò)數(shù)十億美元，并且造成了預(yù)計(jì)H100的43萬(wàn)張缺口。同理，當(dāng)手機(jī)上嵌入大模型后，其算力如何保證，以及算力背后的芯片性能如何提升，也影響著產(chǎn)品應(yīng)用的使用體驗(yàn)。

在能耗方面，榮耀CEO趙明表達(dá)過(guò)看法和擔(dān)憂：端側(cè)大模型在后臺(tái)不斷地運(yùn)行，AI低功耗的能力未來(lái)會(huì)是一個(gè)核心。未來(lái)端側(cè)大模型的時(shí)代，一定對(duì)續(xù)航的體驗(yàn)不會(huì)產(chǎn)生大的影響，實(shí)現(xiàn)路徑上會(huì)在“更聰明的AI”和“更優(yōu)的續(xù)航”之間做一個(gè)平衡。

因?yàn)楸憩F(xiàn)良好的模型規(guī)模較大，所需要的存儲(chǔ)空間也越多，所以更大的模型也意味著在推理訓(xùn)練和運(yùn)算的過(guò)程中需要更多的能耗。而目前行業(yè)中對(duì)移動(dòng)端大模型壓縮精簡(jiǎn)的方法主要是，通過(guò)知識(shí)蒸餾、輕量化模型架構(gòu)、剪枝、量化等其中的一種或幾種方式進(jìn)行壓縮后 “塞”到手機(jī)里，最終的能耗和續(xù)航表現(xiàn)也需要在實(shí)驗(yàn)室測(cè)試完畢后才能拿到市場(chǎng)進(jìn)行驗(yàn)證。

最后還要考慮大模型訓(xùn)練時(shí)所需要的數(shù)據(jù)參數(shù)，放在手機(jī)上就是來(lái)自于語(yǔ)音助手的日常交互量。

據(jù)華為終端BG首席運(yùn)營(yíng)官何剛介紹，華為手機(jī)語(yǔ)音助手小藝月活用戶數(shù)超2億，智慧屏小藝日均喚醒次數(shù)為7次以上。而小米旗下的小愛(ài)同學(xué)截止到3月27日，月活用戶達(dá) 1.15億，語(yǔ)音交互次數(shù)累計(jì)達(dá)2158億；激活小愛(ài)同學(xué)的設(shè)備數(shù)達(dá)4.59億，小愛(ài)同學(xué)支持控制共79類，支持智能產(chǎn)品共計(jì)5312款。對(duì)于語(yǔ)音助手的覆蓋數(shù)量來(lái)看，想要達(dá)到大模型的千億級(jí)參數(shù)量級(jí)以便能有更為精準(zhǔn)的交互和反饋，小藝、小愛(ài)同學(xué)還遠(yuǎn)遠(yuǎn)不夠看。

噱頭還是創(chuàng)新？

剛剛結(jié)束的小米新品發(fā)布會(huì)上雷軍提到，未來(lái)的小米將全面擁抱大模型，小愛(ài)同學(xué)也將第一時(shí)間用上大模型。與此同時(shí)有消息顯示，OPPO、vivo也都在發(fā)力于大模型領(lǐng)域，但最終的落地會(huì)稍晚一點(diǎn)。據(jù)國(guó)外媒體報(bào)道，蘋(píng)果也開(kāi)始著急招聘大模型研發(fā)人才，其位于巴黎的AI研究所從Meta挖到了相關(guān)研發(fā)人員。

智能手機(jī)真的能在AI大模型的加持下，如愿捅破存量市場(chǎng)的天花板嗎？

一方面，部署在云端的人工智能算法和App，在手機(jī)這類設(shè)備中應(yīng)用時(shí)，往往存在三個(gè)短板：服務(wù)響應(yīng)延遲高、服務(wù)個(gè)性化不足、云端服務(wù)器壓力大。這不僅直接影響到用戶的產(chǎn)品體驗(yàn)，而且會(huì)增加廠商對(duì)云服務(wù)器的采購(gòu)成本。

而作為如今每年擁有十幾億出貨量的個(gè)人終端設(shè)備，智能手機(jī)就像是擁有大量閑置算力的移動(dòng)計(jì)算單元，如果能在這些設(shè)備閑置時(shí)間里將碎片化、分布式的算力利用起來(lái)，對(duì)于廠商和用戶來(lái)說(shuō)會(huì)是一種雙贏的局面。

另一方面，智能手機(jī)廠商們?cè)诟叨韧|(zhì)化的激烈競(jìng)爭(zhēng)下，存量市場(chǎng)遲遲得不到突破，亟需新的技術(shù)和故事來(lái)拉動(dòng)市場(chǎng)表現(xiàn)。而一直被認(rèn)為是雞肋的語(yǔ)音助手剛好是用戶的智能化入口，在對(duì)用戶的個(gè)性化需求理解方面更具優(yōu)勢(shì)。

用語(yǔ)音助手來(lái)服務(wù)用戶的同時(shí)也面臨著一些爭(zhēng)議，比如訓(xùn)練語(yǔ)言模型的數(shù)據(jù)是否合法？在這方面，華為表示堅(jiān)持以安全與隱私保護(hù)為首要原則，主張更負(fù)責(zé)任的AI，所有AI體驗(yàn)創(chuàng)新和場(chǎng)景設(shè)計(jì)的第一原則是安全與隱私保護(hù)。

AI大模型一日千里，其發(fā)展故事早已不夠稀奇和吸睛，但由于其表現(xiàn)出的巨大技術(shù)潛力，剛好符合智能手機(jī)廠商對(duì)未來(lái)的期待，想要徹底在端側(cè)引爆大模型，還需要時(shí)間來(lái)鑒定。

 

參考資料：

如何把大模型裝入智能手機(jī)？榮耀CEO趙明：低功耗的AI算力是關(guān)鍵-鈦極客

Google 的 AI 大計(jì)劃：讓大模型變小、嵌入每一個(gè)產(chǎn)品-晚點(diǎn)LatePost

AI大模型會(huì)如何顛覆手機(jī)？-阿爾法工場(chǎng)研究院