2023年以來(lái)，所有人都知道AI非常的熱、非常的牛、非常的神，生成的文章辭藻華麗、寫(xiě)的報(bào)告面面俱到，毫不謙虛地說(shuō)，打敗80%甚至更多的人類(lèi)。至于文生圖、作曲，甚至是視頻，都常有令人驚艷的作品。吹爆再吹爆，無(wú)需贅述……

對(duì)于設(shè)計(jì)師、文案策劃等職業(yè)，生成式AI確實(shí)已經(jīng)幫助他們提高了迸發(fā)創(chuàng)意的速度，至少不必萬(wàn)丈高樓平地起了。由于效率太高，這些崗位中的部分人可能反而要面對(duì)失業(yè)的煩惱。但對(duì)于普通人，AI除了獵奇，OpenAI、SD等時(shí)髦玩意兒好像對(duì)工作也沒(méi)啥實(shí)質(zhì)性的幫助——畢竟平時(shí)不需要寫(xiě)什么四平八穩(wěn)的文章，更不需要吟詩(shī)作賦，而且見(jiàn)多了AI的輸出，也實(shí)在覺(jué)得多是些正確的廢話，有用，但也沒(méi)啥大用。

所以，當(dāng)某手機(jī)廠商說(shuō)以后不生產(chǎn)“傳統(tǒng)手機(jī)”的時(shí)候，大家嗤之以鼻。當(dāng)AI PC概念出現(xiàn)的時(shí)候，也難免覺(jué)得是營(yíng)銷(xiāo)噱頭。但是，當(dāng)我在2024英特爾商用客戶(hù)端 AI PC產(chǎn)品發(fā)布會(huì)的展區(qū)走了一圈之后，我發(fā)現(xiàn)AI比我想象中的更有用。是的，有用，不需要技驚四座，但，很有用。

端側(cè)AI的本地化落地帶來(lái)根本性的體驗(yàn)變化

既然是商用PC，那就離不開(kāi)生產(chǎn)力工具屬性。如果不買(mǎi)最新的硬件，玩不轉(zhuǎn)最新的軟件版本，很容易在鄙視鏈中打上“應(yīng)用水平低下”的標(biāo)簽。就拿Excel為例吧，最早接觸Excel的時(shí)候，對(duì)效率的理解是會(huì)用公式，自動(dòng)進(jìn)行一些計(jì)算等。再然后，是宏代碼，自動(dòng)執(zhí)行數(shù)據(jù)的篩選、排序、導(dǎo)出等等，但這個(gè)難度還是比較大的。前幾年呢，又似乎流行起了Python，不去學(xué)一下那都不配談數(shù)據(jù)處理了。在言必稱(chēng)數(shù)據(jù)可視化的當(dāng)下，多數(shù)Excel用戶(hù)的真實(shí)情況是嘗試陌生的公式都需要臨時(shí)百度一下教程，現(xiàn)學(xué)現(xiàn)用，稍復(fù)雜的操作可能要屢敗屢試。

那PC前面加上“AI”，或者裝上某個(gè)AI助理，就可以趕時(shí)髦了嗎?我實(shí)際體驗(yàn)之后，確定AI PC絕非如此淺薄。在AI PC上，有個(gè)專(zhuān)門(mén)做Office插件的公司叫ExtendOffice，就很好地解決了Excel用起來(lái)磕磕絆絆的痛點(diǎn)：你只要說(shuō)出你的意圖，AI助手馬上直接在Excel表格上進(jìn)行操作，譬如幣值轉(zhuǎn)換，甚至加密某一列數(shù)據(jù)。不需要去琢磨腦海里的需求到底需要對(duì)應(yīng)哪個(gè)公式或者功能才可以實(shí)現(xiàn)，不用去查找教程，也跳過(guò)了step by step的學(xué)習(xí)，AI助手當(dāng)場(chǎng)就處理完了。

這就體現(xiàn)了AI PC一個(gè)特別關(guān)鍵的賣(mài)點(diǎn)：本地化，且在此基礎(chǔ)上，可以嵌入工作流程，直接參與處理。我們中國(guó)人特別熱愛(ài)學(xué)習(xí)，總說(shuō)“授人以魚(yú)不如授人以漁”，但“漁”的學(xué)習(xí)曲線太長(zhǎng)了。在AI PC里，魚(yú)和漁可以同時(shí)獲得，因?yàn)闈O夫(AI助手)隨時(shí)都在你眼前，更不要說(shuō)它還可以當(dāng)廚師、當(dāng)秘書(shū)。

而且，剛才說(shuō)的“嵌入”并不局限于某一個(gè)操作環(huán)節(jié)(類(lèi)似于剛才說(shuō)的給Excel增加某一列數(shù)據(jù)、公式)，而是可以生成一個(gè)多步驟的、跨軟件的操作。這也體現(xiàn)了大語(yǔ)言模型的優(yōu)勢(shì)：可以接受較長(zhǎng)的輸入并理解、分拆。譬如，我們完全可以對(duì)AI PC說(shuō)：幫我將電腦靜音，然后打開(kāi)上次閱讀的文檔，并把它發(fā)送給某某郵箱。需要強(qiáng)調(diào)的是，以目前的演示，不需要指定準(zhǔn)確的文檔名，模糊的指示是可以理解的。還有一個(gè)讓我暗暗叫好的操作是批量修改文件名。在Windows下批量修改文件名是需要一些小技巧的，而且，只能改成有規(guī)律的文件名(數(shù)字、字母后綴)等，但在AI助手的幫助下，我們可以讓文件名更有個(gè)性：分別加上相關(guān)客戶(hù)的名字、不同的風(fēng)格類(lèi)型等等。這事說(shuō)起來(lái)簡(jiǎn)單，但其實(shí)需要挨個(gè)查看文件、提取關(guān)鍵信息，甚至根據(jù)自我理解去描述一些抽象的信息，然后挨個(gè)編寫(xiě)新的文件名——過(guò)程非常瑣碎，文件多了就很費(fèi)時(shí)間，但有了AI助手，這就是一句話的事。理解較長(zhǎng)的上下文、多模態(tài)輸入等等，這些都必須依賴(lài)大語(yǔ)言模型的能力，但其實(shí)是在本地運(yùn)行的，而非借助云端的推理能力。講真，應(yīng)該沒(méi)有人會(huì)認(rèn)為整理文件名這種本地文件系統(tǒng)的操作還需要去云端繞一圈吧?從端到云之間隱藏的各種斷點(diǎn)確實(shí)限制了我們的想象力，因此，AI PC的這些本地操作真的打開(kāi)了我的思路。

相對(duì)于大家早期較為熟悉的基于云端的AI工具，本地化還帶來(lái)了很多顯而易見(jiàn)的好處。譬如，斷網(wǎng)的情況下，也是可以完成自然語(yǔ)言的處理和其他的操作。這對(duì)于那些曾經(jīng)重度依賴(lài)大模型能力，且遭遇過(guò)服務(wù)故障的早期大模型用戶(hù)而言，“天塌了”就是痛點(diǎn)。更不要說(shuō)坐飛機(jī)之類(lèi)的無(wú)網(wǎng)絡(luò)場(chǎng)景了，保持連續(xù)的可用性是一個(gè)很樸素的需求。

本地部署還可以解決數(shù)據(jù)安全問(wèn)題。大模型爆火之初就屢屢傳出某某公司不慎泄露數(shù)據(jù)的新聞。沒(méi)辦法，用ChatGPT做簡(jiǎn)報(bào)、檢查代碼等等確實(shí)很香啊，但前提是得把文檔上傳到云端。這就導(dǎo)致許多企業(yè)一刀切禁止員工使用ChatGPT。后來(lái)的事情就是許多企業(yè)選擇利用開(kāi)源大模型和內(nèi)部數(shù)據(jù)訓(xùn)練、微調(diào)私有的大模型，并部署在自有的服務(wù)器或云主機(jī)上。更進(jìn)一步的，現(xiàn)在我們看到規(guī)模 200 億參數(shù)的大模型可以部署在基于酷睿 Ultra 處理器的 AI PC 上。。

這種部署在AI PC上的大模型已經(jīng)涉及教育、法律、醫(yī)學(xué)等多個(gè)垂直領(lǐng)域，可以生成包括知識(shí)圖譜、合同、法律意見(jiàn)等。譬如，將案情輸入中科創(chuàng)達(dá)的魔方智能法務(wù)助手，就可以進(jìn)行案情分析，查找相關(guān)的法律條文，撰寫(xiě)法律文書(shū)等。在這個(gè)場(chǎng)景中，很顯然案情的隱私是應(yīng)該絕對(duì)保證的，律師不敢將這種文檔傳輸?shù)皆贫颂幚怼ａt(yī)生也有類(lèi)似的約束，基于病例、基因數(shù)據(jù)等進(jìn)行課題研究，如果能夠在PC上做基因靶點(diǎn)、藥理分析等，就不必采購(gòu)服務(wù)器或者部署私有云了。

順便一提的是，AI PC上的大模型還讓訓(xùn)練變得比想象中要簡(jiǎn)單，把本地你能看到的文件“喂”給AI助理之類(lèi)的就可以了。這就解決了以往聊天機(jī)器人那種活只干了一半的“正確的廢話”。譬如，通過(guò)AI生成一個(gè)報(bào)價(jià)郵件模板是很輕松的，但是，一般來(lái)說(shuō)價(jià)格這種關(guān)鍵信息，機(jī)器人不懂那是很正常的事情，所以需要人工進(jìn)行完善。如果找一個(gè)人類(lèi)來(lái)處理這種事情，那提前做一份價(jià)格表是合理要求吧?報(bào)價(jià)表、FAQ等都是屬于需要總結(jié)提煉的工作，然后才能更有效率地培訓(xùn)新人——這是傳統(tǒng)觀念。本地的AI可以讓這個(gè)事情變得很簡(jiǎn)單：讓它去讀Outlook郵箱就好了，片刻之后它自己就從歷史郵件中“學(xué)”到對(duì)應(yīng)的報(bào)價(jià)。相應(yīng)生成的郵件就不僅是模版級(jí)了，而是要素完善的，留給我們做的就只剩確認(rèn)AI給的結(jié)果是否正確。而且這種學(xué)習(xí)成果是可以繼承下來(lái)的。

三大AI引擎撐起本地大模型

信息時(shí)代，我們已經(jīng)經(jīng)歷了幾次重大的科技變革。首先是個(gè)人電腦的普及，然后是互聯(lián)網(wǎng)的普及，再就是移動(dòng)互聯(lián)網(wǎng)。現(xiàn)在我們正在面對(duì)的是AI 對(duì)生產(chǎn)力的賦能甚至重構(gòu)。我們今天講的AI不是在數(shù)據(jù)中心里做訓(xùn)練或者推理的大規(guī)模集群，而是手邊的PC。AIGC、視頻制作等面向內(nèi)容創(chuàng)作者的應(yīng)用已經(jīng)不斷給予大眾諸多震撼了。現(xiàn)在我們進(jìn)一步看到的是AI PC已經(jīng)可以實(shí)實(shí)在在的提升普通白領(lǐng)的工作效率：處理瑣碎事務(wù)，做簡(jiǎn)報(bào)、寫(xiě)郵件、查找法條等等，并且無(wú)縫銜接式地補(bǔ)齊我們的一些技能短板，類(lèi)似于應(yīng)用我們?cè)静⒉皇煜さ牡腅xcel功能、制作原以為高大上的知識(shí)圖譜，諸如此類(lèi)。這一切當(dāng)然不僅僅依賴(lài)于大語(yǔ)言模型的“智能涌現(xiàn)”，也需要足夠強(qiáng)大的性能以支撐本地部署。

我們多次提到的大模型的“本地部署”，都離不開(kāi)端側(cè)強(qiáng)勁的AI算力。所謂的AI PC，依靠的是酷睿Ultra處理器強(qiáng)悍的CPU+GPU+NPU三大AI引擎，其算力足夠支持200億參數(shù)的大語(yǔ)言模型在本地運(yùn)行推理過(guò)程，至于插圖級(jí)的文生圖為代表的AIGC應(yīng)用相對(duì)而言倒是小菜一碟了。

CPU快速響應(yīng)：CPU可以用來(lái)運(yùn)行傳統(tǒng)的、多樣化的工作負(fù)載，并實(shí)現(xiàn)低延遲。酷睿Ultra采用先進(jìn)的Intel 4制造工藝，可以讓筆記本電腦擁有多達(dá)16個(gè)核心22個(gè)線程，睿頻可高達(dá)5.1GHz。

GPU高吞吐量：GPU非常適合需要并行吞吐量的大型工作負(fù)載。酷睿Ultra 標(biāo)配Arc GPU核顯，酷睿Ultra 7 165H包含8個(gè)Xe-LPG 核心(128 個(gè)矢量引擎)，酷睿Ultra5 125H包含7個(gè)。而且，這一代核顯還支持AV1硬編碼，可以更快速地輸出高質(zhì)量、高壓縮率的視頻。憑借領(lǐng)先的編解碼能力，Arc GPU確實(shí)在視頻剪輯行業(yè)積累的良好的口碑。隨著矢量引擎能力的大幅度提升，大量?jī)?nèi)容創(chuàng)作ISV的演示了基于AI PC的更高效率的智能摳像、插幀等功能。

NPU優(yōu)異能效：酷睿Ultra處理器全新引入的NPU(神經(jīng)處理單元)能夠以低功耗處理持續(xù)存在、頻繁使用的AI工作負(fù)載，以確保高能效。譬如，火絨演示了利用NPU算力接管以往由CPU和GPU承擔(dān)的病毒掃描等工作，雖然速度較調(diào)用GPU略低，但能耗有明顯的優(yōu)勢(shì)，特別適合安全這種后臺(tái)操作。我們已經(jīng)很熟悉的視頻會(huì)議中常用的美顏、背景更換、自動(dòng)居中等操作，也可以交給NPU運(yùn)行。NPU也完全有能力僅憑一己之力運(yùn)行輕量級(jí)的大語(yǔ)言模型，例如TinyLlama 1.1，足以滿足聊天機(jī)器人、智能助手、智能運(yùn)維等連續(xù)性的業(yè)務(wù)需求，而將CPU和GPU的資源留給其他業(yè)務(wù)。

針對(duì)商用AI PC，英特爾還推出了基于英特爾酷睿Ultra的vPro平臺(tái)，將 AI和商用平臺(tái)的生產(chǎn)力、安全性、可管理性和穩(wěn)定性有機(jī)結(jié)合。博通展示的基于vPro的AI PC智能化管理將傳統(tǒng)的資產(chǎn)管理從被動(dòng)變?yōu)橹鲃?dòng)：以往只能看到設(shè)備是否“還在”、“能用”，補(bǔ)丁升級(jí)等操作也是計(jì)劃內(nèi)的;而AI加持的vPro可以自主分析設(shè)備的運(yùn)行，從中發(fā)現(xiàn)隱患并自動(dòng)匹配相應(yīng)的補(bǔ)丁包、向運(yùn)維人員推送建議等。貝銳向日葵有一個(gè)AI智能遠(yuǎn)控報(bào)告方案，對(duì)PC的遠(yuǎn)程監(jiān)控不再僅僅是錄屏、截屏，而是可以自動(dòng)、實(shí)時(shí)地識(shí)別和生成電腦的遠(yuǎn)程工作記錄，包括標(biāo)記一些敏感操作，如刪除文件、輸入特定的指令等。這也明顯減輕了運(yùn)維人員檢查、回溯記錄的工作量。

未來(lái)已來(lái)：數(shù)以百計(jì)的ISV實(shí)際業(yè)務(wù)落地

亨利福特曾經(jīng)這樣評(píng)價(jià)汽車(chē)的發(fā)明：“如果你問(wèn)你的顧客需要什么,他們會(huì)說(shuō)需要一輛更快的馬車(chē)。”

“更快的馬車(chē)”是一種消費(fèi)陷阱，認(rèn)為AI手機(jī)、AI PC只是噱頭的人們可能只是基于慣例認(rèn)為自己暫時(shí)不需要更新馬車(chē)。更深層次的，是大眾對(duì)AI的落地有一些誤解，表現(xiàn)為兩種極端：一種極端是認(rèn)為那是新潮前衛(wèi)的重度用戶(hù)、旗艦配置的事情，典型的場(chǎng)景是圖像視頻處理等;另一種極端是覺(jué)得是耳目一新的聊天機(jī)器人，類(lèi)似于強(qiáng)化版的搜索引擎，有更好，無(wú)亦可。但實(shí)際上，AI PC的落地情況遠(yuǎn)超許多人的想象：對(duì)于商用客戶(hù)而言，英特爾與全球超過(guò)100+個(gè)ISV深度優(yōu)化合作，本土35+ISV在終端優(yōu)化融合，創(chuàng)建包含300 多項(xiàng)ISV特性的龐大 AI生態(tài)系統(tǒng)，帶來(lái)規(guī)模空前的AI PC體驗(yàn)!

而且，我并不認(rèn)為這個(gè)數(shù)量級(jí)的AI應(yīng)用落地是畫(huà)餅或者“戰(zhàn)未來(lái)”。因?yàn)樵谖已劾铮T多AI PC解決方案的展示，宛如“OpenVINO聯(lián)歡會(huì)”。OpenVINO是英特爾開(kāi)發(fā)的跨平臺(tái)深度學(xué)習(xí)工具包，意即“開(kāi)放式視覺(jué)推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化”。這個(gè)工具包其實(shí)在2018年就已經(jīng)發(fā)布，數(shù)年來(lái)已經(jīng)積累了大量計(jì)算視覺(jué)和深度學(xué)習(xí)推理應(yīng)用，發(fā)展到Iris Xe核顯時(shí)期，軟件、硬件的配合就已經(jīng)很有江湖地位了。譬如依托成熟的算法商店，基于11代酷睿平臺(tái)可以很輕松的構(gòu)建各式各樣的AI應(yīng)用，從智慧安防的行為檢測(cè)，到店鋪?zhàn)詣?dòng)盤(pán)點(diǎn)，效果相當(dāng)?shù)暮谩，F(xiàn)在，AI PC的核顯進(jìn)化到Xe-LPG，算力倍增，OpenVENO積累的各式應(yīng)用本身就會(huì)有更好的表現(xiàn)，可以說(shuō)“地利”(具有延續(xù)性的Xe引擎)和“人和”(OpenVINO的ISV資源)早就是現(xiàn)成的。

真正引爆AI PC的是“天時(shí)”，也就是大語(yǔ)言模型步入實(shí)用化。大語(yǔ)言模型的突破很好地解決了自然語(yǔ)言交互和數(shù)據(jù)訓(xùn)練的問(wèn)題，極大地降低了普通用戶(hù)利用AI算力的門(mén)檻。前面我舉了很多嵌入辦公應(yīng)用的例子，在這里，我可以再舉一個(gè)例子：科東智能控制器的多模態(tài)視覺(jué)語(yǔ)言模型與機(jī)械臂的結(jié)合。機(jī)械臂是司空見(jiàn)慣的機(jī)器人應(yīng)用，早就可以結(jié)合機(jī)器視覺(jué)做各種操作，移動(dòng)、分揀物品等等。但物品的識(shí)別和操作，傳統(tǒng)上是是需要預(yù)訓(xùn)練和編程的。結(jié)合大語(yǔ)言模型后，整套系統(tǒng)就可以做多模態(tài)的指令識(shí)別與執(zhí)行了，譬如我們可以說(shuō)：把手機(jī)放到那張紙上面。在這個(gè)場(chǎng)景中，我們不再需要教會(huì)機(jī)器人手機(jī)是什么、紙是什么，不需要給具體的坐標(biāo)，不需要規(guī)劃移動(dòng)的路徑。自然語(yǔ)言的指令，攝像頭的圖像，這些多模態(tài)的輸入被很好地融合，并自行生成了執(zhí)行指令給機(jī)械臂。對(duì)于這樣的工業(yè)場(chǎng)景，整套流程可以在一臺(tái)筆記本電腦等級(jí)的算力平臺(tái)上完成，數(shù)據(jù)不需要出廠。

所以，AI PC給我們帶來(lái)的，絕對(duì)不僅僅是“更快的馬車(chē)”，而是顛覆了PC的使用模式，拓展了用戶(hù)的能力邊界。盤(pán)點(diǎn)已有的ISV與解決方案，我們可以將AI PC的應(yīng)用總結(jié)為六大場(chǎng)景：

●AlChatbot：針對(duì)特定行業(yè)和領(lǐng)域更加專(zhuān)業(yè)的問(wèn)答。

●AIPC助理：直接對(duì)PC操作，處理個(gè)人文件、照片、視頻等。

●AlOffice助手：Office插件，提升辦公軟件使用效率。

●AI本地知識(shí)庫(kù)：RAG(Retrieval Augmented Generation，檢索增強(qiáng)生成)應(yīng)用，包括各類(lèi)文本和視頻文件。

●AI圖像視頻處理：圖像、視頻、音頻等多媒體信息的生成與后期處理。

●AIPC管理：更加智能高效的設(shè)備資產(chǎn)及安全管理。

小結(jié)

基于酷睿Ultra的AI PC首先是更快、更強(qiáng)、更低功耗、更長(zhǎng)待機(jī)的PC，這些硬件特性支撐的AI應(yīng)用對(duì)我們的使用體驗(yàn)、使用模式帶來(lái)了更深刻的改變。獲得“智能涌現(xiàn)”加持的PC不再僅僅是生產(chǎn)力工具，在某些場(chǎng)景中，它直接可以化身協(xié)作者甚至操作者。這背后既有微架構(gòu)和生產(chǎn)工藝提升帶來(lái)的性能改進(jìn)，也有大語(yǔ)言模型等新質(zhì)生產(chǎn)力的賦能。

如果我們將CPU、GPU、NPU視作是AI PC的三大算力，相應(yīng)的，也可以將AI PC讓AI本地化(端側(cè))落地的價(jià)值歸納為三大法則：經(jīng)濟(jì)、物理、數(shù)據(jù)保密。所謂經(jīng)濟(jì)，是數(shù)據(jù)在本地處理可降低云服務(wù)成本，優(yōu)化經(jīng)濟(jì)性;物理則對(duì)應(yīng)云資源的“虛”，本地AI服務(wù)可以提供更好的及時(shí)性，更高的準(zhǔn)確性，避免了云與端之間的傳輸瓶頸;數(shù)據(jù)保密，是指用戶(hù)數(shù)據(jù)完全留在本地，防止濫用和泄露。

在2023年，大語(yǔ)言模型的狂飆成就了云端的AI元年。2024年，大語(yǔ)言模型的端側(cè)落地開(kāi)啟了AI PC元年。我們也期待AI在云與端的交織發(fā)展當(dāng)中不斷夯實(shí)應(yīng)用，源源不絕地釋放強(qiáng)大生產(chǎn)力。(來(lái)源：益企研究院)