在過去的一年多里,無論你是否身處科技行業,都能感受到一種強烈的趨勢:人工智慧正在重塑每個人的生活。
歷史上每一次技術的重大突破,都會帶來生產力的變革。但是這一次,變革來到了一個更加微觀的層面。比如,在大模型的助力下,我們使用個人電腦僅需幾分鐘就能完成一份行研報告的初稿,這在以前是難以想象的。
這種與 AI 協作的全新方式,其實就是下一代「個人生產力」的初步形態,而這場生產力變革的接入點,是「AI PC」。
2024 年,AI PC 成為了科技領域的熱門關鍵詞。如果你此時正在選購一臺膝上型電腦,肯定繞不開「AI PC」,這也是各個 PC 廠商主打的產品創新點。前段時間,微軟還透露出希望 OEM 廠商在 AI PC 上增加專門的「Copilot 按鍵」,讓使用者一鍵召喚大模型服務。
與關注新功能的消費者不同的是,行業層面對 AI PC 的好奇心更集中於 PC 硬體的革新,比如算力、功耗、部署等問題。最重要的是:它能不能帶來一些商業價值?
去年英特爾® 酷睿™ Ultra 處理器的釋出,已經為我們展示出下一代 AI PC 的底層邏輯。英特爾當時提供了一種思路:不妨讓 CPU、GPU 和 NPU 各自搞定它們最擅長的工作,以此來加速端側 AI。即使是在不聯網的情況下,AI PC 也能跑起內建大模型,解決使用者的 AI 任務需求。
今年,英特爾真正開啟了 AI PC 的商用時代。目前,我們看到大約有幾十項行業應用,完全可以在 AI PC 上本地執行了。
這在某種程度上證明了,AI PC 不是一個「紙上談兵」的概念。在英特爾與眾多合作伙伴的共同探索中,打造了六大 AI 場景:
可以想象的是,伴隨 AI PC 形態的不斷完善,曾經最前沿的生成式 AI 技術,將會為每一個人所用。
CPU+NPU+GPU 終端異構混合
如何讓 AI PC 成為 “芯智” 生產力?
AI PC 離不開大模型能力的加持,而算力是實現大模型各項能力的前提。
在引數動輒數百億的大模型時代,想要本地執行一個 AI 應用,對於算力的需求已經發生了天翻地覆的變化。最近一個熱門的議題是:CPU、GPU、NPU,誰會是 AI PC 的主角?
業內普遍認為,終端異構混合「CPU+NPU+GPU」算力是當下最優的選擇。
2023 年 9 月,英特爾面向生成式 AI 時代進行了四十多年來最具顛覆性的處理器架構變革 —— 全新英特爾® 酷睿™ Ultra 處理器構建了 CPU+GPU+NPU 協同計算的異構加速體系,一舉實現 200 億引數 LLM 本地執行。
通用 CPU 和 GPU 服務平臺有時並不能滿足複雜 AI 任務的計算需求,高效能和低功耗的推理引擎必不可少。而英特爾酷睿 Ultra 處理器首次內建了神經處理單元(NPU),可處理持續工作負載,完成高能效的 AI 推理。
與架構革新同樣重要的是,如何使算力的提升發揮廣泛的商業價值。目前的一些資料讓各行各業看到了希望:
一系列測試顯示,搭載了英特爾® 酷睿™ Ultra 處理器的英特爾 ®vPro® 平臺的 AI PC 在生產力、安全性、可管理性、穩定性多個層面實現了躍升。相比於三年前的 PC,現在 AI PC 在 AI 效能方面最高可提升 2.2 倍,生產力可以提升 47%,在專業應用中的效能提升甚至可以達到 12 倍。
在功耗方面,英特爾酷睿 Ultra 處理器透過 Foveros 3D 封裝技術將 Intel 4 計算模組、SoC 模組、圖形模組和 IO 模組封裝在一起,再加上整合 NPU 的創新設計,與上一代產品相比最高可以降低 36% 的功耗。
不久之後,AI PC 會從根本上改變企業使用 PC 的方式,解鎖新的體驗並提高生產力。
從六大應用場景出發的 AI PC 商業化之路
現在的 AI PC 已經能夠本地執行大語言模型,隨著人們日益複雜的 AI 任務需求,AI PC 還需要提升解決更多實際問題的能力。
為此,英特爾攜手眾多 ISV 和 OEM 合作伙伴,加強了對軟體生態的投入,實現更優的使用者體驗和商業解決方案。
在過去一段時間,英特爾與產業夥伴共同錨定了六大關鍵場景應用:AI Chatbot、AI PC 助理、AI Office 助手、AI 本地知識庫、AI 影像影片處理、AI PC 管理。
可以想象,有了「AI Office 助手」,我們就能透過靈活呼叫 Office 套件的外掛來處理任何文件,提升辦公效率。又或者在多媒體檔案的處理上,「AI 影像影片處理」類應用能夠幫助使用者進行影像生成和後期處理,針對區域性影像細節處理或影像風格進行變化,更能夠透過 AI 生成短影片、3D 模型等等。
再以「AI 本地知識庫」的搭建為例,目前在一些專業場景或行業細分領域中,通用大模型的知識儲備會顯出不足。RAG 技術就是在這樣的需求下火起來的,它能幫助解決生成式 AI 的幻覺傾向、專業力弱等固有缺陷。
一個更高效的設想是,能不能在 AI PC 中,直接將本地檔案和資料轉化為知識呢?
依託於英特爾酷睿 Ultra 處理器加持的 AI PC,星環科技打造了「無涯・問知 AI PC 版本」。這是一款適用於 PC 端的大模型智慧生產力工具,能夠幫助使用者在繁雜的本地檔案中迅速找到所需資訊,並快速形成深刻的洞察、提升工作效率。它支援多種格式、不限長度的檔案資料入庫,包括常見的 PDF、Word、Excel、PPT、郵件等,這意味著使用者不僅可以透過文字來獲取知識,還可以透過圖片、音訊和影片等多種方式,使知識的獲取和應用更加豐富多彩。
特別是,這款工具配備了可在 AI PC 上本地化執行的 RAG 模組,在提供便利性之外,也保障了使用者知識和應用的隱私性和高效性。無涯・問知 AI PC 版本提供了本地化的向量庫,將資料向量化儲存,使得使用者能夠高效地儲存和查詢海量資料和知識,極大地提升了工作效率。
有了這樣的本地知識庫,再加上面向特定行業和領域進行定向最佳化的「AI Chatbot」,使用者就能在 AI PC 上獲得非常專業、貼心的問答體驗。
此外,AI PC 的普及還將催生「AI PC 助理」和「AI PC 管理」等方向的應用。在 AI PC 助理場景中,使用者能夠透過其對 PC、個人檔案、照片影片等內容進行 AI 處理;在 AI PC 管理方面,AI 應用還能夠透過 AI 加持的遠端管理、安全防護、跨裝置 IT 管理和運維等功能,讓管理 PC 的過程更加輕鬆高效。
這些與 PC 的互動方式,或許在今天想來還有些「天馬行空」,但在不久的將來就會變成稀鬆平常的事。在高效能 AI 處理器的推動下,AI 與各類終端裝置的深度融合已成為不可阻擋的趨勢 —— 這也是 AI PC 的革命性意義之所在。
AI PC 的普惠時代,即將到來
生成式 AI 會帶來一系列「殺手級應用」,也會給未來 PC 市場帶來前所未有的機會。從我們熟悉的傳統 PC 應用,到 AI 帶來的功能增強再到智慧生成,最後抵達高度智慧化的個性化服務,AI 將成為未來時代 PC 的「標配」。
對於商用 AI PC 的大規模應用來說,當前仍屬早期探索階段,許多方法必須從使用者實踐中反饋和總結,這也是為什麼英特爾要與數量眾多的行業夥伴攜手。
但面向 AI PC 行業場景落地的整體原則已經有了共識。此前,英特爾 CEO 帕特・基辛格曾提出過經濟、物理和資料保密三大法則:
在經濟法則中,AI 資料在本地處理可降低雲服務成本,最佳化經濟性;
在物理法則中,AI 服務的及時性和準確性要求提升雲與端之間的傳輸速度,解決瓶頸;
在資料保密法則中,需要保證使用者資料的安全和隱私,防止濫用和洩露。
為了踐行這三大法則,企業需要把實際業務需求搬到終端,而非存在雲端,使其不再受網路影響。在過去一段時間的合作實踐中,一方面,基於英特爾的技術支援,企業在終端獲得了完全不遜於雲端的 AI 應用效能,另一方面,由於本地資料處理降低能耗的優勢,企業的成本負擔也確實減輕了。
英特爾還助力本土 ISV 夥伴基於英特爾 AI PC 及其他強效能商用客戶端產品及技術,打造了教育、製造和醫療等行業全棧 AI 解決方案,推動行業數字化轉型。在這個過程中,英特爾也正在從一家晶片公司轉變為端到端系統公司。
對於今天的我們來說,AI PC 還是一個新鮮概念。但不需要太久,也許就在一年之後,商用 AI PC 的部署將會變得相當普遍。
與此同時,我們也會看到更多在 PC 本地跑起來的強大生產力工具。這場由生成式 AI 引發的變革,將真正惠及每一個人。