NPU詳解:沒有就不能用AI了嗎

個人電腦經歷了近40年的發展歷程。從1970年代誕生,到20世紀80年代和90年代掀起的PC普及浪潮,再到新世紀後進入相對穩定的成熟期,PC行業一直是科技發展的重要推動力。

然而2020年以後,情況發生了變化。根據調研數據統計,2021年全球PC出貨量為3.45億台,較2020年下降了5%。2022年這一數字進一步下降至3.32億台,已連續兩年出現了負增長。這一趨勢表明,個人電腦產業正處於一個相對疲軟的階段。

就在這個關鍵時期,人工智慧技術的興起,為PC行業的未來發展帶來了新的機遇。英特爾、AMD等傳統個人電腦處理器巨頭,紛紛在近期加快推出搭載AI加速晶片的新一代PC產品。

他們希望憑借AI技術的加持,為個人電腦市場注入新的活力,搶占市場先機。同時高通這樣的移動晶片廠商,也在今年推出了面向PC市場的Snapdragon X Elite處理器,積極殺入個人電腦領域,與老牌品牌展開競爭。

面對這一新興的 AI PC 市場,不同廠商都提出了各自的定義和詮釋。對於普通用戶而言,究竟什麼樣的電腦才算是真正意義上的“AI PC”?這種新型計算設備又能為我們的日常生活和工作帶來哪些變革性的影響?接下來就跟大家一起嘮嘮AI PC那點事。

什麼是AI PC?

Intel作為個人電腦行業中占據主導地位的處理器巨頭,英特爾在AI PC的定義上自然具有較強的話語權。英特爾對AI PC有三點比較核心的要求。

1、配備專門的神經處理單元(NPU)、中央處理器(CPU)和圖形處理器(GPU)?,這樣的硬體組合能夠為AI應用提供必要的計算資源。

2、支持微軟的Copilot功能,並且在鍵盤上設有專門的Copilot物理按鍵。

3、具備AI專用加速功能,這意味著CPU、GPU和NPU每一個部件都能針對AI任務進行優化,以提高效率和性能。

NPU詳解:沒有就不能用AI了嗎

這里的關鍵在於集成了英特爾神經網絡處理單元(NPU)。這是英特爾專門針對AI和機器學習場景進行優化設計的硬體加速器,可以大幅提升PC在語音交互、圖像處理等人工智慧任務上的計算能力,在本地提供快速的響應時間,同時相較於雲計算服務更為節能,有助於延長設備的續航時間。

對於更復雜的AI任務,則可能需要用到GPU和CPU協同,因為NPU可能不足以處理這些高強度的工作負載。在某些情況下,CPU、NPU和GPU還能夠協同工作,以運行大型的語言處理模型。

AI模型對記憶體容量和速度也有很高的要求,因為更大的記憶體容量能夠讓模型更加復雜和精確,而更快的記憶體速度則能提升整體的性能。盡管目前微軟尚未設定具體的最低記憶體要求,但英特爾指出,某些工作負載可能需要至少16GB甚至32GB的記憶體。

NPU詳解:沒有就不能用AI了嗎

英特爾搶先在筆記本電腦上推廣AI PC概念,發布了具有NPU的全新一代酷睿Ultra處理器,並計劃到2025年底交付超過1億台帶有AI加速器的PC,據報導Intel已經與100多家AI獨立軟體供應商(ISV)合作,預計到2024年底將推出300多款AI加速應用程式。

NPU詳解:沒有就不能用AI了嗎

AMD對AI PC的定義體現在其對AI技術的整合和應用上,旨在將個人電腦轉變成為最智能和最個性化的設備。AMD認為AI PC應具備以下特點:

1、內嵌基於個人大模型的自然交互個人智能體,這允許設備理解和響應用戶的需求,提供更加個性化的用戶體驗。

2、內嵌個人知識庫,使得AI PC能夠存儲和管理用戶的數據和信息,以便提供更精準的服務。

3、具備CPU+GPU+NPU的本地異構算力,這種混合架構能夠充分利用不同類型的處理核心,以實現高效的AI計算。

4、連接開放的AI應用系統生態,意味著AI PC應支持與各種AI應用和服務無縫對接,形成一個互聯互通的環境。

5、保護個人隱私和數據安全,確保用戶在享受AI帶來的便利的同時,其數據和隱私得到妥善的保護。

從產品發布時間上看,AMD比Intel稍晚一些,除了針對筆記本電腦,集成NPU的銳龍8000系列處理器以外,首次將NPU晶片集成在台式機處理器中,其運算核心整合算力達到了39TOPS。

AMD同樣提供三種計算引擎以滿足AI PC的差異化需求,分別是Zen4架構CPU、RDNA 3架構GPU和XDNA架構的NPU。Zen4架構CPU主要用於通用處理和AI推理,RDNA 3架構GPU適用於遊戲和基於AI的內容創建,而XDNA則專注於低功耗的AI應用,可自適應數據流架構,能夠減少對外部記憶體的訪問,從而提高性能和能效。

高通通過Snapdragon X Elite處理器正式開啟了對PC市場的沖擊。該款處理器搭載了高通自主研發的AI加速引擎,能夠為筆記本電腦帶來出色的機器學習運算性能。

從高通公開發布信息總結下來,高通認為AI PC 應該具備以下幾個關鍵特點:

1. 搭載專門針對 AI 任務優化的異構計算架構,包括CPU、GPU和AI加速器等協同工作。

2. 支持業界領先的人工智慧框架和模型,能夠流暢運行各類智能應用程式。

3. 具有出色的能效表現,即使在密集的AI計算場景下也能保持長續航。

4. 擁有即時響應的用戶交互體驗,比如自然語音交互、智能輔助等。

NPU詳解:沒有就不能用AI了嗎

雖然搭載高通Snapdragon X Elite處理器的筆記本還沒有上市銷售,但從高通官方披露的數據來看,其性能表現相當出色,它在多項基準測試中擊敗了Intel與AMD的產品,同時其功耗表現更優,特別是AI性能,據說可以提供高達75 TOPS的AI算力。這使得Snapdragon X Elite處理器能夠在本地快速處理AI模型,如Stable Diffusion,該模型可以接收文本提示並生成圖像。此外,Snapdragon X Elite處理器的NPU還可以在沒有CPU或GPU輔助的情況下運行所有AI任務,或者在需要時與CPU或GPU協同工作。

不同廠商在定義AI PC概念上有所差異,但在幾個關鍵點上已達成共識:

首先,AI PC 必須擁有強大的AI處理能力。這意味著它們需要搭載專用的神經處理單元(NPU),並能與CPU、GPU協同工作,共同支撐各類智能應用。

其次,AI PC 應該具備在本地直接運行復雜AI模型的能力,無需完全依賴雲端計算資源,從而提供即時響應和流暢的交互體驗。

此外,AI PC 還需要擁有足夠大的記憶體和存儲空間,以容納和運行日益龐大的AI模型。同時,良好的軟體生態也是必要條件,為AI應用的開發和部署提供支撐。

為什麼需要NPU?

NPU是專門為人工智慧和機器學習場景而設計的處理器。與通用的中央處理器 (CPU) 和圖形處理器 (GPU) 不同, NPU 在硬體結構上進行了針對性的優化,專注於執行神經網絡推理等AI相關的計算任務。

相比之下,CPU 擅長處理通用的計算和控制邏輯,而GPU則在並行計算方面具有優勢,擅長處理圖形渲染等圖形密集型任務。NPU作為AI PC中專門的神經網絡加速處理器,其最大的優勢就體現在能夠高效支持各類AI應用場景。

比如在視頻會議中,利用NPU可以實現智能摳像功能。傳統做法需要GPU來承擔復雜的圖像分割和合成計算,但有了NPU加持,同樣的任務可以在本地高效完成,不僅響應更快,而且功耗也大幅降低。用戶在視頻通話時就能享受到流暢、穩定的畫面效果。

再比如在圖像處理領域,NPU可以高效運行AI模型,實現智能降噪、超解析度等功能。以往這些操作往往需要藉助GPU的強大並行計算能力,但NPU可以以更低的功耗,同樣為用戶提供出色的圖像質量。

甚至在系統管理方面,NPU也能大顯身手。它可以運行AI模型對系統狀態進行實時監測和分析,智能調整CPU頻率、風扇轉速等參數,實現更智能、節能的電源管理。這對於筆記本電腦等移動設備而言尤為重要。

此外,NPU還能賦能於語音識別、自然語言處理等領域,為用戶提供更自然、智能的交互體驗。不過對於一些復雜的大型AI模型,仍需要CPU和GPU的強大運算能力來支撐。

總的來說,NPU作為AI PC中專門的神經網絡加速器,能夠在視頻、圖像、系統管理等各類場景中,發揮出色的AI加速能力,為用戶帶來更智能、高效、節能的計算體驗。這也是各大廠商紛紛在AI PC上集成NPU的重要原因所在。

沒有NPU就不能用AI了嗎?

很多人可能會有這種疑問 :如果一台電腦沒有NPU,是否就意味著無法使用人工智慧技術?實際上並非如此。

NPU作為專門的神經網絡加速處理器,其主要作用是協助提升人工智慧應用在個人電腦上的運行效率和體驗。比如前文提到的視頻會議摳像、圖像智能降噪等場景,有了NPU加持可以大幅提升性能和降低功耗。但這並不意味著沒有NPU的電腦就無法使用AI功能。

對於一些基於雲端的AI服務,只要聯網即可獲取支持,並不需要本地強大的硬體算力。比如智能語音助手、文生圖等應用,用戶只需通過網絡連接即可調用雲端的AI模型進行運算,無需依賴本地的NPU或GPU。

當然,如果用戶希望在本地運行一些更加復雜的大型AI模型,如大語言模型、大規模生成模型等,那麼仍然需要依賴更強大的算力支持,包括獨立顯卡GPU甚至多核CPU。但即便是配備了AI PC的高性能硬體,在運行這些應用時,也依然需要調用GPU進行大部分的計算。

所以說,NPU雖然是AI PC中的關鍵組件,能夠大幅提升常見AI應用的性能和效率,但它並非AI應用的必要條件。對於雲端驅動的智能服務,普通PC也能獲得相應的AI能力支持。而對於需要強大本地算力的AI大模型應用,即便是搭載NPU的AI PC,在某些場景下也需要依賴GPU等硬體的加持。

我們真的需要換一台AI PC嗎?

相信現在絕大多數用戶都還沒有用上AI PC,但我們依然體驗到了各種個樣的在線AI工具,這些產品與服務,通過聯網即可調用強大的雲端AI模型,無需依賴本地算力,使得人工智慧在各類終端設備上的應用變得更加便利。

但與此同時,我們也必須正視AI PC作為當前個人電腦發展的重要趨勢。AI PC所帶來的變革,絕不僅限於提升某些效率或賦能幾款AI應用工具那麼簡單。它更是藉助人工智慧技術,從根本上為用戶帶來了前所未有的優質體驗。

比如本地文件的智能檢索和管理,比如基於AI優化的電源管理策略,能為用戶帶來大幅提升的續航和靜音性能等。AI PC將人工智慧融入個人電腦的方方面面,革新了人機互動和使用體驗。

NPU詳解:沒有就不能用AI了嗎

更進一步來看,基於人工智慧的穿戴設備、移動終端等新型智能硬體正在崛起,它們與AI PC之間的界限正在變得日益模糊。智能化、交互性是這些設備的共同特徵,而AI正是實現這些特徵的關鍵驅動力。

因此,盡管目前獲得AI能力的途徑可多可少,但AI PC作為人工智慧在個人電腦領域的深度融合,必將從本質上重塑我們對計算設備的使用體驗和認知。未來,多設備之間的邊界會因AI而日漸消失,只有真正實現人工智慧與硬體的無縫集成,才能最大限度釋放出AI的能量。

來源:快科技