為什麼AI晶片「涼了又熱」?

AI的熱潮已經過去?許多關注AI的人或許會給出的判斷。這種判斷也有一些依據,AI發展三大要素之一的AI晶片,在2016年左右出現大量的初創公司,之後火熱了兩年左右時間後,又逐漸涼了下來。

但2020年下半年開始,AI晶片初創公司的融資消息又多了起來,在本月的WAIC 2021期間,多家雲端AI晶片和邊緣AI晶片初創公司都發布了新產品,AI晶片似乎又熱了起來。

AI晶片為什麼「涼」了幾年又「熱」了起來?AI普及的關鍵到底是什麼?RISC-V晶片會成為AIoT市場的主角嗎?

為什麼AI晶片「涼了又熱」?

體驗不好的AI產品傷害了消費者

2017年左右掀起的新一輪AI熱潮,有兩個關鍵性事件。一個是2012年AlexNet在ImageNet大規模視覺識別挑戰賽中用卷積神經網絡(CNN)贏得了圖像識別競賽,再次掀起了學界研究AI的熱潮。到了2017年,AlphaGo戰勝人類頂級棋手柯潔,並橫掃整個圍棋界。AI的熱潮從學界蔓延至產業界,並引發全民關注。

「我覺得AI能再一次熱起來是因為神經網絡在技術有了突破後,能夠解決一些問題,而這恰好能滿足消費者對智能美好生活的嚮往。」嘉楠科技創始人、董事長兼執行長張楠賡對雷鋒網(公眾號:雷鋒網)表示。

很快地,AI音箱、AI機器人、AI家電、AI故事機等眾多AI產品迅速推向市場,其中出貨量最大的AI音箱迅速普及,但很快被消費者拋棄。

「通過縮減材料降低成本,推出體驗不好的產品對市場傷害非常大,因為沒有好的體驗,整個市場的規模很難變大。降低成本應該靠更好的技術。」張楠賡說,「AI產品還是沒有達到消費者的預期,消費者需要的是一個完整的產品,這是我認為AI又涼下來的原因。」

英特爾研究院副總裁、英特爾中國研究院院長宋繼強也告訴雷鋒網:「現在很多AI系統,只有一個原型,但到商業化的時候,原型是不行的。AI創新要真正的規模化發展起來,一定要很認真嚴肅地做垂直整合。」

也就是說,AI產品的實際體驗與消費者期待的產品之間仍有鴻溝。從AI智能硬體公司的角度,在AI晶片和AI算法的支持下,他們推出了比以往更加智能的產品,產品性能有了顯著的提升。但從消費者的角度,AI產品依舊不夠智能,甚至有些傻,很難持續使用或購買新的AI產品。

「還有一個問題是價格,對於智能硬體和白色家電,消費者的要求是性能是世界級,但價格預期是『地獄級』,這是矛盾所在。」張楠賡說。「不過,只要有明確的需求和目標,實現世界級的性能,同時兼顧可接受的價格並非不能達成的目標,嘉楠希望在未來1-3年內達成這個目標。」

還要看到,邊緣推理是AI應用大規模落地的關鍵。這是因為,雲邊協同已經成為主流的計算範式。在雲邊協同的架構中,邊緣AI在數據脫敏、數據感知和實時決策上有效彌補了時延和數據隱私上的短板,也能降低高昂的IT基礎設施成本。

為什麼AI晶片「涼了又熱」?

此時,更高性能的AI晶片非常關鍵。

需求釋放,邊緣AI晶片市場規模絕對值快速增加

嘉楠在AI邊緣晶片市場占有先發優勢,2018年推出了首款AI推理晶片勘智K210,這款AI SoC投片的時候還沒有MobileNetV2和YOLOv3算法,所以只有1TOPS的AI算力。「由於勘智K210研發時間較早,在算力規劃上沒有考慮到後來才出現的算法模型,導致這款晶片在應用場景的拓展上受到限制。」張楠賡如此評價這款晶片。

在整個業界探索AI晶片和AI應用的背景下,嘉楠的首款AI晶片獲得了多個頭部教育機器人客戶的訂單。在2020年全球疫情和缺芯的環境下也實現了可觀的營收。

「今年很多應用市場需求快速增加,僅上半年我們就實現了1300多萬的AI晶片營收,如果下半年產能問題不能解決,我預計營收和上半年相當。」張楠賡說,「我看到的是今年市場需求特別旺盛,增長比較快。」

當然,AI邊緣晶片市場仍舊處於絕對值增長很快,但總體規模依舊不大的狀態。在快速增長的市場里,除了AI教育以及增加AI功能網絡攝像機(IPC),用邊緣AI晶片做人群聚集檢測、超聲波定位、機器狗、跟拍雲台等創新的產品越來越多。

「勘智主打的還是AI性能,基於勘智K210的能力,有些創新應用是我們沒有想到的。更加智能的產品也需要更高性能的AI晶片,其實像家庭場景里的掃地機器人,面對的環境也非常復雜,需要比較高的算力,還要控製成本。」張楠賡表示。

為此,嘉楠推出了勘智K510邊緣推理晶片,CPU依舊採用RISC-V(雙核64位),全新的KPU將AI性能提升至3TOPS,支持TensorFlow、PyTorch和ONNX 模型導入,配合KPU為AI加速還增加了DSP。

為什麼AI晶片「涼了又熱」?

另外,勘智K510支持三路傳感器輸入1080P視頻,擁有眾多高速和低速接口,其中高速接口DDR PHY和MIPI RX/TX DPHY均是嘉楠完全自主智慧財產權的IP。

從推出的時間看,勘智K510比嘉楠的產品路線圖晚了半年多時間。據雷鋒網了解,其中的原因包括這是嘉楠第一個比較大規模的AI晶片,幾乎重新設計了AI加速單元KPU,高速接口也是完全自研,再加上產能緊缺等多重因素,導致勘智K510推出的時間比預期晚一些。

「產品更早推出肯定會更好一些,但稍微晚一點也有好處。我們推出第一款AI晶片的時候,絕大部分中小客戶只能用原廠的晶片做一些嵌入式的開發。今年有能力開發AI晶片的客戶多了很多,許多客戶還有自己的AI算法。市場在成熟,應用場景也在不斷增加,這對我們產品的推廣是好事。」張楠賡如此解釋。

與傳統的功能晶片不同,AI晶片的開發者並不知道自己明確的需求,這對要預測未來三到五年市場需求的AI晶片公司來說,定義產品難度更大。但比較明確的是,隨著AI應用復雜程度的增加,對AI的算力需求也隨之增加,提升AI性能成為關鍵。

「勘智K510的KPU相比上一代基本是重新設計。原來的KPU比較簡單,如果用第一代架構進行等比放大提升性能會有很多問題。新設計的第二代架構更加通用,可伸縮性更好,很容易實現零點幾TOPS到幾TOPS的算力,同時兼容性也更好。」張楠賡表示。

為什麼AI晶片「涼了又熱」?

提升AI性能的同時,勘智K510的視覺性能也有了顯著提高,集成了最新一代圖像處理單元和3D ISP模塊,支持深度攝像頭TOF傳感器,可以在無需軟體參與的情況下自動解析和提取深度圖像,加速3D圖像處理。

張楠賡指出,勘智K510是一款中高端算力晶片,視覺硬體配置也是這款晶片的重頭戲,同時支持最多3個攝像頭的輸入,其中一路支持3D功能,也是迎合市場需求,能夠滿足比如活體檢測等需求。勘智K510也能夠應用於高清航拍器、視頻會議、機器人、STEAM教育、工業相機和輔助駕駛等場景。

雷鋒網注意到,勘智K510在降低功耗方面從多角度入手,比如通過NoC總線架構解決龐大時鍾樹帶來的晶片大功耗和大面積問題;KPU根據不同層級的帶寬、計算和存儲需求的調整,提高數據的復用率降低晶片功耗;還通過支持語音VAD功能,滿足低功耗設計需求等。

不過,能夠將嘉楠的AI晶片推向更廣闊市場的關鍵是RISC-V。

沖向萬億美元的AIoT市場

「易用性非常重要,開發者如果使用CPU或者DSP就能實現功能,能夠降低開發成本和加速產品上市時間。」張楠賡說,「這也是我們在雙核64位RISC-V CPU基礎上增加DSP的重要原因。」

為什麼AI晶片「涼了又熱」?

更強的CPU性能對於一款SoC的重要性也越來越高。「有一個很有意思的現象,5年前,業界很多人認為SoC中的CPU的作用會被弱化,大部分的任務都會用硬體加速器處理,包括AI應用。但這兩年,無論是手機還是PC,CPU的競爭越來越激烈,絕大部分的任務還是在CPU上完成,CPU又變得很重要,所以對CPU的性能需求也大幅度增加。」張楠賡表示。

「我認為,未來幾年桌面級和移動端先進的技術和架構會迅速下放到原來的MCU中,這個變化可能要到將來3-5年才能看到。」他作出預測。

CPU在SoC中的重要性又變得重要,意味著CPU的性能和易用性成為競爭的關鍵。在AIoT市場,雖然統治移動市場的Arm占據優勢地位,但最近兩年RISC-V指令集晶片在這一市場進展迅猛,在對軟體支持要求不高的應用中,RISC-V已經被大量應用,但需要更高性能和更多軟體支持的應用就面臨挑戰。

實際上,勘智K510的CPU是嘉楠自研。「第一代產品我們用的是RISC-V開源內核,明顯的優勢是不需要買版權節省成本,但漏洞也比較多。新一代的勘智AI晶片之所以選擇自研,主要還是因為我們的需求超過了開源內核的需求。」張楠賡解釋為何開始自研RISC-V CPU。

硬體的自研對於有實力的晶片公司而言相對容易,但軟體生態的建設就需要整個行業的共同努力。「無論是阿里在RISC-V方面的工作,或者如果英特爾收購SiFive,這對整個RISC-V生態的建設都有非常積極的作用。」張楠賡說:「我們是RISC-V堅定的擁護者,所以我們無論是硬體還是軟體,都受益於RISC-V社區,當然我們也將自己的設計和文檔都上傳到RISC-V社區,希望能夠以身作則推動RISC-V生態的發展。」

「更多系統的支持對於我們產品的規模推廣有非常明顯的效果。剛推出勘智K210的時候,沒有系統的支持,開發者想要開發難度很大。後來有了RTOS和Linux的支持,這對我們勘智K510的應用非常有用。」張楠賡表示。

「目前看來,RISC-V晶片用到遊戲領域可能會差一些,但除此之外的應用,使用RISC-V晶片都問題不大。」張楠賡認為「但我也不認為RISC-V會完全淘汰Arm,Arm在很多領域依舊會占有一席之地。」

不可否認的是,RISC-V的生態建設依舊是在追趕Arm的生態,遠談不上趕超。就嘉楠而言,他們設計出更高性能的AI晶片之後,但很多功能的實現因為軟體人員的缺乏,進度受阻。

張楠賡說他早已意識到缺乏軟體人員的問題,但他並不打算採用大量招聘軟體人才的方式解決這一問題,而是保持嘉楠硬體的基因,通過與更專業的合作夥伴共同解決軟體方面的挑戰。

張楠賡透露,嘉楠最早會在今年下半年公布在軟體方面的合作進展。

還有一個更深層次的問題,嘉楠為什麼要選擇不成熟的RISC-V CPU推出AI晶片?張楠賡的回答是:「在行業的選擇上,我們選擇了AI這個有巨大需求量的市場,在技術上,選擇RISC-V有成本優勢,在未來的AI市場會大有所為,開源開放也是我們一直擁護的。」

為什麼AI晶片「涼了又熱」?

麥肯錫預測,全球AIoT市場規模2025年或將達到11.2萬億美元。張楠賡對嘉楠未來3-5年實現億元級別的AI營收繼續保持樂觀,並且預測,當嘉楠的AI業務營收達到500萬到1.5億美元的某個時點,會迎來爆發點。

小結

AI和AI晶片為什麼會在幾年的火熱之後就涼了?可以說是落地進展緩慢,更進一步來說缺少完整的AI產品,給消費者提供良好的體驗。作為提升產品體驗的關鍵,晶片算力的提升至關重要。嘉楠作為率先推出AI晶片,也是最早選擇RISC-V的公司,其產品和技術的演進給我們了解AIoT市場的發展提供了非常多可參考的信息。

從使用公版CPU到選擇自研,從KPU架構的升級,到自研高速接口,可以看到這個市場在高速增長,也能看到嘉楠對於AI市場,以及做一件更大事情的信心。

張楠賡說:「一個公司的成功,最核心的是戰略的正確,對於嘉楠來說堅持自主研發就是戰略,解決別人沒有解決的事情。」

為什麼AI晶片「涼了又熱」?

晶片出貨量已過億級,已經有300人晶片團隊的嘉楠,保持每兩年疊代一款AI晶片,按照算力高低分為2系、5系、8系滿足終端和邊緣市場需求,針對場景優化的勘智晶片,會帶給我們什麼驚喜?

來源:快科技