突破馮·諾依曼架構瓶頸 全球首款存算一體AI晶片誕生 性能提升10倍

過去70年,計算機一直遵循馮·諾依曼架構設計,運行時數據需要在處理器和記憶體之間來回傳輸。

隨著時代發展,這一工作模式面臨較大挑戰:在人工智慧等高並發計算場景中,數據來回傳輸會產生巨大的功耗;目前記憶體系統的性能提升速度大幅落後於處理器的性能提升速度,有限的記憶體帶寬無法保證數據高速傳輸。

12月3日,快科技獲悉,達摩院成功研發新型架構晶片。該晶片是全球首款基於DRAM的3D鍵合堆疊存算一體AI晶片,可突破馮·諾依曼架構的性能瓶頸,滿足人工智慧等場景對高帶寬、高容量記憶體和極致算力的需求。

在特定AI場景中,該晶片性能提升10倍以上,能效比提升高達300倍。

突破馮·諾依曼架構瓶頸 全球首款存算一體AI晶片誕生 性能提升10倍
達摩院存算一體晶片

在摩爾定律逐漸放緩的背景下,存算一體成為解決計算機性能瓶頸的關鍵技術。

存算一體晶片類似人腦,將數據存儲單元和計算單元融合,可大幅減少數據搬運,從而極大地提高計算並行度和能效。

這一技術早在上世紀90年代就被提出,但受限於技術的復雜度、高昂的設計成本以及應用場景的匱乏,過去幾十年,業界對存算一體晶片的研究進展緩慢。

達摩院研發的存算一體晶片集成了多個創新型技術,是全球首款使用混合鍵合3D堆疊技術實現存算一體的晶片。該晶片記憶體單元採用異質集成嵌入式DRAM(SeDRAM),擁有超大帶寬、超大容量等特點;計算單元方面,達摩院研發設計了流式的定製化加速器架構,對推薦系統進行「端到端」的加速,包括匹配、粗排序、神經網絡計算、細排序等任務。

得益於整體架構的創新,該晶片同時實現了高性能和低系統功耗。在實際推薦系統應用中,相比傳統CPU計算系統,存算一體晶片的性能提升10倍以上,能效提升超過300倍。該技術的研究成果已被晶片領域頂級會議ISSCC 2022收錄,未來可應用於VR/AR、無人駕駛、天文數據計算、遙感影像數據分析等場景。

達摩院計算技術實驗室科學家鄭宏忠表示:「存算一體是顛覆性的晶片技術,它天然擁有高性能、高帶寬和高能效的優勢,可以從底層架構上解決後摩爾定律時代的晶片性能和能耗問題,達摩院研發的晶片將這一技術與場景緊密結合,實現了記憶體、計算以及算法應用的完美融合。」

據悉,達摩院計算技術實驗室專注研究晶片設計方法學和新型計算機體系結構技術,已擁有多項領先成果,在ISSCC、ISCA、MICRO、HPCA等頂級會議上發表多篇論文。

突破馮·諾依曼架構瓶頸 全球首款存算一體AI晶片誕生 性能提升10倍
馮·諾依曼和馮·諾依曼計算機

來源:快科技