Home Tags 至強6

Tag: 至強6

576個純小核 Intel至強6主板曝光:能插32條記憶體

快科技4月16日消息,Intel已經官宣,,包括純小核(E核)的Sierra Forest、純大核(P核)的Granite Ridge兩個分支,今年二季度開始陸續登場。 現在,我們看到了Sierra Forest的驗證主板,平台代號為“Beechnut City”,插槽接口為新的LGA4710,而且是一塊雙路主板。 Sierra Forest處理器首發為單晶片設計,最多144核心144線程,下半年還會增加雙晶片整合封裝設計,最多288核心288線程,雙路就可以做到576核心576線程! 內存支持8通道,而這塊板子上共有32條DDR5 RDIMM插槽,每一路處理器都搭配16條內存,插座兩側各分布8條,也就是每通道對應2條內存。 內存頻率方面,早先信息顯示每通道一條內存的話最高頻率為DDR5-6400,每通道兩條就降至DDR5-5200。 因為內存插槽過多,PCIe擴展插槽就受到了很大限制,無法提供x16全長規格。 順帶一提,Granite Ridge將會採用不同的新接口LGA7529。 根據曝料,Sierra Forest將會命名為至強6 6900E鉑金、6700E金牌系列,Granite Ridge則會命名為至強6 6900P鉑金、6700P金牌、6500P銀牌、6300P銅牌系列。 來源:快科技

封閉沒有前途 Intel打造開放AI生態 誓要虎口奪食

Intel日前舉辦了Vision 2024年度產業創新大會,亮點不少,號稱大幅超越NVIDIA H100的新一代AI加速器Gaudi 3、品牌全新升級的至強6、AI算力猛增的下一代超低功耗處理器Lunar Lake,都吸引了不少目光。 不過對於AI開發者、AI產業尤其是企業AI而言,這次大會上還有一件大事: Intel聯合眾多行業巨頭,發起了開放企業AI平台,推動企業AI創新應用,同時通過超乙太網聯盟(UEC)和一系列AI優化乙太網解決方案,推進企業AI高速互連網絡創新。 如今說到大規模AI部署,很多人腦海中會立刻浮現兩個名字: 一個是OpenAI,大模型和算法的一枝獨秀;另一個是NVIDIA,硬體算力和生態的典型代表。 但是每每說到NVIDIA,以及CUDA為代表的生態圈,其一貫以來的封閉做法頗為人所詬病,被譽為「矽仙人」的晶片開發大神 Jim Keller就一直對NVIDIA的做法極為不滿,斥責CUDA不是護城河而是沼澤,NVLink這種私有互連標准也應該摒棄。 坦白說,NVIDIA AI不僅僅在硬體性能上「遙遙領先」,更大的資本正是耗費十幾年時間和無數美元砸出來的CUDA生態,成為其「壟斷行業」、獲利無數的制勝法寶。 只不過時代在變化,無論企業還是開發者,都不希望被束縛在一個小圈子裡,更希望在開放共享的世界裡自由前行,這正好給了其他廠商追趕甚至超越NVIDIA的大好機會。 Intel就瞅准這一趨勢和需求,聯合Anyscale、Articul8、DataStax、Domino、Hugging Face、KX Systems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick、Zilliz等眾多行業夥伴宣布,將聯合創建企業AI開放平台,助力企業推動AI創新。 它將為企業AI提供一個從下到上的完整平台,底層基於Intel完整覆蓋雲、數據中心、邊緣、PC各個領域的AI算力硬體,也就是XPU理念。 構築其上的是標准化和可擴展的基礎設施生態、安全可靠的軟體生態、開放便捷的應用生態,而且全都是對整個行業開放的。 這一計劃凝結了全行業的力量,旨在開發開放的、多供應商的AIGC系統,通過RAG(檢索增強生成)技術,提供一流的部署便利性、性能和價值。 對於企業當前正在標准雲基礎設施上運行的大量專有數據源,RAG可以幫助他們通過開放大語言模型進行功能上的增強,從而加速AIGC在企業中的應用。 在Intel看來,堅持開源開放,並以此撬動開放的AI生態飛速發展,至關重要。 Intel副總裁、Intel中國軟體和先進技術事業部總經理李映在接受采訪時表示:「傳統模式中,幾家領導公司組建一個開放聯盟,各自有明確分工,更多的是一個選擇問題。如今基於AI大模型的變化,開放開源第一次和整個行業的技術創新爆發結合在一起。現在,開放開源和閉源同時出現,不再是選擇,而是一個自然演變、發展的過程。」 Intel院士、大數據技術全球首席技術官、大數據分析和人工智慧創新院院長戴金權也指出,一個開放的生態,可以讓同一生態的創新相互促進,在新的應用場景可以互通。 整個行業都在逐漸意識到,構建一個AIGC應用,並不是只需要一個大模型,一些最先進的系統解決方案,其實更多的是相當於構建一個AI系統來解決問題。 在這個企業AI開放平台中,Intel的一個突出重點就是加快構建開放的AI軟體生態,通過構建基礎軟體為開發者提供便利,幫助大企業簡化和深入AI的大規模開發和部署。 李映指出,在開放AI軟體生態方面,對於Intel而言,非常重要的一個點是如何通過軟體加速企業AI的發展,如何把企業原來的雲架構和未來基於大模型、數據的AI架構融合在一起。 軟體可以在這個過程中起到非常重要的加速作用,而從整個軟體堆棧的角度來講,Intel正是極少數可以真正在各個層面上通過軟體提供優化、提供技術的頭部企業之一。 同時,Intel一直在極力推動基於AI的軟體創新,最典型的就是oneAPI,下載量已經超過100萬次。 第三就是如何幫助開發者提高開發效率,其中很重要的一部分就是Intel開發者雲平台。 它不但可以讓開發者最早接觸到最新的至強、Gaudi AI加速器,還能保證各種開源框架、組件在同一環境中的兼容性,從而提升開發效率、優化用戶體驗。 另外非常值得一提的是,Intel也在積極為開源社區貢獻技術、創新和經驗,推進開放標准。 比如,PyTorch已逐漸成為標準的AI框架,Intel一直都是PyTorch非常靠前的重要貢獻者,並以高級會員的身份加入了PyTorch基金會。 除了對PyTorch本身進行優化,Intel的一些技術創新都投入到了PyTorch開源框架之中,讓更多企業和開發者共享,讓整個AI軟體框架更加開源、開放。 再比如openEuler、龍蜥這些開源的中國Linux社區,Intel對其的投入都已經和國際同步,甚至在某些領域領先於國際上其他一些Linux的分布和發展。 最後再來回顧一下Intel本次揭曉的三大算力產品。 採用台積電5nm工藝,配備8個矩陣引擎、64個張量核心、96MB SRAM緩存、1024-bit 128GB HBM2E內存(帶寬3.7TB/),還有16個PCIe 5.0通道、24個2000GbE網絡、JPEG/VP9/H.264/H.265解碼器。 功耗有600/900W兩個級別,提供OAM兼容夾層卡、通用基板、PCIe擴展卡三種形態。 Gaudi 3相比上代擁有2倍的FP8 AI算力(1835TFlops)、4倍的BF16 AI算力、2倍的網絡帶寬、1.5倍的內存帶寬。 Intel還聲稱,它對比NVIDIA H100 LLM推理性能領先50%、訓練時間快40-70%,能效領先最多達2.3倍。 另外,得益於強大、便捷的開發工具,開發者最少只需改變3行代碼,就能將其他AI應用移植到Gaudi 3之上。 ,其中Sierra Forest第二季度發布,堪稱至強處理器歷史上最大的一次變革,首次採用純能效核(E核)設計。 它重點針對效率進行優化,適合高密度、可擴展的工作負載,最多288核心288線程。 按照官方說法,相比第二代至強,Sierra Forest可以帶來2.4倍的能效提升,機架密度則可以提高2.7倍。 Granite Rapids則是傳統的純性能核(P核)設計,重點針對性能優化,適合計算密集型應用和高強度的AI負載。 它新增了對MXFP4數據格式的軟體支持,能夠運行700億參數的Llama...

Intel宣布全新至強6:E核、P核兵分兩路

快科技4月10日消息,Intel Vision 2024產業創新大會上,Intel宣布面向數據中心、雲和邊緣的下一代至強處理器品牌煥新,升級為“至強6”(Xeon 6),此前代號Sierra Forest、Granite Rapids。 2017年,Intel發布了第一代至強可擴展處理器(代號Skylake),2023年年初和年底,先後帶來了第四代Sapphire Rapids、第五代Emerald Rapids。 按照慣例,Sierra Forest、Granite Rapids應該命名為第六代至強可擴展處理器,但隨著行業需求和產品技術本身的變化,Intel將其更名為至強6,也更加簡潔。 至強6 Sierra Forest堪稱至強處理器歷史上最大的一次變革,首次採用純能效核(E核)設計,最多可以做到288核心288線程。 它重點針對效率進行優化,適合高密度、可擴展的工作負載。 按照官方說法,相比第二代至強,Sierra Forest可以帶來2.4倍的能效提升,機架密度則可以提高2.7倍。 客戶能夠以接近3:1的比例替換升級舊系統,從而大幅降低功耗,機架數量從200個減少到72個每年能節省100萬瓦能耗,足夠1300多戶家庭使用一整年。 至強6 Granite Rapids則是傳統的純性能核(P核)設計,重點針對性能優化,適合計算密集型、AI負載。 它將新增加對MXFP4數據格式的軟體支持,能夠運行700億參數的Llama 2大模型,對比四代至強能將令牌延遲縮短最多6.5倍。 Sierra Forest將在今年第二季度正式發布,Granite Rapids緊隨其後登場。 另外,Intel確認將在今年內推出代號Lunar Lake的下一代酷睿Ultra客戶端處理器,CPU+GPU+NPU平台算力超過100TOPS,其中NPU單元算力超過46TOPS,從而支持更強大的新一代AI PC。 2024年內,基於酷睿Ultra處理器的消費級和商用終端產品將超過230款,100多家ISV軟體廠商將針對酷睿Ultra處理器開發300多項專屬的AI加速功能。 Intel預計到2025年底,將出貨超過1億顆具備AI加速功能的處理器。 來源:快科技