多達(dá)64核心，高效處理復(fù)雜AI工作
2023年12月中旬，Intel宣布推出了其代號(hào)為“Emerald Rapids”的第五代Xeon系列處理器，專為數(shù)據(jù)中心和高性能計(jì)算環(huán)境設(shè)計(jì)。這款Emerald Rapids處理器基于Intel 7工藝制造，集成了Raptor Cove ISA架構(gòu)的P-Core性能核心。它能夠容納多達(dá)64個(gè)核心、128個(gè)線程以及高達(dá)480MB的三級(jí)緩存。相較于上一代的Sapphire Rapids，Emerald Rapids在結(jié)構(gòu)上采用了雙tile布局，兩個(gè)核心通過Modular Die Fabric技術(shù)連接至緩存陣列，并配備了4個(gè)內(nèi)存控制器和對(duì)8通道DDR5-5600內(nèi)存的支持。在兩個(gè)處理器die之間，還整合了6個(gè)PCIe控制器、4個(gè)UPI通道和4個(gè)加速引擎。
第五代英特爾至強(qiáng)可擴(kuò)展處理器在每個(gè)內(nèi)核都內(nèi)置了AI加速功能，無需依賴獨(dú)立的加速器即可處理復(fù)雜的AI工作負(fù)載，包括能夠?qū)?shù)多達(dá)200億的模型進(jìn)行推理和微調(diào)。得益于更高的內(nèi)存帶寬，DDR5比DDR4的帶寬提升了高達(dá)66%，這不僅可以提升性能、容量和能效，還能降低成本。同時(shí)，全新的I/O速度能夠最大化CPU與設(shè)備間的數(shù)據(jù)傳輸速率。第五代英特爾至強(qiáng)處理器擁有多達(dá)80個(gè)PCIe 5.0通道，非常適合快速網(wǎng)絡(luò)、高帶寬加速器和高性能存儲(chǔ)設(shè)備。與第四代英特爾至強(qiáng)處理器相比，整體性能提升了21%，推理性能提升了42%，內(nèi)存速度提升了16%，三級(jí)緩存提升了2.7倍，每瓦性能提高了10倍。
在通用計(jì)算領(lǐng)域，第五代英特爾至強(qiáng)可擴(kuò)展處理器表現(xiàn)卓越，為當(dāng)前各種關(guān)鍵工作負(fù)載提供了堅(jiān)實(shí)的支持。這些處理器利用英特爾高級(jí)矩陣擴(kuò)展技術(shù)這一內(nèi)置AI加速器，可以加速基于CPU的深度學(xué)習(xí)推理和訓(xùn)練。這在許多情況下消除了獨(dú)立加速器帶來的額外成本和技術(shù)復(fù)雜性。新一代英特爾至強(qiáng)處理器非常適用于參數(shù)少于200億的大語言模型，通常能夠滿足客戶服務(wù)級(jí)別協(xié)議的要求。英特爾AMX在遷移學(xué)習(xí)和模型調(diào)優(yōu)方面也表現(xiàn)出色，能夠在短短4分鐘內(nèi)完成模型訓(xùn)練，無需其他硬件支持。目前，65%的數(shù)據(jù)中心推理任務(wù)都在英特爾至強(qiáng)處理器上運(yùn)行，客戶因此能夠充分利用現(xiàn)有的通用AI架構(gòu)，而不必為轉(zhuǎn)移到GPU基礎(chǔ)設(shè)施的復(fù)雜性而煩惱。
無論是處理本地、云端還是邊緣的工作負(fù)載，內(nèi)置英特爾加速引擎的英特爾至強(qiáng)處理器都能幫助您的業(yè)務(wù)達(dá)到新的高度。這些加速引擎具備一系列優(yōu)勢，包括更強(qiáng)的數(shù)據(jù)保護(hù)能力和更高效的基礎(chǔ)設(shè)施利用。
從英特爾第三代至強(qiáng)處理器助力騰訊打造云小微智能語音與視頻服務(wù)接入平臺(tái)，為騰訊云小微智能語音與視頻服務(wù)注入強(qiáng)勁動(dòng)力；到Gunpowder使用英特爾第四代至強(qiáng)處理器運(yùn)行Google Cloud C3實(shí)例以加快渲染速度；再到京東云上線基于第五代英特爾至強(qiáng)可擴(kuò)展處理器的新一代服務(wù)器，整體性能比上一代提升了23%。在大模型落地過程中，面對(duì)算力需求的指數(shù)級(jí)增長、高算力成本和異構(gòu)復(fù)雜度等挑戰(zhàn)，英特爾至強(qiáng)處理器通過不斷的更新迭代，在模型推理性能上提供了卓越的表現(xiàn)和更高的適應(yīng)性，成為用戶構(gòu)建AI算力系統(tǒng)的首選。
關(guān)注我們
