近期,AMD在紐約舉辦的分析師大會(Financial Analyst Day)上展示了很多新產(chǎn)品與新技術(shù),其中,HBM晶片堆棧式高帶寬內(nèi)存吸引了很多人的目光,AMD總裁兼首席執(zhí)行官蘇姿豐博士表示,HBM是真正能夠以更高的帶寬、更低的功耗來提供很好的效能。
HBM有何優(yōu)勢?它會何時推出呢?帶著這些問題,我們采訪了AMD事業(yè)群首席技術(shù)官(Business Unit CTO) Joe Macri,他表示,HBM在整個功耗降低方面做的非常好,它把所有節(jié)省的功耗用于補(bǔ)償GPU核心的功耗;另外,數(shù)據(jù)傳輸?shù)膸挻蠹s是每秒100GB。
圖為AMD事業(yè)群首席技術(shù)官(Business Unit CTO) Joe Macri
AMD開發(fā)HBM已經(jīng)有7年的歷史了,是什么原因使得AMD對HBM產(chǎn)生了這么大的興趣?Joe Macri表示,如今很多系統(tǒng)的問題是功耗較大,很多高端顯卡的功耗在250w-300w之間。有時會碰到一種極限,當(dāng)GPU性能已經(jīng)很高時,功耗也非常高,內(nèi)存的功耗也變得非常高,那是一個非??膳碌氖虑?,會造成整個系統(tǒng)熱量非常大,功耗很高,但是性能提升卻有限。很多時候?yàn)榱吮3窒到y(tǒng)功耗的平衡,內(nèi)存功耗很高的話,GPU的功耗就不可以很高,這樣會直接影響到GPU的性能。而AMD就想要生產(chǎn)出高帶寬、低功耗的內(nèi)存,這樣就可以平衡整個系統(tǒng)的性能和功耗。
如上圖所示,垂直的“四條線”是比較有功能性的DRAM的堆棧,這也是HBM整個內(nèi)存的晶片構(gòu)造,出自SK Hynix。左邊藍(lán)色的是整套SK Hynix內(nèi)存的HBM晶片,右邊是AMD GPU的晶片。Joe Macri表示,通過1024位連線進(jìn)行聯(lián)系,有非常高速的硅晶片的銅聯(lián)線來進(jìn)行數(shù)據(jù)交互,數(shù)據(jù)非常大且速度非常快,這是不能通過主板來解決的,必須通過這種聯(lián)線來做到,另外,HBM能夠與CPU/GPU封裝在一起。
HBM真正實(shí)現(xiàn)了低功耗和高帶寬,它的外形很小,并且可以把更多的功耗轉(zhuǎn)移到GPU,而且很多用途可以并到HBM,除了獨(dú)立顯卡和游戲以外,像HPC超級計算機(jī)、高性能計算、電信、服務(wù)器、還有所有類型的PC都會從中受益。
我們所熟悉的DDR5與HBM相比有很大的區(qū)別,就是帶寬上很不一樣,DDR5是32位,HBM則是1024位。Joe Macri解釋道,最重要的是它的時鐘頻率,DDR5是1750兆赫茲,每秒7GB的數(shù)據(jù)傳輸量;HBM的整個速度降低得非???,最高才到500兆赫茲,1GB數(shù)據(jù)傳輸量,速率的降低大量地節(jié)省了功耗,這是最重要的一點(diǎn)。而整個數(shù)據(jù)傳輸?shù)膸?,DDR5是28GB每秒每個芯片,HBM大約是每秒100GB,它的功耗也大大降低了,但是由于整個位寬比較高,所以整個數(shù)據(jù)傳輸?shù)膸捠欠浅8叩?,大概是過去的5倍。
Joe Macri表示,AMD在建立一個HBM的完整的生態(tài)系統(tǒng),主要包括DRAM、組裝和封裝、芯片測試。AMD是第一家開始做HBM的公司,不過隨后一定也會有其他公司陸續(xù)加入。
好文章,需要你的鼓勵
這項(xiàng)研究提出了"高效探測"方法,解決了掩碼圖像建模AI難以有效評估的問題。通過創(chuàng)新的多查詢交叉注意力機(jī)制,該方法在減少90%參數(shù)的同時實(shí)現(xiàn)10倍速度提升,在七個基準(zhǔn)測試中均超越傳統(tǒng)方法。研究還發(fā)現(xiàn)注意力質(zhì)量與分類性能的強(qiáng)相關(guān)性,生成可解釋的注意力圖譜,展現(xiàn)出優(yōu)異的跨域適應(yīng)性。團(tuán)隊(duì)承諾開源全部代碼,推動技術(shù)普及應(yīng)用。
伊利諾伊大學(xué)研究團(tuán)隊(duì)開發(fā)了CLAIMSPECT系統(tǒng),通過層次化分解復(fù)雜爭議、智能檢索相關(guān)文獻(xiàn)、多角度收集觀點(diǎn)的方法,將傳統(tǒng)的"真假"判斷轉(zhuǎn)變?yōu)槎嗑S度分析。該系統(tǒng)能夠自動構(gòu)建爭議話題的分析框架,識別不同觀點(diǎn)及其支撐證據(jù),為科學(xué)和政治爭議提供更全面客觀的分析,已在生物醫(yī)學(xué)和國際關(guān)系領(lǐng)域驗(yàn)證有效性。
清華大學(xué)研究團(tuán)隊(duì)首次提出情感認(rèn)知融合網(wǎng)絡(luò)(ECFN),讓AI能像人類一樣理解和表達(dá)情感。該系統(tǒng)通過多層次情感處理架構(gòu),在情感識別準(zhǔn)確率上比現(xiàn)有最佳系統(tǒng)提升32%,情感表達(dá)自然度提升45%。研究突破了傳統(tǒng)AI情感理解的局限,實(shí)現(xiàn)了跨模態(tài)情感融合、動態(tài)情感追蹤和個性化情感建模,為醫(yī)療、教育、客服等領(lǐng)域帶來革命性應(yīng)用前景。
哈佛大學(xué)研究團(tuán)隊(duì)通過創(chuàng)新的多智能體強(qiáng)化學(xué)習(xí)方法,讓AI在戰(zhàn)略游戲中學(xué)會復(fù)雜推理。研究發(fā)現(xiàn)AI通過游戲競爭能發(fā)展出類人思維能力,在邏輯推理、創(chuàng)造性解決問題等方面表現(xiàn)顯著提升。這項(xiàng)突破性成果為未來AI在醫(yī)療、教育、城市管理等領(lǐng)域的應(yīng)用奠定基礎(chǔ),展現(xiàn)了通過模擬人類學(xué)習(xí)過程培養(yǎng)真正智能AI的新路徑。