10月19日,由中國(guó)計(jì)算機(jī)學(xué)會(huì)主辦的2017全國(guó)高性能計(jì)算學(xué)術(shù)年會(huì)(HPC China 2017)在合肥開幕。聯(lián)想數(shù)據(jù)中心業(yè)務(wù)集團(tuán)全球高性能計(jì)算與人工智能技術(shù)高級(jí)總監(jiān)Scott Tease受邀出席,并針對(duì)AI發(fā)展方向、HPC助力AI等話題發(fā)表了主題演講。
在主題為《From HPC to AI:Solving Great Challenges》的演講中,Scott Tease表示,作為全球增速最快的HPC供應(yīng)商,聯(lián)想正在幫助全球客戶解決HPC領(lǐng)域的諸多挑戰(zhàn)。面對(duì)即將到來(lái)的E級(jí)計(jì)算,聯(lián)想將以其開放的生態(tài)圈、可擴(kuò)展的基礎(chǔ)設(shè)施、溫水水冷技術(shù)、智能超算平臺(tái)和分布式存儲(chǔ)解決方案,以及HPC專家團(tuán)隊(duì)助力客戶創(chuàng)新發(fā)展。
對(duì)于AI的發(fā)展前景,Scott Tease認(rèn)為未來(lái)將有三大決定因素對(duì)其產(chǎn)生影響。第一,大數(shù)據(jù)能力,人工智能背后往往體現(xiàn)出來(lái)的都是大數(shù)據(jù)的應(yīng)用,如何利用好數(shù)據(jù)將對(duì)人工智能起到重要作用,而這正是聯(lián)想HPC的優(yōu)勢(shì)所在。第二,人工智能專家。他們可以幫助客戶了解人工智能能做什么,以及如何應(yīng)用。第三,人工智能涉及到一套復(fù)雜的體系結(jié)構(gòu)和開源軟件,這些軟件很難部署和維護(hù)。客戶需要找到合作伙伴,幫助他們應(yīng)對(duì)硬件解決方案的多樣性和復(fù)雜性,同時(shí)保持軟件的優(yōu)勢(shì)和開放性。
據(jù)Scott Tease介紹,為了更好地讓HPC賦能客戶實(shí)現(xiàn)AI創(chuàng)新和數(shù)字化轉(zhuǎn)型,聯(lián)想將在人工智能、物聯(lián)網(wǎng)、大數(shù)據(jù)等領(lǐng)域給予更多關(guān)注和投資,這些投資也包括即將在中國(guó)北京,美國(guó)莫里斯維爾,德國(guó)斯圖加特落成的三大AI創(chuàng)新中心。
正如Scott Tease所介紹,聯(lián)想的HPC集群目前正廣泛應(yīng)用于政府、高等教育、科研、能源、投資等領(lǐng)域。
近期,聯(lián)想攜手中國(guó)科學(xué)院數(shù)學(xué)與系統(tǒng)科學(xué)研究院打造了全新高性能集群項(xiàng)目,該集群采用了聯(lián)想HPC整體建設(shè)方案,擁有408個(gè)計(jì)算節(jié)點(diǎn),實(shí)現(xiàn)遠(yuǎn)超客戶預(yù)期三倍的每秒1081萬(wàn)億次的運(yùn)算速度。此外,聯(lián)想還提供了包括NVIDIA GPU、英特爾Xeon Phi在內(nèi)的異構(gòu)計(jì)算平臺(tái)、基于聯(lián)想LEAP的大數(shù)據(jù)分析測(cè)試平臺(tái)、LiCO集群調(diào)度和管理系統(tǒng),并參與實(shí)施了從機(jī)房規(guī)劃、建設(shè)到整機(jī)柜交付的全周期工程,為用戶提供一站式交鑰匙解決方案。新HPC系統(tǒng),一步到位滿足了HPC系統(tǒng)未來(lái)5-7年的使用需求,也將承載起中科院的教學(xué)和科研任務(wù),為院內(nèi)項(xiàng)尖學(xué)者和專家們破解科學(xué)難題提供強(qiáng)大的計(jì)算力支持。
在助力全球科研院校方面,聯(lián)想目前已經(jīng)與英國(guó)牛津大學(xué)、美國(guó)芝加哥大學(xué)、德國(guó)奧登堡大學(xué)、澳大利亞阿德萊德大學(xué)等高等院校進(jìn)行深入合作;而在國(guó)內(nèi),聯(lián)想同樣與北京大學(xué)、南京大學(xué)、廈門大學(xué)等頂尖院校合作建立了超算平臺(tái),為全球的科研機(jī)構(gòu)提供強(qiáng)大的計(jì)算力支持。
作為國(guó)內(nèi)首個(gè)高校溫水水冷高性能計(jì)算項(xiàng)目,聯(lián)想前不久剛剛向北京大學(xué)交付了全新高性能計(jì)算校級(jí)公共平臺(tái)集群。該集群系統(tǒng)理論計(jì)算峰值高達(dá)411萬(wàn)億次/秒,計(jì)算節(jié)點(diǎn)理論峰值261萬(wàn)億次/秒,實(shí)測(cè)計(jì)算能力達(dá)到242萬(wàn)億次/秒。在充分確保計(jì)算力的同時(shí),聯(lián)想還采用其首創(chuàng)的45℃溫水水冷技術(shù),將集群PUE值控制在1.1, LINPACK效率高達(dá)92.6%,系統(tǒng)節(jié)能效果顯著,五年內(nèi)將為北京大學(xué)節(jié)省電量200萬(wàn)度。
在與南京大學(xué)的合作中,聯(lián)想則打造了國(guó)內(nèi)性能頂尖的超算中心之一,新的超算系統(tǒng)以每秒860.16萬(wàn)億次的計(jì)算峰值和超過(guò)76% 的運(yùn)算效率(理論最高值為81%),為南京大學(xué)大氣科學(xué)學(xué)院、物理學(xué)院、地球科學(xué)與工程學(xué)院等11個(gè)學(xué)院及9個(gè)校外單位提供了服務(wù),并在氣象學(xué)和地質(zhì)學(xué)涉及海量數(shù)據(jù)和復(fù)雜模型的學(xué)科中,發(fā)揮著重要作用。
而與廈門大學(xué)的合作,體現(xiàn)出了聯(lián)想優(yōu)秀的方案解決能力。針對(duì)大量服務(wù)器占用了數(shù)據(jù)中心,機(jī)房巨大空間的現(xiàn)狀,聯(lián)想通過(guò)部署大量選用了采用半寬設(shè)計(jì)的節(jié)點(diǎn)NeXtScale系列nx360 M5服務(wù)器節(jié)約數(shù)據(jù)中心的空間資源;在解決機(jī)器替代人工來(lái)做程序編寫進(jìn)行特定運(yùn)算的問(wèn)題上,聯(lián)想配置的GPFS并行文件系統(tǒng)通過(guò)極佳的可擴(kuò)展性,保障了傳輸速度的最大化,實(shí)測(cè)并發(fā)數(shù)據(jù)訪問(wèn)帶寬達(dá)到134GB/s,為客戶提供了穩(wěn)定、高效的計(jì)算能力,提高了教學(xué)科研的效率。
作為中國(guó)HPC的領(lǐng)軍企業(yè),聯(lián)想HPC產(chǎn)品和解決方案行業(yè)覆蓋廣泛,具有低能耗高效率的特點(diǎn),在各類實(shí)踐中逐步體現(xiàn)出高可靠性和高可用性優(yōu)勢(shì)。未來(lái),聯(lián)想將繼續(xù)加深對(duì)各個(gè)細(xì)分行業(yè)的認(rèn)知和解讀,發(fā)揮聯(lián)想HPC技術(shù)優(yōu)勢(shì),與客戶、合作伙伴共同聚力,開啟高性能計(jì)算行業(yè)應(yīng)用的新篇章。
好文章,需要你的鼓勵(lì)
新加坡國(guó)立大學(xué)研究團(tuán)隊(duì)開發(fā)了SPIRAL框架,通過(guò)讓AI與自己對(duì)弈零和游戲來(lái)提升推理能力。實(shí)驗(yàn)顯示,僅訓(xùn)練AI玩簡(jiǎn)單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無(wú)需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊(duì)開發(fā)的GIGA-ToF技術(shù)通過(guò)融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問(wèn)題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實(shí)現(xiàn)37.9%的精度提升,并在真實(shí)設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動(dòng)駕駛等領(lǐng)域提供更可靠的3D視覺(jué)解決方案。
伊利諾伊大學(xué)研究團(tuán)隊(duì)通過(guò)對(duì)比實(shí)驗(yàn)發(fā)現(xiàn),經(jīng)過(guò)強(qiáng)化學(xué)習(xí)訓(xùn)練的視覺(jué)語(yǔ)言模型雖然表現(xiàn)出"頓悟時(shí)刻"現(xiàn)象,但這些自我糾錯(cuò)行為并不能實(shí)際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗(yàn)證差距",即生成答案的能力強(qiáng)于驗(yàn)證答案質(zhì)量的能力,且模型在自我驗(yàn)證時(shí)無(wú)法有效利用視覺(jué)信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過(guò)動(dòng)態(tài)稀疏性實(shí)現(xiàn)大語(yǔ)言模型訓(xùn)練加速1.6倍,計(jì)算成本降低2.2倍。該方法使用SVD稀疏性估計(jì)器智能選擇重要計(jì)算部分,在保持模型性能的同時(shí)顯著提升訓(xùn)練效率,已在多個(gè)任務(wù)上驗(yàn)證有效性。