CNET科技行者 9月26日 北京消息(文/黃雅琦): GTC 2017 Keynote上,NVIDIA創(chuàng)始人兼CEO,黃掌門不止一次提到“Save money ”。
當然,這是主會演講“PPT鬧情緒”期間,老黃為活躍氣氛而講的“玩笑話”。
玩笑聲的背后,NVIDIA正在將AI推廣至每個計算平臺、每個架構(gòu)、以及人類的每項工作中。
NVIDIA 全球副總裁兼智能機器事業(yè)部總經(jīng)理 Deepu Talla
Deepu Talla,現(xiàn)任NVIDIA 全球副總裁兼智能機器事業(yè)部總經(jīng)理,主要負責在工業(yè)機器人、商用無人機和視頻分析等設備上部署AI技術。
現(xiàn)在,他手里掌握著NVIDIA兩大最重要的應用領域:機器人和AI城市。
AI AT THE EDGE ”的主題演講,專攻兩個話題:
一,NVIDIA機器人“大腦”——詳解“AI超級計算機”Jetson TX2平臺;
二,AI城市,需要邊緣到云的架構(gòu)——詳解NVIDIA Metropolis平臺。
在這場近50分鐘“干貨”分享中,我們highlight了Deepu Talla的精彩要點:
隨著深度神經(jīng)網(wǎng)絡在多種應用上取得極大成功,網(wǎng)絡架構(gòu)也變得越來越深。
在網(wǎng)絡架構(gòu)變化的同時,包括物聯(lián)網(wǎng)在內(nèi)的終端設備數(shù)量也越來越多。因為這些設備直接連接傳感器數(shù)據(jù)(攝像頭、麥克風、陀螺儀等),所以在終端設備上部署機器學習具有極大的吸引力。
但現(xiàn)在看來,頂級的機器學習系統(tǒng)還無法滿足終端設備的現(xiàn)狀:
1、要么把傳感器數(shù)據(jù)輸入到云端的大型神經(jīng)網(wǎng)絡模型;
2、要么直接在終端設備上使用簡單的機器學習模型。
前者存在帶寬、延時、數(shù)據(jù)隱私、網(wǎng)絡連接這四大難題,但后者會降低系統(tǒng)的準確率。
為了克服這些問題,自然而然地就想到了分布式計算方法。層級分布式計算架構(gòu)包括云、邊緣與終端設備,NVIDIA推出端到端Training到Inference,后端服務器到前端攝像頭)的深度學習平臺。
Deepu Talla表示:
對訓練環(huán)節(jié)中神經(jīng)網(wǎng)絡的大量數(shù)據(jù)訓練,主要用的是DGX-1;
之后將訓練好的數(shù)據(jù)存入到云和數(shù)據(jù)中心,這方面主要使用的是Tesla;
當然,也可以將這些數(shù)據(jù)部署到錄像機和攝像頭之中,這里主要使用的是Jetson計算平臺。
這里他提到AI最主要的應用——機器人。
事實上,機器人早已不是單純地用來博人眼球的噱頭,諸多機器人應用已經(jīng)真實落地于多個行業(yè)終端,包括醫(yī)療、零售、公共事業(yè)和交通領域等垂直行業(yè)當中。
Jetson TX2:名片大小,卻是機器人的“超強大腦”
在機器人部署中,如何讓機器擁有與人一樣的“意識”,Deepu Talla 提到三個環(huán)節(jié):感知、思考、行動。為了讓機器人為行業(yè)輸出更大能力。于是,NVIDIA 升級Jetson計算平臺,推出Jetson TX2。
正是這個僅為名片大小的平臺,卻是機器人的“超強大腦”。
Jetson TX2是NVIDIA嵌入式計算系列產(chǎn)品繼Jetson TK1和TX1之后的又一突破。
它所提供的性能為早前版本的兩倍,即能夠以兩倍以上的功效運行,且功率低于7.5W。這使得Jetson TX2能夠在終端應用上運行更龐大、更深度的神經(jīng)網(wǎng)絡,讓設備更加智能,具有更高的精度和更快的響應時間,以執(zhí)行如圖像分類、導航和語音識別等任務。
Jetson十大應用場景
NVIDIA Jetson嵌入式平臺對機器人,IVA等行業(yè)的助益著實不容忽視。除此之外,NVIDIA也宣布推出Isaac機器人模擬器。
NVIDIA Isaac:在虛擬環(huán)境進行AI訓練和測試
NVIDIA Isaac機器人模擬器能夠?qū)崿F(xiàn)在部署前模擬現(xiàn)實條件對智能機器進行訓練。Isaac將VR和AI這兩個先進技術加以融合,可為機器人提供一個虛擬環(huán)境進行AI訓練和測試。
在其構(gòu)建的虛擬環(huán)境中,開發(fā)人員可通過虛擬現(xiàn)實技術來搭建各類測試場景,然后在幾分鐘內(nèi)對其進行模擬,從而可以在虛擬世界中快速得到大量訓練數(shù)據(jù),然后再利用AI技術從這些數(shù)據(jù)中訓練得到知識。
VR。
機器人之后,Deepu Talla 將話題轉(zhuǎn)到 AI 城市。
AI城市共建:NVIDIA用AI裝上“城市之眼”
“AI城市是一個巨大的AI推理挑戰(zhàn),它可能需要使用大約1000萬個Tesla V100 GPUs來監(jiān)控10億臺攝像頭。 ”Deepu Talla表示。
至于為什么NVIDIA要進入到安防IVA領域,Deepu Talla表示,一方面是維護人身安全的需要;另一方面是行業(yè)需求,因為這個行業(yè)需要用到視頻分析,需要進行語音辨識,這兩個領域借助深度學習再合適不過。
覆蓋安防全行業(yè)。
目前,NVIDIA為打造AI城市已部署NVIDIA Metropolis平臺。
Metropolis于今年5月份首次發(fā)布,是一個包含各種工具和技術從終端到云端的視頻分析平臺,以構(gòu)建覆蓋交通與停車管理、執(zhí)法、城市服務等各個方面更智能、更快速的AI賦能應用。
此外,NVIDIA正在與合作伙伴攜手,以助力中國建設更智慧、更安全的城市為目標,加快腳步。
??低曉诙说蕉私鉀Q方案中采用NVIDIA平臺;
大華的方案為大型活動提供了數(shù)以百計的虛擬保安;
華為的方案用于監(jiān)控交通流量;
阿里巴巴的解決方案可以監(jiān)控交通堵塞并改善交通狀況。
下一步,挑選軟件合作伙伴
Deepu Talla向科技行者透露,NVIDIA正在通過新的合作伙伴計劃匯聚更多的全球最佳AI公司,以加速圍繞Metropolis的新產(chǎn)品開發(fā)。
在GTC2017現(xiàn)場,NVIDIA就展示不少“中國力量”。
JDrone:高空配送
京東 X已與北京、四川、陜西和江蘇等省市合作推出了試點項目,旨在將無人機用于快遞、農(nóng)業(yè)、搜索和救援領域。憑借擁有高性能、低能耗、小尺寸和先進視覺能力的Jetson,JDrones具有每小時100公里的航速,同時可以配送重達30公斤的包裹。其它京東無人機測試可承載多達200公斤。
??低暎鹤尠卜?ldquo;火眼金睛”
海康威視將攝像機及網(wǎng)絡錄像機與NVIDIA Jetson終端相結(jié)合,使用由NVIDIA Tesla P4 GPU加速器提供支持的云服務器,以及利用DGX-1 AI超級計算機的大規(guī)模計算能力進行訓練。 監(jiān)控攝像頭采集到的視頻信息輸入系統(tǒng),系統(tǒng)會自動分離出所有人(包括人臉、衣著甚至背影)和所有汽車(包括車牌、顏色、年款)。
關注科技行者(微信號:itechwalker),打開對話界面回復“黃仁勛”,可獲得【GTC2017黃仁勛演講】完整版高清PPT
好文章,需要你的鼓勵
浙江大學團隊提出動態(tài)專家搜索方法,讓AI能根據(jù)不同問題靈活調(diào)整內(nèi)部專家配置。該方法在數(shù)學、編程等任務上顯著提升推理準確率,且不增加計算成本。研究發(fā)現(xiàn)不同類型問題偏愛不同專家配置,為AI推理優(yōu)化開辟新路徑。
清華大學研究團隊提出SIRI方法,通過"壓縮-擴張"交替訓練策略,成功解決了大型推理模型"話多且準確率低"的問題。實驗顯示,該方法在數(shù)學競賽題上將模型準確率提升43.2%的同時,輸出長度減少46.9%,真正實現(xiàn)了效率與性能的雙重優(yōu)化,為AI模型訓練提供了新思路。
南洋理工大學與騰訊聯(lián)合研究團隊開發(fā)出Rolling Forcing技術,實現(xiàn)AI視頻實時流式生成的重大突破。該技術通過滾動窗口聯(lián)合去噪、注意力錨點機制和高效訓練算法三項創(chuàng)新,解決了長視頻生成中的錯誤累積問題,可在單GPU上以16fps速度生成多分鐘高質(zhì)量視頻,延遲僅0.76秒,質(zhì)量漂移指標從傳統(tǒng)方法的1.66降至0.01,為交互式媒體和內(nèi)容創(chuàng)作開辟新可能。
華中科技大學研究團隊發(fā)現(xiàn),通過讓AI模型學習解決幾何問題,能夠顯著提升其空間理解能力。他們構(gòu)建了包含約30000個幾何題目的Euclid30K數(shù)據(jù)集,使用強化學習方法訓練多個AI模型。實驗結(jié)果顯示,幾何訓練在四個空間智能測試基準上都帶來顯著提升,其中最佳模型達到49.6%準確率,超越此前最好成績。這項研究揭示了基礎幾何知識對培養(yǎng)AI空間智能的重要價值。