近日,數(shù)人云聯(lián)合清華大學(xué)交叉信息研究院開放計算項目實驗室(OCP實驗室)完成“百萬并發(fā)”壓力測試,數(shù)人云DCOS通過10臺OCP服務(wù)器成功承載了百萬并發(fā)HTTP請求,這一技術(shù)突破將有效幫助企業(yè)解決高并發(fā)流量帶來的業(yè)務(wù)瓶頸。
2015年6月,F(xiàn)acebook資助清華大學(xué)交叉信息研究院,成立中國唯一的一家OCP實驗室,自2015年9月開始,數(shù)人云和清華大學(xué)交叉信息研究院助理院長徐葳博士合作在OCP實驗室開展數(shù)據(jù)中心方面的相關(guān)研究工作。數(shù)人云在數(shù)十臺OCP服務(wù)器上部署了數(shù)人云DCOS,并進(jìn)行了廣泛的性能測試。
數(shù)人云認(rèn)為,云計算整體的彈性實現(xiàn)需要通過IaaS的資源彈性加上PaaS的應(yīng)用彈性,再加上頂層SaaS的服務(wù)彈性。專注于PaaS層的數(shù)人云在分布式框架下,將各種應(yīng)用封裝在Docker容器里,通過打造輕量級的PaaS實現(xiàn)極致的應(yīng)用彈性。數(shù)人云DCOS為數(shù)據(jù)中心提供了一套統(tǒng)一的管理應(yīng)用和資源的方法,極大地簡化了開發(fā)和運維的復(fù)雜度,為應(yīng)用提供良好彈性的同時,顯著提高資源利用率。
數(shù)人云DCOS為數(shù)據(jù)中心提供了開源的應(yīng)用管理和資源管理解決方案,它可部署在公有云、私有云以及混合云上,幫助用戶在云端快速建立并穩(wěn)定運維一個高性能生產(chǎn)環(huán)境。作為業(yè)內(nèi)最輕量級的PaaS平臺,數(shù)人云DCOS向下將底層服務(wù)器資源統(tǒng)一管理成一個資源池,向上承載用戶的應(yīng)用,幫助用戶快速整合不同環(huán)境下的計算資源,部署海量應(yīng)用?;陬I(lǐng)先的Mesos和Docker技術(shù),數(shù)人云DCOS為用戶的業(yè)務(wù)系統(tǒng)帶來高可用的服務(wù)質(zhì)量,高效的資源利用以及便捷的可視化管理和監(jiān)控,同時,數(shù)人云DCOS還可以保證用戶的計算資源和數(shù)據(jù)完全為用戶私有可控。
數(shù)人云創(chuàng)始人兼CEO王璞展示了數(shù)人云DCOS在OCP服務(wù)器上做百萬并發(fā)壓力測試的性能狀況,數(shù)人云DCOS提供了整個壓測環(huán)境的安裝部署和運行,包括壓測工具Tsung、負(fù)載均衡器HAProxy、Web服務(wù)器NginX等等。數(shù)人云DCOS把壓測環(huán)境涉及的所有程序都封裝在Docker容器里,管理調(diào)度整個壓測環(huán)境運行的數(shù)千個Docker實例。
數(shù)人云DCOS在數(shù)十臺OCP服務(wù)器上部署Tsung,模擬每秒一百萬用戶HTTP請求,在4臺OCP服務(wù)器上部署HAProxy,在6臺服務(wù)器上部署NginX,4臺HAProxy負(fù)責(zé)把一百萬用戶請求分發(fā)到6臺NginX服務(wù)器上,這6臺NginX服務(wù)器來處理一百萬用戶HTTP請求。數(shù)人云DCOS對HAProxy和NginX進(jìn)行深度調(diào)優(yōu),每臺HAProxy服務(wù)器(48核CPU、140G內(nèi)存、萬兆網(wǎng)卡)可以處理27萬并發(fā)HTTP請求,每臺NginX服務(wù)器(32核CPU、140G內(nèi)存、萬兆網(wǎng)卡)每秒可以處理19萬HTTP請求(NginX的HTTP響應(yīng)為Lua腳本做的動態(tài)頁面,以防止靜態(tài)HTTP頁面被緩存)。
縱坐標(biāo)-綠色代表用戶數(shù),藍(lán)色代表鏈接數(shù)
橫坐標(biāo)-時間軸,單位秒
縱坐標(biāo)-綠色代表成功處理數(shù)量,藍(lán)色代表失敗數(shù)量
橫坐標(biāo)-時間軸,單位秒
數(shù)人云DCOS最終僅用10臺OCP服務(wù)器就承載了百萬并發(fā)HTTP請求,用Tsung模擬每秒鐘100萬個用戶的并發(fā)請求,每秒平均處理85萬請求。
據(jù)悉,數(shù)人云創(chuàng)始團(tuán)隊來自谷歌、紅帽和惠普,在今年3月初公司剛剛宣布完成A輪融資。數(shù)人云致力打造下一代DCOS,基于Docker+Mesos的技術(shù)理念,將應(yīng)用彈性做到極致。通過最輕量化的PaaS平臺,數(shù)人云實現(xiàn)一站式的微服務(wù)架構(gòu)集群系統(tǒng),最大化地幫助客戶實現(xiàn)應(yīng)用業(yè)務(wù)在云端的快速部署,解決從客戶到云資源的最后一公里。
好文章,需要你的鼓勵
新加坡國立大學(xué)研究團(tuán)隊開發(fā)了SPIRAL框架,通過讓AI與自己對弈零和游戲來提升推理能力。實驗顯示,僅訓(xùn)練AI玩簡單撲克游戲就能讓其數(shù)學(xué)推理能力提升8.6%,通用推理提升8.4%,且無需任何數(shù)學(xué)題目作為訓(xùn)練材料。研究發(fā)現(xiàn)游戲中的三種推理模式能成功轉(zhuǎn)移到數(shù)學(xué)解題中,為AI訓(xùn)練提供了新思路。
同濟(jì)大學(xué)團(tuán)隊開發(fā)的GIGA-ToF技術(shù)通過融合多幀圖像的"圖結(jié)構(gòu)"信息,創(chuàng)新性地解決了3D相機(jī)噪聲問題。該技術(shù)利用圖像間的不變幾何關(guān)系,結(jié)合深度學(xué)習(xí)和數(shù)學(xué)優(yōu)化方法,在合成數(shù)據(jù)集上實現(xiàn)37.9%的精度提升,并在真實設(shè)備上展現(xiàn)出色泛化能力,為機(jī)器人、AR和自動駕駛等領(lǐng)域提供更可靠的3D視覺解決方案。
伊利諾伊大學(xué)研究團(tuán)隊通過對比實驗發(fā)現(xiàn),經(jīng)過強化學(xué)習(xí)訓(xùn)練的視覺語言模型雖然表現(xiàn)出"頓悟時刻"現(xiàn)象,但這些自我糾錯行為并不能實際提升推理準(zhǔn)確率。研究揭示了AI模型存在"生成-驗證差距",即生成答案的能力強于驗證答案質(zhì)量的能力,且模型在自我驗證時無法有效利用視覺信息,為AI多模態(tài)推理發(fā)展提供了重要啟示。
MIT等頂尖機(jī)構(gòu)聯(lián)合提出SparseLoRA技術(shù),通過動態(tài)稀疏性實現(xiàn)大語言模型訓(xùn)練加速1.6倍,計算成本降低2.2倍。該方法使用SVD稀疏性估計器智能選擇重要計算部分,在保持模型性能的同時顯著提升訓(xùn)練效率,已在多個任務(wù)上驗證有效性。