近日,數(shù)人云聯(lián)合清華大學(xué)交叉信息研究院開(kāi)放計(jì)算項(xiàng)目實(shí)驗(yàn)室(OCP實(shí)驗(yàn)室)完成“百萬(wàn)并發(fā)”壓力測(cè)試,數(shù)人云DCOS通過(guò)10臺(tái)OCP服務(wù)器成功承載了百萬(wàn)并發(fā)HTTP請(qǐng)求,這一技術(shù)突破將有效幫助企業(yè)解決高并發(fā)流量帶來(lái)的業(yè)務(wù)瓶頸。
2015年6月,F(xiàn)acebook資助清華大學(xué)交叉信息研究院,成立中國(guó)唯一的一家OCP實(shí)驗(yàn)室,自2015年9月開(kāi)始,數(shù)人云和清華大學(xué)交叉信息研究院助理院長(zhǎng)徐葳博士合作在OCP實(shí)驗(yàn)室開(kāi)展數(shù)據(jù)中心方面的相關(guān)研究工作。數(shù)人云在數(shù)十臺(tái)OCP服務(wù)器上部署了數(shù)人云DCOS,并進(jìn)行了廣泛的性能測(cè)試。
數(shù)人云認(rèn)為,云計(jì)算整體的彈性實(shí)現(xiàn)需要通過(guò)IaaS的資源彈性加上PaaS的應(yīng)用彈性,再加上頂層SaaS的服務(wù)彈性。專注于PaaS層的數(shù)人云在分布式框架下,將各種應(yīng)用封裝在Docker容器里,通過(guò)打造輕量級(jí)的PaaS實(shí)現(xiàn)極致的應(yīng)用彈性。數(shù)人云DCOS為數(shù)據(jù)中心提供了一套統(tǒng)一的管理應(yīng)用和資源的方法,極大地簡(jiǎn)化了開(kāi)發(fā)和運(yùn)維的復(fù)雜度,為應(yīng)用提供良好彈性的同時(shí),顯著提高資源利用率。
數(shù)人云DCOS為數(shù)據(jù)中心提供了開(kāi)源的應(yīng)用管理和資源管理解決方案,它可部署在公有云、私有云以及混合云上,幫助用戶在云端快速建立并穩(wěn)定運(yùn)維一個(gè)高性能生產(chǎn)環(huán)境。作為業(yè)內(nèi)最輕量級(jí)的PaaS平臺(tái),數(shù)人云DCOS向下將底層服務(wù)器資源統(tǒng)一管理成一個(gè)資源池,向上承載用戶的應(yīng)用,幫助用戶快速整合不同環(huán)境下的計(jì)算資源,部署海量應(yīng)用?;陬I(lǐng)先的Mesos和Docker技術(shù),數(shù)人云DCOS為用戶的業(yè)務(wù)系統(tǒng)帶來(lái)高可用的服務(wù)質(zhì)量,高效的資源利用以及便捷的可視化管理和監(jiān)控,同時(shí),數(shù)人云DCOS還可以保證用戶的計(jì)算資源和數(shù)據(jù)完全為用戶私有可控。
數(shù)人云創(chuàng)始人兼CEO王璞展示了數(shù)人云DCOS在OCP服務(wù)器上做百萬(wàn)并發(fā)壓力測(cè)試的性能狀況,數(shù)人云DCOS提供了整個(gè)壓測(cè)環(huán)境的安裝部署和運(yùn)行,包括壓測(cè)工具Tsung、負(fù)載均衡器HAProxy、Web服務(wù)器NginX等等。數(shù)人云DCOS把壓測(cè)環(huán)境涉及的所有程序都封裝在Docker容器里,管理調(diào)度整個(gè)壓測(cè)環(huán)境運(yùn)行的數(shù)千個(gè)Docker實(shí)例。
數(shù)人云DCOS在數(shù)十臺(tái)OCP服務(wù)器上部署Tsung,模擬每秒一百萬(wàn)用戶HTTP請(qǐng)求,在4臺(tái)OCP服務(wù)器上部署HAProxy,在6臺(tái)服務(wù)器上部署NginX,4臺(tái)HAProxy負(fù)責(zé)把一百萬(wàn)用戶請(qǐng)求分發(fā)到6臺(tái)NginX服務(wù)器上,這6臺(tái)NginX服務(wù)器來(lái)處理一百萬(wàn)用戶HTTP請(qǐng)求。數(shù)人云DCOS對(duì)HAProxy和NginX進(jìn)行深度調(diào)優(yōu),每臺(tái)HAProxy服務(wù)器(48核CPU、140G內(nèi)存、萬(wàn)兆網(wǎng)卡)可以處理27萬(wàn)并發(fā)HTTP請(qǐng)求,每臺(tái)NginX服務(wù)器(32核CPU、140G內(nèi)存、萬(wàn)兆網(wǎng)卡)每秒可以處理19萬(wàn)HTTP請(qǐng)求(NginX的HTTP響應(yīng)為L(zhǎng)ua腳本做的動(dòng)態(tài)頁(yè)面,以防止靜態(tài)HTTP頁(yè)面被緩存)。
縱坐標(biāo)-綠色代表用戶數(shù),藍(lán)色代表鏈接數(shù)
橫坐標(biāo)-時(shí)間軸,單位秒
縱坐標(biāo)-綠色代表成功處理數(shù)量,藍(lán)色代表失敗數(shù)量
橫坐標(biāo)-時(shí)間軸,單位秒
數(shù)人云DCOS最終僅用10臺(tái)OCP服務(wù)器就承載了百萬(wàn)并發(fā)HTTP請(qǐng)求,用Tsung模擬每秒鐘100萬(wàn)個(gè)用戶的并發(fā)請(qǐng)求,每秒平均處理85萬(wàn)請(qǐng)求。
據(jù)悉,數(shù)人云創(chuàng)始團(tuán)隊(duì)來(lái)自谷歌、紅帽和惠普,在今年3月初公司剛剛宣布完成A輪融資。數(shù)人云致力打造下一代DCOS,基于Docker+Mesos的技術(shù)理念,將應(yīng)用彈性做到極致。通過(guò)最輕量化的PaaS平臺(tái),數(shù)人云實(shí)現(xiàn)一站式的微服務(wù)架構(gòu)集群系統(tǒng),最大化地幫助客戶實(shí)現(xiàn)應(yīng)用業(yè)務(wù)在云端的快速部署,解決從客戶到云資源的最后一公里。
好文章,需要你的鼓勵(lì)
浙江大學(xué)團(tuán)隊(duì)提出動(dòng)態(tài)專家搜索方法,讓AI能根據(jù)不同問(wèn)題靈活調(diào)整內(nèi)部專家配置。該方法在數(shù)學(xué)、編程等任務(wù)上顯著提升推理準(zhǔn)確率,且不增加計(jì)算成本。研究發(fā)現(xiàn)不同類型問(wèn)題偏愛(ài)不同專家配置,為AI推理優(yōu)化開(kāi)辟新路徑。
清華大學(xué)研究團(tuán)隊(duì)提出SIRI方法,通過(guò)"壓縮-擴(kuò)張"交替訓(xùn)練策略,成功解決了大型推理模型"話多且準(zhǔn)確率低"的問(wèn)題。實(shí)驗(yàn)顯示,該方法在數(shù)學(xué)競(jìng)賽題上將模型準(zhǔn)確率提升43.2%的同時(shí),輸出長(zhǎng)度減少46.9%,真正實(shí)現(xiàn)了效率與性能的雙重優(yōu)化,為AI模型訓(xùn)練提供了新思路。
南洋理工大學(xué)與騰訊聯(lián)合研究團(tuán)隊(duì)開(kāi)發(fā)出Rolling Forcing技術(shù),實(shí)現(xiàn)AI視頻實(shí)時(shí)流式生成的重大突破。該技術(shù)通過(guò)滾動(dòng)窗口聯(lián)合去噪、注意力錨點(diǎn)機(jī)制和高效訓(xùn)練算法三項(xiàng)創(chuàng)新,解決了長(zhǎng)視頻生成中的錯(cuò)誤累積問(wèn)題,可在單GPU上以16fps速度生成多分鐘高質(zhì)量視頻,延遲僅0.76秒,質(zhì)量漂移指標(biāo)從傳統(tǒng)方法的1.66降至0.01,為交互式媒體和內(nèi)容創(chuàng)作開(kāi)辟新可能。
華中科技大學(xué)研究團(tuán)隊(duì)發(fā)現(xiàn),通過(guò)讓AI模型學(xué)習(xí)解決幾何問(wèn)題,能夠顯著提升其空間理解能力。他們構(gòu)建了包含約30000個(gè)幾何題目的Euclid30K數(shù)據(jù)集,使用強(qiáng)化學(xué)習(xí)方法訓(xùn)練多個(gè)AI模型。實(shí)驗(yàn)結(jié)果顯示,幾何訓(xùn)練在四個(gè)空間智能測(cè)試基準(zhǔn)上都帶來(lái)顯著提升,其中最佳模型達(dá)到49.6%準(zhǔn)確率,超越此前最好成績(jī)。這項(xiàng)研究揭示了基礎(chǔ)幾何知識(shí)對(duì)培養(yǎng)AI空間智能的重要價(jià)值。