12月20日,“‘智’啟‘質(zhì)’成 AI Agent激發(fā)新質(zhì)生產(chǎn)力暨2023瀾碼科技產(chǎn)品發(fā)布會(huì)”在上海漕河涇會(huì)議中心成功舉辦。
上海市徐匯區(qū)科學(xué)技術(shù)委員會(huì)主任、信息委主任、黨組書記張寧出席發(fā)布會(huì)并致辭,上海市徐匯區(qū)虹梅街道黨工委書記、人大工委主任范潤(rùn)生,漕河涇開發(fā)總公司董事長(zhǎng)顧倫,漕河涇開發(fā)總公司副總經(jīng)理薛晗,以及中國(guó)電信、英特爾中國(guó)、中國(guó)銀聯(lián)、上汽研發(fā)總院、太平保險(xiǎn)、金光集團(tuán)app(中國(guó))、CGL等瀾碼科技眾多生態(tài)合作伙伴及客戶出席發(fā)布會(huì)。
作為國(guó)內(nèi)最早賦能大語(yǔ)言模型應(yīng)用落地的Agent平臺(tái)公司,瀾碼科技首次正式對(duì)外發(fā)布瀾碼AI Agent平臺(tái)AskXBOT,多個(gè)通過AI Agent實(shí)現(xiàn)大模型應(yīng)用落地的先鋒企業(yè)和業(yè)內(nèi)知名專家分享了他們的實(shí)踐與行業(yè)洞察。
瀾碼正式推出AskXBOT,可快速定制企業(yè)級(jí)AI Agent
大語(yǔ)言模型的熱度,幾乎貫穿了整個(gè)2023年。
瀾碼科技創(chuàng)始人兼CEO周健談到:“2023年是大語(yǔ)言模型的元年,2024年將是AI Agent的爆發(fā)年,AI Agent是大語(yǔ)言模型優(yōu)先落地的最佳形態(tài)。”
在發(fā)布會(huì)現(xiàn)場(chǎng),瀾碼科技正式發(fā)布了自主研發(fā)的AI Agent平臺(tái)“AskXBOT”。
周健介紹,瀾碼AskXBOT平臺(tái)由設(shè)計(jì)器、知識(shí)中心、使用端、管理平臺(tái)四大核心模塊構(gòu)成,將大語(yǔ)言模型能力抽象為文檔檢索、AI調(diào)用、數(shù)據(jù)查詢、智能編程等能力,是基于LLM的Agent與工作流設(shè)計(jì)、開發(fā)、使用、管理、知識(shí)沉淀的一站式平臺(tái),讓專家知識(shí)賦能基層業(yè)務(wù)單元。
設(shè)計(jì)器具有預(yù)置多種Agent模版、2分鐘高效創(chuàng)建Agent、靈活配置滿足企業(yè)個(gè)性需求、所見即所得的預(yù)覽調(diào)試,以及輕松對(duì)接瀾碼仿真平臺(tái)五大特色。
此外,工作流設(shè)計(jì)器通過多種多模態(tài)模型集成、常用能力封裝、靈活豐富的組件提供,幫助企業(yè)快速定制個(gè)性化AI工作流。
知識(shí)庫(kù)可實(shí)現(xiàn)Agent輔助知識(shí)治理,配合專家知識(shí)數(shù)字化沉淀;專家知識(shí)賦能Agent與工作流,形成良性閉環(huán)。
使用端通過Agent與企業(yè)系統(tǒng)的集成,業(yè)務(wù)人員可以隨時(shí)隨地通過自然語(yǔ)言使用智能體,結(jié)合界面交互更直觀查看過程與結(jié)果。Agent CUI界面支持實(shí)時(shí)對(duì)話獲取并即時(shí)回復(fù),提供知識(shí)推理問答、數(shù)據(jù)查詢分析、任務(wù)理解執(zhí)行等多種技能。工作流GUI界面支持AI工作流批量完成重復(fù)任務(wù),智能動(dòng)態(tài)決策進(jìn)一步降低人工參與成本,過程透明隨時(shí)隨地審查運(yùn)行結(jié)果。
管理平臺(tái)可以查看和管理所有企業(yè)內(nèi)的Agent與工作流,包括狀態(tài)管理、權(quán)限管理、使用情況查看;允許將Agent和工作流發(fā)布作為服務(wù)調(diào)用,對(duì)外開放API,提供API key管理能力,所有調(diào)用記錄可在管理平臺(tái)統(tǒng)一查看、統(tǒng)一管理。
為了更直觀地解釋AskXBOT平臺(tái)的各項(xiàng)功能和易用性,瀾碼科技產(chǎn)品經(jīng)理還在發(fā)布會(huì)直接接入AskXBOT平臺(tái),現(xiàn)場(chǎng)演示了如何在真實(shí)生產(chǎn)環(huán)境下輕松構(gòu)建一個(gè)Agent。
周健認(rèn)為,在高度不確定性的今天,以大模型能力為底座的 AI Agent 將極大滿足企業(yè)自動(dòng)化數(shù)字化升級(jí)需求,徹底改變企業(yè)形態(tài)。“瀾碼AskXBOT平臺(tái)作為一個(gè)軟件自動(dòng)化超級(jí)平臺(tái),期望能夠重構(gòu)AI時(shí)代軟件生態(tài)。”周健說。
瀾碼高效構(gòu)建AI Agent的三步走法則
當(dāng)前,新質(zhì)生產(chǎn)力被認(rèn)為是推動(dòng)經(jīng)濟(jì)高質(zhì)量發(fā)展的新引擎。新質(zhì)生產(chǎn)力以勞動(dòng)者、勞動(dòng)資料、勞動(dòng)對(duì)象及其優(yōu)化組合的質(zhì)變?yōu)榛緝?nèi)涵,以全要素生產(chǎn)率提升為核心標(biāo)志。
在瀾碼科技的視角下,新質(zhì)生產(chǎn)力很重要的一個(gè)載體其實(shí)就是 AI Agent。
周健在發(fā)布會(huì)中談到,今天因?yàn)橛辛舜笳Z(yǔ)言模型,AI可以增強(qiáng)勞動(dòng)力,甚至成為新的勞動(dòng)資料。但是通用大模型在實(shí)際執(zhí)行過程中,會(huì)遇到各種各樣的環(huán)境問題,這時(shí)候就需要一個(gè)行動(dòng)系統(tǒng)或具身智能來解決這些問題。
“我們希望AI Agent成為人與真實(shí)世界環(huán)境的交互媒介,成為人與系統(tǒng)之間的連接器,甚至作為管理者與基礎(chǔ)員工、專家與基礎(chǔ)員工,基礎(chǔ)員工之間的連接器。”周健說。
在過去近一年的實(shí)踐探索中,瀾碼總結(jié)了AI Agent落地時(shí)面臨的各種挑戰(zhàn),比如現(xiàn)有系統(tǒng)改造和集成投入、Agent響應(yīng)速度慢、數(shù)據(jù)權(quán)限把控難、多Agent的集成和調(diào)度等等。
“信息化是數(shù)字化的前提,數(shù)字化是智能化的前提。如果沒有把專家知識(shí)數(shù)字化下來,那么AI Agent的落地會(huì)有很大困難。”周健說。
為了更好地讓AI Agent賦能各行各業(yè),瀾碼科技提出了三步走的AI Agent 構(gòu)建法則:第一步,專家知識(shí)的數(shù)字化;第二步,基于CUI的柔性交互;第三步,領(lǐng)域知識(shí)的循環(huán)沉淀。
作為瀾碼AskXBOT平臺(tái)的早期用戶,美服數(shù)字CTO韓亞偉現(xiàn)身說法,在現(xiàn)場(chǎng)分享了美服數(shù)字如何借助瀾碼AI Agent平臺(tái)調(diào)用大語(yǔ)言模型能力解決業(yè)務(wù)挑戰(zhàn)。
美服數(shù)字聚焦泛美行業(yè),提供現(xiàn)代化經(jīng)營(yíng)、管理、組織、教育、集合平臺(tái)五大產(chǎn)線及解決方案服務(wù)。在采用AskXBOT平臺(tái)之前,美服數(shù)字的咨詢顧問每天只能提供有限的咨詢服務(wù)。現(xiàn)在,美服數(shù)字在直播時(shí),可以由AI Agent回答粉絲提問,專家可以在后臺(tái)判斷問題回答的好壞并進(jìn)行答案優(yōu)化,從而實(shí)現(xiàn)高效答疑和獲客。
美服數(shù)字CTO韓亞偉
“借助瀾碼AskXBOT平臺(tái),我們通過AI Agent解決業(yè)務(wù)挑戰(zhàn),實(shí)現(xiàn)營(yíng)銷分析,促進(jìn)直播獲客,大大提升了整體效能。”韓亞偉說。
愛分析聯(lián)合創(chuàng)始人兼首席分析師李喆在演講中談到,2024年企業(yè)采用大語(yǔ)言模型的首要目標(biāo)是降低企業(yè)運(yùn)營(yíng)成本,這是一個(gè)可行方向;其次是產(chǎn)品服務(wù)體驗(yàn)創(chuàng)新,提升客戶需求響應(yīng)速度、業(yè)務(wù)收入增長(zhǎng),支持公司AI戰(zhàn)略等。他預(yù)測(cè),2024年大模型市場(chǎng)規(guī)模120億,同時(shí),AI Agent能力建設(shè)和應(yīng)用建設(shè)并行,建設(shè)和運(yùn)營(yíng)將同等重要。
好文章,需要你的鼓勵(lì)
浙江大學(xué)團(tuán)隊(duì)提出動(dòng)態(tài)專家搜索方法,讓AI能根據(jù)不同問題靈活調(diào)整內(nèi)部專家配置。該方法在數(shù)學(xué)、編程等任務(wù)上顯著提升推理準(zhǔn)確率,且不增加計(jì)算成本。研究發(fā)現(xiàn)不同類型問題偏愛不同專家配置,為AI推理優(yōu)化開辟新路徑。
清華大學(xué)研究團(tuán)隊(duì)提出SIRI方法,通過"壓縮-擴(kuò)張"交替訓(xùn)練策略,成功解決了大型推理模型"話多且準(zhǔn)確率低"的問題。實(shí)驗(yàn)顯示,該方法在數(shù)學(xué)競(jìng)賽題上將模型準(zhǔn)確率提升43.2%的同時(shí),輸出長(zhǎng)度減少46.9%,真正實(shí)現(xiàn)了效率與性能的雙重優(yōu)化,為AI模型訓(xùn)練提供了新思路。
南洋理工大學(xué)與騰訊聯(lián)合研究團(tuán)隊(duì)開發(fā)出Rolling Forcing技術(shù),實(shí)現(xiàn)AI視頻實(shí)時(shí)流式生成的重大突破。該技術(shù)通過滾動(dòng)窗口聯(lián)合去噪、注意力錨點(diǎn)機(jī)制和高效訓(xùn)練算法三項(xiàng)創(chuàng)新,解決了長(zhǎng)視頻生成中的錯(cuò)誤累積問題,可在單GPU上以16fps速度生成多分鐘高質(zhì)量視頻,延遲僅0.76秒,質(zhì)量漂移指標(biāo)從傳統(tǒng)方法的1.66降至0.01,為交互式媒體和內(nèi)容創(chuàng)作開辟新可能。
華中科技大學(xué)研究團(tuán)隊(duì)發(fā)現(xiàn),通過讓AI模型學(xué)習(xí)解決幾何問題,能夠顯著提升其空間理解能力。他們構(gòu)建了包含約30000個(gè)幾何題目的Euclid30K數(shù)據(jù)集,使用強(qiáng)化學(xué)習(xí)方法訓(xùn)練多個(gè)AI模型。實(shí)驗(yàn)結(jié)果顯示,幾何訓(xùn)練在四個(gè)空間智能測(cè)試基準(zhǔn)上都帶來顯著提升,其中最佳模型達(dá)到49.6%準(zhǔn)確率,超越此前最好成績(jī)。這項(xiàng)研究揭示了基礎(chǔ)幾何知識(shí)對(duì)培養(yǎng)AI空間智能的重要價(jià)值。