機器人能像人一樣理解語言、看懂環(huán)境并執(zhí)行復雜任務，這聽起來像科幻電影的情節(jié)，但現在正逐漸成為現實。不過，目前的智能機器人有一個巨大的"胃口"——它們需要消耗大量的計算資源和內存才能運行，這就像需要一臺超級計算機才能驅動一個機器人管家。想象一下，如果你想在家里放一個能幫你整理房間、準備食物的機器人助手，但它需要占用整個車庫來放置服務器設備，這顯然不現實。

中國科學院計算技術研究所AI安全重點實驗室的王洪宇、熊楚炎、王瑞平和陳熙林等研究人員在2025年6月發(fā)表了一項突破性研究，這篇題為"BitVLA: 1-bit Vision-Language-Action Models for Robotics Manipulation"的論文已發(fā)布在arXiv預印本平臺（論文編號：arXiv:2506.07530v1），有興趣深入了解的讀者可以通過https://github.com/ustcwhy/BitVLA獲取完整的代碼和模型權重。

這項研究就像是給機器人大腦做了一次"減肥手術"。研究團隊開發(fā)出了世界上第一個1比特視覺-語言-動作模型BitVLA，這個模型能夠讓機器人在使用極少計算資源的情況下，依然能夠看懂環(huán)境、理解人類指令并執(zhí)行復雜的操作任務。就好比原來需要一整個圖書館才能存儲的知識，現在被壓縮到了一本口袋書里，但該懂的東西一樣都不少。

傳統(tǒng)的智能機器人模型就像是一個博學但"臃腫"的教授，它們雖然能力強大，但需要巨大的"辦公室"（內存空間）才能工作。BitVLA則像是一個精明能干的助手，雖然"體型"小巧，但辦事效率毫不遜色。在機器人操作任務的標準測試中，BitVLA的表現與目前最先進的模型OpenVLA-OFT相當，但它只需要29.8%的內存空間。這意味著原本需要高端服務器才能運行的機器人系統(tǒng)，現在可能在一臺普通的筆記本電腦上就能運行。

一、機器人大腦的"瘦身"革命

要理解這項研究的重要性，我們先來看看現在機器人面臨的"肥胖"問題?，F代智能機器人需要同時處理三種復雜任務：看懂周圍環(huán)境（視覺），理解人類的語言指令（語言），然后做出相應的動作（行動）。這就像要求一個人同時當攝影師、翻譯和演員，每項工作都需要大量的"腦力"。

傳統(tǒng)的機器人模型使用高精度的數字來表示所有信息，就像用高清攝像頭記錄每一個細節(jié)。雖然這樣很精確，但也產生了海量的數據。想象一下，如果你要記住一本書的內容，傳統(tǒng)方法就像把書的每一頁都用高清相機拍下來，包括紙張的紋理、墨水的光澤等所有細節(jié)。這樣雖然完整，但存儲空間需求巨大。

BitVLA采用了一種全新的"簡化策略"。它將模型中的每個參數都限制在三個值中選擇：-1、0、1。這就像把復雜的色彩世界簡化為黑、白、灰三色，雖然看起來簡單，但關鍵信息依然保留。研究團隊發(fā)現，這種看似"粗糙"的表示方法，實際上能夠保留模型的核心能力，同時大幅減少計算和存儲需求。

這種方法的巧妙之處在于，雖然每個單獨的"決策點"變得簡單了，但當成千上萬個這樣的簡單決策組合起來時，仍然能夠處理復雜的任務。就像用簡單的黑白點組成復雜的報紙照片一樣——單個點很簡單，但整體效果依然清晰可辨。

二、三階段訓練：從笨拙學徒到熟練工匠

BitVLA的訓練過程就像培養(yǎng)一個全能助手，需要經過三個循序漸進的階段。這個過程類似于培訓一個新員工：首先學會基本技能，然后掌握復雜任務，最后進行專項優(yōu)化。

第一階段是"視覺對齊訓練"，就像教一個人認識物品和學會描述它們之間的關系。在這個階段，研究團隊使用1比特的語言模型作為"大腦"，配合全精度的視覺編碼器作為"眼睛"。系統(tǒng)學習如何將看到的圖像轉換為語言模型能夠理解的信息。這就像教一個盲人通過觸摸來理解物體，然后用語言準確描述出來。

第二階段是"指令微調"，這時系統(tǒng)開始學習理解復雜的語言指令并給出合適的回應。研究團隊使用了包含1000萬個樣本的數據集，讓模型學習各種視覺-語言任務。這個過程就像讓助手閱讀大量的工作手冊，學習如何應對各種情況。在這個階段，視覺編碼器被凍結（不再更新），而語言模型和連接器繼續(xù)學習。

第三階段是最關鍵的"蒸餾感知訓練"，這是研究團隊的一項創(chuàng)新。他們將全精度的視覺編碼器作為"老師"，指導1.58比特的視覺編碼器學習。這就像一個經驗豐富的師傅手把手教導學徒，確保學徒在使用更簡單工具的同時，依然能達到相似的工作質量。

在這個過程中，研究團隊設計了一個巧妙的損失函數，它包含兩個部分：語言建模損失和表示對齊損失。語言建模損失確保模型能夠準確理解和生成語言，而表示對齊損失則確保簡化后的視覺編碼器與原始版本產生相似的內部表示。這就像既要求學徒做出的成品質量好，又要求他的思考過程與師傅相似。

三、化繁為簡的技術魔法：量化與蒸餾

BitVLA的核心技術創(chuàng)新在于如何將復雜的數值壓縮到極簡的1比特表示，同時保持模型的智能水平。這個過程就像把一副精美的油畫轉換成簡潔的線條畫，既要保持原作的神韻，又要大幅簡化表現形式。

量化過程使用了一種叫做"absmean量化器"的技術來處理權重，以及"per-token absmax量化器"來處理激活值。這聽起來很復雜，但實際上就像調整照片的對比度和亮度。對于權重，系統(tǒng)計算所有數值的平均絕對值作為縮放因子，然后將每個權重除以這個因子并四舍五入到最近的整數（-1、0、1）。對于激活值，系統(tǒng)使用最大絕對值作為參考，將數值映射到-128到127的范圍內。

這個過程面臨的主要挑戰(zhàn)是量化操作本身是不可微分的，也就是說傳統(tǒng)的學習算法無法直接應用。研究團隊采用了"直通估計器"技術來解決這個問題。這就像在陡峭的山坡上修建一條平緩的小路，讓信息能夠順利地從模型的輸出端反向傳播到輸入端，使得學習過程能夠正常進行。

蒸餾感知訓練是另一個關鍵創(chuàng)新。在這個過程中，全精度的視覺編碼器繼續(xù)作為"老師"存在，而1.58比特的編碼器則是"學生"。老師和學生同時處理相同的輸入，然后比較它們在每一層的內部表示。如果學生的表示與老師相差太大，系統(tǒng)就會調整學生的參數，讓它更接近老師的思考方式。

這種方法的妙處在于，它不僅關注最終的輸出結果，還關注思考過程本身。就像不僅要求學生考試得高分，還要求他的解題思路與老師相似。這樣訓練出來的學生模型，雖然使用的是簡化的表示方法，但思考方式依然保持了原始模型的精髓。

四、機器人任務中的實戰(zhàn)表現

為了驗證BitVLA的實際能力，研究團隊在LIBERO仿真環(huán)境中進行了全面測試。LIBERO就像是機器人的"駕照考試場"，它設計了四種不同類型的挑戰(zhàn)來全面評估機器人的智能水平。

第一類挑戰(zhàn)是"空間泛化"，測試機器人是否能在物品擺放位置發(fā)生變化時依然完成任務。這就像要求一個人在廚房重新布局后依然能熟練地做飯。比如，平時黑碗放在盤子旁邊，現在放在了爐子上，機器人是否還能準確地把碗放到盤子里。在這項測試中，BitVLA取得了97.4%的成功率，甚至超過了一些使用更多資源的模型。

第二類挑戰(zhàn)是"物體泛化"，考驗機器人處理從未見過的物品的能力。想象一下，如果機器人只見過蘋果，現在突然出現了橙子，它是否還能理解"把水果放進籃子"這個指令。BitVLA在這項測試中表現出色，成功率達到99.6%，展現了強大的舉一反三能力。

第三類挑戰(zhàn)是"目標泛化"，測試機器人理解多樣化語言指令的能力。人類說話的方式千變萬化，"把碗放在盤子上"、"將碗置于盤子之上"、"讓碗與盤子組合"，雖然表達不同，但意思相同。BitVLA需要理解這些語言的細微差別，并做出正確的行動。

第四類也是最具挑戰(zhàn)性的是"長期推理"，要求機器人完成需要多個步驟的復雜任務。比如"先打開抽屜，然后把碗放進去，最后關上抽屜"。這不僅需要理解每個單獨的動作，還要理解它們之間的邏輯關系和執(zhí)行順序。雖然在這個最難的測試中，BitVLA的表現（87.6%）略遜于經過大規(guī)模機器人數據預訓練的OpenVLA-OFT模型（94.5%），但考慮到BitVLA使用的資源只有后者的不到三分之一，這個結果已經相當令人印象深刻。

研究團隊還將BitVLA與其他先進模型進行了詳細比較。結果顯示，BitVLA不僅在性能上與主流模型相當，在資源使用效率上更是遙遙領先。它只需要1.4GB的內存就能運行，而對比模型通常需要4-15GB的內存。這意味著BitVLA可以在普通的消費級GPU上運行，比如NVIDIA GeForce RTX 3050 Ti Laptop（4GB顯存），這為家用機器人的普及打開了大門。

五、意外收獲：視覺問答能力依然強勁

除了機器人操作任務，研究團隊還測試了BitVLA在傳統(tǒng)視覺問答任務上的表現。這就像檢驗一個專門培訓的廚師是否還保持著基本的烹飪技能。結果顯示，即使經過了大幅簡化，BitVLA在五個主流視覺問答基準測試中的平均表現只比全精度版本下降了1.5%。

這個結果特別有意義，因為它表明BitVLA的"瘦身"過程并沒有損害模型的通用智能。就像一個運動員通過科學訓練減重后，不僅在專項運動中表現更好，在其他運動項目中也依然保持著良好的競技狀態(tài)。這種全面的能力保持，使得BitVLA不僅僅是一個專用的機器人模型，更是一個多才多藝的智能助手。

在MMMU、SeedBench、SeedBench-2-Plus、MMStar和AI2D等測試中，BitVLA都展現了穩(wěn)定的性能。這些測試涵蓋了從基礎物體識別到復雜場景理解的各個方面，就像對一個學生進行語文、數學、科學等多科目的綜合考試。

六、深度解析：失敗案例中的學習機會

為了更好地理解BitVLA的能力邊界，研究團隊細致分析了模型的失敗案例。他們發(fā)現失敗主要集中在三個方面，這些分析為未來的改進指明了方向。

第一類失敗是"空間定位偏差"，這就像一個近視的人試圖穿針引線時出現的問題。機器人能夠識別物體和理解任務，但在精確操作時會出現位置偏差。比如在抓取重心不穩(wěn)的酒瓶時，稍微的位置誤差就可能導致酒瓶傾倒。或者在將物品放置到目標位置時，可能會因為位置不夠精確而導致任務失敗。這類問題反映了簡化的視覺編碼器在處理精細空間關系時的局限性。

第二類失敗是"目標誤解"，這相當于在嘈雜環(huán)境中聽錯了指令。有時機器人會在執(zhí)行任務過程中突然轉向操作其他物體，就好像在做飯時突然開始洗衣服。研究團隊分析認為，這主要是因為在某些情況下，視覺和本體感受信息在模型推理過程中占據了主導地位，掩蓋了語言指令的影響。

第三類失敗是"軌跡規(guī)劃失敗"，這類似于在擁擠的商場中走路時撞到障礙物。機器人在移動過程中可能會與環(huán)境發(fā)生碰撞，比如在將碗放入抽屜時撞到抽屜的下沿。這類失敗提示我們，BitVLA在空間推理和動作規(guī)劃方面還有改進空間，需要更好地預測動作的后果和環(huán)境的約束。

通過對失敗案例的分析，研究團隊發(fā)現最常見的問題是空間定位精度不足。這并不意外，因為LIBERO測試環(huán)境對精度要求很高，比如要求物體必須準確放置在盤子的中心位置。在很多失敗案例中，機器人實際上成功地將物體放在了盤子上，但因為位置稍微偏離中心而被判定為失敗。這種嚴格的評判標準雖然具有挑戰(zhàn)性，但也揭示了精細操作領域仍然是機器人技術需要突破的難點。

七、技術細節(jié)的巧思：ablation研究的啟示

研究團隊還進行了細致的ablation研究，這就像拆解一臺精密機器來理解每個零件的作用。他們發(fā)現了幾個關鍵的設計選擇對模型性能的重要影響。

首先是表示對齊損失的重要性。當研究團隊移除這個組件時，模型在視覺問答任務上的平均準確率從51.5%下降到42.4%，降幅達到9.1%。這證明了"師傅指導學徒"這個策略的關鍵作用。沒有這種指導，簡化后的模型就像沒有經驗傳承的新手，雖然能夠工作，但效率和準確性都會大打折扣。

其次是訓練數據量的影響。使用10B（100億）tokens進行蒸餾感知訓練比使用5B tokens的效果更好，在視覺問答任務上提升了0.7%，在機器人任務上提升了1.2%。這說明充分的訓練對于知識蒸餾過程的重要性，就像學徒需要足夠的練習時間才能掌握師傅的技藝。

這些發(fā)現不僅驗證了設計選擇的合理性，也為未來的研究提供了指導。比如，如果計算資源有限，研究者可以優(yōu)先保證表示對齊損失的實現，而在訓練數據量上做一些妥協。

八、與傳統(tǒng)量化方法的較量：后訓練量化的比較

為了更好地展示BitVLA的優(yōu)勢，研究團隊將其與傳統(tǒng)的后訓練量化方法進行了比較。后訓練量化就像給已經成型的產品進行"壓縮包裝"，而BitVLA的方法則是從設計階段就考慮"小型化"的需求。

當使用8位（INT8）后訓練量化時，OpenVLA模型的內存使用量從15.1GB降低到7.4GB，但性能也有輕微下降。當使用4位（INT4）量化時，內存進一步降低到4.4GB，但性能下降更加明顯，平均成功率從76.5%下降到72.7%。相比之下，BitVLA在只使用1.4GB內存的情況下，依然保持了94.8%的平均成功率。

這種差異的根本原因在于訓練方式的不同。后訓練量化是在模型訓練完成后強行壓縮，就像試圖將一個大箱子硬塞進小空間，必然會造成一些損壞。而BitVLA從一開始就被設計為在低精度環(huán)境中工作，就像專門為小空間設計的精巧家具，每個部分都經過優(yōu)化，既節(jié)省空間又保持功能性。

九、計算效率的革命性提升

BitVLA帶來的不僅僅是內存使用量的減少，更是整個計算范式的革命。傳統(tǒng)的浮點運算需要復雜的硬件支持和大量的能耗，而1比特運算可以用最簡單的邏輯門來實現，這就像從復雜的蒸汽機轉向簡潔的電動機。

在實際部署中，這種差異的影響是巨大的。傳統(tǒng)的VLA模型需要高端的GPU或者專門的AI加速器才能運行，這些設備不僅昂貴，還需要大量的電力和冷卻系統(tǒng)。而BitVLA可以在普通的CPU上高效運行，甚至可以部署在嵌入式設備上。這意味著機器人可以擺脫對云端計算的依賴，實現真正的本地智能。

研究團隊使用的BitNet b1.58 2B4T作為語言模型骨干，配合SigLIP-L作為視覺編碼器。SigLIP-L被選擇用于處理224×224分辨率的圖像，這個選擇在保持性能的同時優(yōu)化了計算效率。連接器使用了兩層MLP（多層感知器），雖然保持全精度，但由于其相對較小的規(guī)模，對整體模型大小的影響微乎其微。

十、訓練策略的精巧設計

BitVLA的訓練過程展現了研究團隊在策略設計上的深思熟慮。整個訓練過程歷時14天，使用了8塊NVIDIA A100 GPU（每塊80GB顯存），這個配置雖然強大，但相比訓練同等能力的傳統(tǒng)模型，已經大幅節(jié)省了資源。

在訓練的第一階段，研究團隊使用LLaVA 1.5-558k數據集進行視覺對齊訓練，這個階段只有連接器參數是可訓練的，其他部分都被凍結。這就像先讓新員工熟悉公司的基本流程，而不是一開始就讓他承擔所有工作。

第二階段使用了從MammoTH-VL數據集中選取的1000萬樣本進行指令微調。在這個階段，視覺編碼器被凍結，而語言模型和連接器繼續(xù)學習。研究團隊特別采用了動態(tài)權重衰減策略，從0.1逐漸降低到0，這種策略有助于模型在訓練后期更好地收斂。

第三階段的蒸餾感知訓練是最具創(chuàng)新性的部分。研究團隊使用了500萬樣本，訓練數據包含多達100億個tokens。在這個階段，只有視覺編碼器是可訓練的，蒸餾損失的權重系數設置為0.1，這個數值是通過大量實驗確定的最優(yōu)平衡點。

十一、實驗設計的嚴謹性與全面性

研究團隊在實驗設計上展現了嚴謹的科學態(tài)度。他們不僅測試了BitVLA在機器人任務上的表現，還驗證了其在通用視覺語言任務上的能力保持，確保模型的簡化沒有損害其通用性。

在機器人任務評估中，研究團隊使用了與OpenVLA-OFT相同的訓練數據集，確保了比較的公平性。他們處理了來自腕部攝像頭和外部攝像頭的同步多視角視覺輸入，同時編碼了末端執(zhí)行器位置等本體感受信號。這些物理狀態(tài)測量通過基于MLP的投影器轉換為單個token，然后附加到圖像tokens上。

為了優(yōu)化實時控制效率，研究團隊采用了動作分塊技術，將分塊大小設置為K=8。這意味著模型一次生成8個連續(xù)的動作步驟，然后在重新規(guī)劃之前執(zhí)行完整的分塊。這種方法顯著提高了控制的流暢性和效率，避免了逐步驟生成帶來的延遲問題。

在超參數選擇上，研究團隊進行了細致的網格搜索。對于LIBERO-Spatial、LIBERO-Object和LIBERO-Goal任務，他們從{5e-5, 1e-4, 3e-4}中選擇最佳學習率。對于最具挑戰(zhàn)性的LIBERO-Long任務，所有模型都使用視覺編碼器學習率8e-5和語言模型學習率4e-4的組合。

十二、未來展望：邊緣計算時代的智能機器人

BitVLA的成功不僅僅是一個技術突破，更是為未來智能機器人的普及奠定了基礎。想象一下，在不久的將來，每個家庭都可能擁有一個智能機器人助手，它不需要連接到云端服務器，就能理解你的指令并幫助你完成各種家務。

這種本地化的智能處理帶來了多重優(yōu)勢。首先是隱私保護，所有的視覺和語音數據都在本地處理，不需要上傳到遠程服務器。其次是響應速度，沒有網絡延遲的困擾，機器人可以實時響應環(huán)境變化。最后是可靠性，即使在網絡中斷的情況下，機器人依然能夠正常工作。

研究團隊已經開源了BitVLA的完整代碼和模型權重，這為全球的研究者和開發(fā)者提供了寶貴的資源。開源策略的采用將加速相關技術的發(fā)展和應用，就像當年Linux操作系統(tǒng)的開源推動了整個軟件行業(yè)的繁榮。

當然，BitVLA也還有改進的空間。研究團隊在論文中坦誠地指出了模型在精細操作和長期推理方面的局限性。這些挑戰(zhàn)為未來的研究指明了方向，包括改進空間推理能力、增強軌跡規(guī)劃算法、優(yōu)化多步驟任務的執(zhí)行策略等。

從更廣闊的視角來看，BitVLA代表了人工智能發(fā)展的一個重要趨勢：從追求模型規(guī)模的無限擴大轉向追求效率和實用性的平衡。這種轉變不僅符合環(huán)保和可持續(xù)發(fā)展的理念，也更接近實際應用的需求。畢竟，最好的技術不一定是最復雜的技術，而是最適合解決實際問題的技術。

說到底，BitVLA就像是為智能機器人世界打開了一扇新的大門。它證明了即使在嚴格的資源約束下，我們依然可以實現強大的智能功能。這不僅讓研究者看到了在邊緣設備上部署復雜AI模型的可能性，也讓普通人看到了智能機器人走進千家萬戶的希望。雖然我們距離科幻電影中的全能機器人助手還有一段距離，但BitVLA讓我們離這個目標又近了一大步。未來的某一天，當你回到家中，一個小巧而智能的機器人助手正在整理房間，理解你的每一個指令，這樣的場景可能比我們想象的更早到來。如果讀者對這項突破性研究的技術細節(jié)感興趣，可以訪問研究團隊提供的GitHub鏈接獲取完整的實現代碼和預訓練模型。