這項由Meta公司GenAI團隊Philippe Hansen-Estruch領導，聯(lián)合德州大學奧斯汀分校、斯坦福大學等多個研究機構共同完成的研究于2025年1月16日發(fā)布，論文題為"Learnings from Scaling Visual Tokenizers for Reconstruction and Generation"（從擴展視覺標記器中學到的重建與生成規(guī)律）。感興趣的讀者可以通過https://vitok.github.io訪問完整論文和項目詳情。

在人工智能快速發(fā)展的今天，我們每天都在社交媒體上看到令人驚嘆的AI生成圖像和視頻。但你是否想過，這些看似神奇的技術背后隱藏著什么秘密？就像魔術師需要巧妙的手法一樣，AI生成高質量視覺內容也需要一套精密的"壓縮與還原"系統(tǒng)。

現(xiàn)代AI視覺生成就像一個精巧的攝影暗房流程。首先需要一個"壓縮師"把原始圖像壓縮成緊湊的密碼，然后交給"生成師"在這個壓縮空間里創(chuàng)作新內容，最后再由"解壓師"把密碼還原成我們能看到的圖像。這個過程中的"壓縮師"和"解壓師"就是本研究的主角——視覺標記器（Visual Tokenizer），它們決定了整個系統(tǒng)的效率和質量。

Meta研究團隊發(fā)現(xiàn)了一個有趣的現(xiàn)象：盡管AI界一直在瘋狂提升"生成師"的能力，投入巨大資源訓練越來越大的生成模型，但對于同樣重要的"壓縮師"和"解壓師"卻關注不夠。這就像大家都在研究如何制造更好的汽車發(fā)動機，卻忽略了輪胎和剎車系統(tǒng)的重要性。

為了填補這個空白，研究團隊開發(fā)了一種名為ViTok（Vision Transformer Tokenizer）的新型視覺標記器。與傳統(tǒng)主要基于卷積神經網絡的方法不同，ViTok采用了更現(xiàn)代的Transformer架構，就像用最新的數(shù)字相機替代了膠片相機。更重要的是，他們在大規(guī)模數(shù)據(jù)上訓練這個系統(tǒng)，遠超過以往研究使用的ImageNet-1K數(shù)據(jù)集的規(guī)模，相當于用海量樣本來訓練這個"壓縮專家"。

一、擴展瓶頸的秘密：浮點數(shù)總量才是關鍵

研究團隊的第一個重要發(fā)現(xiàn)顛覆了人們的傳統(tǒng)認知。他們發(fā)現(xiàn)，在視覺壓縮系統(tǒng)中，真正影響重建質量的不是模型有多復雜，不是使用了多少計算資源，而是一個看似簡單的數(shù)字——壓縮后總共用了多少個浮點數(shù)來存儲信息。

這個發(fā)現(xiàn)就像發(fā)現(xiàn)了烘焙的根本法則。以前大家可能覺得烤蛋糕的成功與否取決于烤箱有多高級、攪拌器轉速多快、烘焙師技術多嫻熟。但研究團隊發(fā)現(xiàn)，真正決定蛋糕質量的竟然是一個更基礎的因素——總共用了多少克面粉。無論你用什么方式處理，無論設備多么先進，面粉總量才是蛋糕品質的根本決定因素。

具體來說，研究團隊定義了一個關鍵參數(shù)E，它等于壓縮后的序列長度乘以每個位置的通道數(shù)（E = L × c）。這個E值就像是分配給壓縮任務的"預算總額"。研究團隊通過大量實驗發(fā)現(xiàn)，無論怎么調整其他參數(shù)——比如改變圖像分塊大小、調整模型復雜度、增加計算量——只要E值相同，最終的重建質量就基本相同。

這個發(fā)現(xiàn)的意義是巨大的。傳統(tǒng)上，研究人員可能會花大量時間和資源去調試各種復雜的模型結構，就像廚師花費精力研究各種復雜的烹飪技巧。但現(xiàn)在發(fā)現(xiàn)，關鍵其實在于一個簡單明了的資源分配問題：你愿意用多少"存儲空間"來保存壓縮后的信息。

研究團隊在ImageNet-1K和COCO數(shù)據(jù)集上進行了詳細測試，結果顯示E值與重建質量指標（如FID、SSIM、PSNR等）呈現(xiàn)出強烈的對數(shù)關系。當E值翻倍時，重建質量會顯著提升；當E值減半時，重建質量會明顯下降。這種關系非常穩(wěn)定，幾乎不受其他因素影響。

更有趣的是，研究團隊還發(fā)現(xiàn)了分辨率擴展的規(guī)律。當從256像素分辨率擴展到512像素分辨率時，要保持同等的重建質量，需要將E值增加4倍。這就像制作更大尺寸的照片需要更高的存儲容量一樣，遵循著清晰的數(shù)學關系。

這個發(fā)現(xiàn)為未來的系統(tǒng)設計提供了明確的指導原則：與其花大量精力調試復雜的模型結構，不如直接根據(jù)質量需求來計算所需的E值，然后相應地分配存儲資源。這就像建房子時，先根據(jù)居住需求確定總面積，再考慮具體的房間布局，而不是反過來先糾結房間形狀再考慮總面積。

二、生成任務中的復雜平衡藝術

當研究團隊將注意力轉向生成任務時，他們發(fā)現(xiàn)了一個更加復雜和微妙的情況。如果說重建任務像是臨摹畫作——越精確越好，那么生成任務就像是原創(chuàng)藝術創(chuàng)作——需要在多個目標之間找到精妙的平衡點。

在重建任務中表現(xiàn)出色的簡單線性關系，在生成任務中變得復雜多了。研究團隊發(fā)現(xiàn)，E值與生成質量之間不再是單純的"越大越好"關系，而是呈現(xiàn)出一種鐘形曲線的模式。就像調制雞尾酒一樣，各種原料都需要精確的比例，過多或過少都會破壞整體的平衡。

具體來說，當E值過小時，壓縮系統(tǒng)無法保存足夠的信息，導致重建質量差，進而影響生成效果。這就像給畫家的顏料太少，無法創(chuàng)作出豐富的作品。但當E值過大時，特別是通道數(shù)c過大時，會給生成模型帶來訓練困難，反而降低生成質量。這就像給畫家太多顏料選擇，反而讓創(chuàng)作變得困難和混亂。

研究團隊通過實驗發(fā)現(xiàn)了每種配置的最佳平衡點。對于16×16的分塊方式，最佳配置是E=4096且c=16；對于8×8分塊，最佳配置是E=4096且c=4；對于32×32分塊，最佳配置是E=2048且c=32。這些看似任意的數(shù)字背后，實際上反映了壓縮信息量與生成模型學習能力之間的精妙平衡。

更有趣的是，分類器無關指導（Classifier-Free Guidance，CFG）技術可以在一定程度上緩解這個問題。CFG就像是給生成過程加了一個"智能助手"，能夠幫助模型更好地理解和利用壓縮后的信息。當使用更高的CFG權重時，不同E值之間的生成質量差異會顯著縮小，這為實際應用提供了額外的調節(jié)空間。

這個發(fā)現(xiàn)揭示了當前視覺生成系統(tǒng)中的一個根本性權衡：壓縮效率與生成質量之間存在著復雜的相互關系。要獲得最佳的整體性能，不能簡單地最大化任何單一指標，而需要綜合考慮重建質量、生成質量、計算效率等多個因素。

研究團隊還觀察到一個重要現(xiàn)象：當壓縮過度時（E值過大，特別是c值過大），即使重建質量很好，生成出來的內容也會出現(xiàn)各種異常。這說明生成模型有自己的"舒適區(qū)"，超出這個區(qū)域就很難產生自然的結果。

三、編碼器與解碼器的擴展規(guī)律探索

在探索了壓縮瓶頸的規(guī)律后，研究團隊轉向了一個同樣重要的問題：在視覺壓縮系統(tǒng)中，"壓縮師"（編碼器）和"解壓師"（解碼器）各自扮演什么角色？應該把計算資源更多地分配給誰？

這個問題就像組建一個搬家團隊：應該雇傭更多的打包工人，還是更多的運輸司機，或者是更多的拆包整理工人？直覺上，我們可能認為每個環(huán)節(jié)都同樣重要，但研究結果卻揭示了一個令人意外的不對稱模式。

研究團隊設計了一系列對比實驗，分別測試了不同規(guī)模的編碼器和解碼器組合。他們使用了三種規(guī)模：小型（S）、基礎（B）和大型（L），參數(shù)量從4330萬到3.84億不等。通過系統(tǒng)性的組合測試，他們發(fā)現(xiàn)了編碼器和解碼器在重建與生成任務中的不同價值。

關于編碼器的發(fā)現(xiàn)頗為意外。無論是在重建任務還是生成任務中，增大編碼器的規(guī)模幾乎不會帶來任何性能提升，有時甚至會產生輕微的負面影響。這就像發(fā)現(xiàn)搬家時雇傭更多的打包工人并不會讓整個搬家過程更高效一樣令人驚訝。

更深入的分析揭示了這個現(xiàn)象的原因。視覺壓縮中的編碼過程相對簡單直接——主要是提取和壓縮原始圖像中的關鍵信息。這個任務并不需要太多的"思考"能力，一個適中規(guī)模的編碼器就足以完成。過度復雜的編碼器不僅浪費計算資源，還可能產生過于復雜的中間表示，反而給后續(xù)的解碼和生成過程帶來困擾。

解碼器的情況則完全不同。研究團隊發(fā)現(xiàn)，增大解碼器規(guī)模能夠顯著提升重建質量，各項重建指標都呈現(xiàn)出與解碼器規(guī)模的強相關性。這個發(fā)現(xiàn)符合直覺：解碼器需要從壓縮的表示中"想象"出完整的圖像細節(jié)，這個過程需要更多的計算能力和表示能力。

但在生成任務中，解碼器擴展的效果變得復雜起來。雖然更大的解碼器確實能帶來一些改善，但提升幅度遠不如在重建任務中那么顯著。這暗示了一個重要觀點：在生成流水線中，解碼器的作用可能更像是一個"協(xié)同生成器"而非單純的解壓工具。

研究團隊還發(fā)現(xiàn)了一個有趣的效率對比。即使將解碼器規(guī)模從基礎版本擴展到大型版本，帶來的性能提升也不如簡單地將E值翻倍。例如，將解碼器從B規(guī)模擴展到L規(guī)?？赡軐⒅亟‵ID從1.6降低到1.3，但將E值從4096增加到8192可以將FID直接降低到0.8。這個發(fā)現(xiàn)強調了合理分配"存儲預算"比單純擴展模型規(guī)模更重要。

這些發(fā)現(xiàn)為實際系統(tǒng)設計提供了清晰的指導：應該使用相對緊湊的編碼器來節(jié)省計算資源，將重點放在解碼器的優(yōu)化上，但最重要的仍然是合理設定壓縮瓶頸的大小。這種不對稱的設計思路打破了"所有組件都需要同等規(guī)模"的傳統(tǒng)觀念，提供了更高效的資源分配策略。

四、解碼器的雙重身份之謎

在深入研究解碼器擴展規(guī)律的過程中，研究團隊意外發(fā)現(xiàn)了一個令人深思的現(xiàn)象：解碼器似乎具有雙重身份。它不僅僅是一個簡單的"解壓工具"，更像是一個具有創(chuàng)造能力的"藝術家"。

這個發(fā)現(xiàn)源于對不同損失函數(shù)的系統(tǒng)性研究。傳統(tǒng)的視覺壓縮系統(tǒng)主要關注"忠實重現(xiàn)"——即解碼結果與原始輸入越相似越好。但現(xiàn)代生成系統(tǒng)還需要考慮"視覺質量"——即生成的內容看起來是否自然和吸引人。這就像攝影師不僅要追求技術準確性，還要考慮藝術美感一樣。

研究團隊設計了一系列實驗來探索這種權衡關系。他們調整了訓練過程中不同損失函數(shù)的權重，包括基礎的均方誤差損失（追求像素級準確性）、感知損失（追求視覺相似性）和對抗損失（追求生成質量）。結果揭示了一個清晰的權衡模式：當系統(tǒng)更多地追求視覺質量時，傳統(tǒng)的像素級準確度指標（如SSIM和PSNR）會下降；但當追求像素級準確度時，視覺質量指標（如FID和IS）會惡化。

這種權衡關系就像調音師面臨的經典難題：是追求音符的絕對準確，還是追求音樂的整體美感？研究團隊發(fā)現(xiàn)，通過引入對抗訓練，可以顯著改善視覺質量指標。對抗訓練就像給解碼器配備了一個"藝術評委"，不斷督促它生成更自然、更吸引人的結果。

更重要的是，這種訓練方式的改變也影響了下游的生成效果。當解碼器經過對抗訓練后，整個生成流水線的最終輸出質量也會顯著提升。例如，在相同的E=4096配置下，經過對抗訓練的解碼器可以將生成任務的FID從5.5降低到4.9，同時將IS指標從160提升到210。

這個發(fā)現(xiàn)揭示了解碼器在現(xiàn)代視覺生成系統(tǒng)中的真實角色：它不僅是一個被動的解壓工具，更是生成流水線中的一個主動創(chuàng)造組件。當從壓縮表示重建圖像時，解碼器實際上在進行一種"有指導的創(chuàng)作"——它需要在有限的信息基礎上"想象"出完整的視覺細節(jié)。

這種雙重身份也解釋了為什么解碼器擴展在重建任務中效果顯著，而在生成任務中效果相對有限。在重建任務中，解碼器主要發(fā)揮"創(chuàng)作"能力，更大的模型確實能想象出更好的細節(jié)。但在生成任務中，主要的創(chuàng)作工作已經由專門的生成模型承擔，解碼器更多地扮演"協(xié)同創(chuàng)作者"的角色，因此單純增大其規(guī)模的收益有限。

研究團隊還發(fā)現(xiàn)，這種權衡關系在不同的E值和c值下表現(xiàn)一致，說明這是視覺壓縮系統(tǒng)的一個基本特性。無論采用什么配置，都需要在忠實重現(xiàn)和視覺質量之間找到合適的平衡點。這為未來的系統(tǒng)設計提供了重要指導：需要根據(jù)具體應用場景來選擇合適的權衡點，而不是盲目追求任何單一指標的最優(yōu)化。

五、視頻領域的規(guī)律延伸與獨特發(fā)現(xiàn)

當研究團隊將探索范圍擴展到視頻領域時，他們發(fā)現(xiàn)了一些既符合預期又令人驚喜的現(xiàn)象。視頻壓縮就像是圖像壓縮的"升級版"——不僅要處理空間維度的信息，還要處理時間維度的動態(tài)變化，這就像從拍攝靜態(tài)照片升級到制作動態(tài)電影一樣。

在視頻領域，E值與重建質量的關系依然保持了圖像領域發(fā)現(xiàn)的強相關性。無論是靜態(tài)的幀間FID還是專門的視頻質量指標FVD（Fréchet Video Distance），都與E值呈現(xiàn)出穩(wěn)定的對數(shù)關系。這證明了之前發(fā)現(xiàn)的基本規(guī)律具有跨領域的通用性，就像物理定律在不同環(huán)境中都能適用一樣。

但視頻領域也展現(xiàn)出了自己的獨特優(yōu)勢。研究團隊發(fā)現(xiàn)，要達到與256像素靜態(tài)圖像相似的重建質量，視頻序列并不需要16倍的E值（對應16幀的倍數(shù)），而只需要4到8倍左右。這個發(fā)現(xiàn)揭示了視頻數(shù)據(jù)中存在的天然冗余性——連續(xù)幀之間的相似性為壓縮提供了額外的優(yōu)勢。

這就像壓縮一本書的時候，如果每一頁都完全不同，就需要為每頁分配相同的存儲空間；但如果很多頁面內容相似或重復，就可以利用這種相似性來節(jié)省存儲空間。視頻中的時間連貫性為ViTok提供了類似的優(yōu)勢，使其能夠在保持質量的同時實現(xiàn)更高的壓縮效率。

研究團隊還探索了視頻長度對壓縮效率的影響。他們測試了16幀、32幀和64幀的不同長度視頻，發(fā)現(xiàn)了一個有趣的規(guī)律：在固定的壓縮率（像素每通道比例）下，更長的視頻序列能夠達到更好的重建質量。這進一步證實了視頻數(shù)據(jù)中時間冗余的價值——更長的序列提供了更多的時間上下文信息，有助于系統(tǒng)更好地理解和重建視頻內容。

在空間和時間壓縮的權衡方面，研究團隊發(fā)現(xiàn)了另一個實用性很強的結論。對于固定的E值，調整空間分辨率（通過改變分塊大小p）和時間分辨率（通過改變時間步長q）對最終質量的影響相對有限。這意味著系統(tǒng)設計人員可以根據(jù)計算資源和應用需求來靈活選擇空間-時間壓縮的具體配比，而不必擔心顯著的質量損失。

視頻生成方面的實驗結果同樣令人鼓舞。使用ViTok訓練的視頻生成模型在UCF-101數(shù)據(jù)集上達到了最先進的性能水平。特別是在1024token配置下，gFVD指標達到了27.44，在512token的更高壓縮率下，gFVD為52.71，這些結果在當時都是同類方法中的最優(yōu)表現(xiàn)。

研究團隊還注意到視頻處理中的一個技術細節(jié)：他們采用逐幀處理的方式來計算感知損失和GAN損失，而不是直接在3D視頻塊上計算。這種設計選擇既保持了訓練的穩(wěn)定性，又充分利用了現(xiàn)有的2D損失函數(shù)，為視頻處理提供了一個實用的技術路徑。

這些視頻領域的發(fā)現(xiàn)不僅驗證了圖像領域規(guī)律的普遍性，還揭示了視頻數(shù)據(jù)的獨特優(yōu)勢。對于未來的多模態(tài)生成系統(tǒng)，這些發(fā)現(xiàn)提供了重要的設計指導：可以期待視頻tokenizer在相同的計算預算下達到比圖像tokenizer更高的壓縮效率，這為大規(guī)模視頻生成應用提供了更加樂觀的前景。

六、與現(xiàn)有方法的全面性能對比

為了驗證ViTok在實際應用中的價值，研究團隊進行了全面的性能對比實驗。這就像新車上市前需要在各種道路條件下與競爭對手進行詳細的性能測試一樣，只有通過系統(tǒng)性的對比才能真正證明新方法的優(yōu)勢所在。

在256像素圖像重建任務中，ViTok展現(xiàn)出了令人印象深刻的性能。與廣泛使用的SD-VAE相比，ViTok S-B/16配置在ImageNet-1K數(shù)據(jù)集上將rFID從0.78降低到0.50，在COCO數(shù)據(jù)集上從4.63降低到3.94。更重要的是，ViTok實現(xiàn)這些性能提升的同時，計算開銷顯著降低——相比SD-VAE的162.2 GFLOPs，ViTok只需要34.8 GFLOPs，效率提升了近5倍。

這種效率優(yōu)勢在512像素圖像上更加突出。ViTok S-B/16在512像素重建中保持了與SD-VAE相當?shù)膔FID性能（0.18 vs 0.19），但計算開銷從653.8 GFLOPs大幅降低到160.8 GFLOPs，效率提升超過4倍。這種計算效率的提升對于實際部署特別重要，意味著相同的硬件資源可以處理更多的任務或支持更大規(guī)模的應用。

在視頻重建領域，ViTok的表現(xiàn)同樣亮眼。在UCF-101數(shù)據(jù)集的128像素16幀視頻重建任務中，ViTok S-B/4x8達到了8.04的rFVD，顯著超越了現(xiàn)有的最佳方法MAGViTv2的16.12。同時，ViTok還在其他壓縮率下保持了競爭力：S-B/8x8配置在512token下達到20.05 rFVD，S-B/4x16配置在256token下達到53.98 rFVD。

特別值得注意的是計算效率的對比。與基于Transformer的LARP方法相比，ViTok在達到相似性能的同時，GFLOPs消耗大幅降低——從505.3 GFLOPs降低到160.8 GFLOPs，這種效率提升為實際應用提供了更大的可行性。

在生成任務的評估中，ViTok同樣展現(xiàn)了競爭力。在256像素圖像生成中，ViTok達到了2.45的gFID和284.39的gIS，與傳統(tǒng)的SD-VAE+DiT組合（2.27 gFID，278.24 gIS）性能相當。在512像素生成中，ViTok的gFID為3.41，雖然略高于SD-VAE的3.04，但考慮到顯著的計算效率優(yōu)勢，這種性能權衡是合理的。

視頻生成方面的表現(xiàn)更加突出。在UCF-101數(shù)據(jù)集的128像素16幀視頻生成任務中，ViTok S-B/4x8在1024token配置下達到了27.44的gFVD，創(chuàng)造了新的最佳記錄。即使在更高壓縮率的512token配置下，gFVD為52.71，仍然保持了強競爭力。

這些對比結果揭示了ViTok的幾個關鍵優(yōu)勢。首先是計算效率的顯著提升——在保持相當性能的同時大幅降低了計算開銷。其次是擴展性更好——無論是圖像還是視頻，無論是重建還是生成，ViTok都展現(xiàn)了穩(wěn)定的性能表現(xiàn)。第三是實用性更強——更低的計算需求使得ViTok更容易在資源受限的環(huán)境中部署。

研究團隊還注意到，這些性能優(yōu)勢并不是通過犧牲質量來獲得的，而是通過更深入理解壓縮機制、更合理的架構設計和更高效的訓練策略來實現(xiàn)的。這證明了深入的理論研究對于推動實際技術進步的重要價值。

說到底，這項來自Meta的研究為我們揭示了視覺AI系統(tǒng)中一個長期被忽視但至關重要的組件——視覺標記器的深層運作規(guī)律。研究團隊通過大規(guī)模實驗發(fā)現(xiàn)，決定壓縮質量的核心因素竟然是一個相對簡單的數(shù)值：壓縮后總浮點數(shù)的數(shù)量。這個發(fā)現(xiàn)就像發(fā)現(xiàn)了烹飪中面粉用量決定蛋糕質量的基本法則一樣，為整個領域提供了清晰而實用的指導原則。

更令人深思的是，研究揭示了編碼器和解碼器在系統(tǒng)中的不對稱作用：編碼器像一個高效的信息提取器，適中的規(guī)模就足夠勝任工作；而解碼器更像一個富有想象力的藝術家，需要更強的能力來從有限信息中重建完整的視覺世界。這種認識打破了"所有組件都需要等量擴展"的傳統(tǒng)思維，為更高效的系統(tǒng)設計指明了方向。

ViTok的成功不僅體現(xiàn)在性能數(shù)字上——在保持相當質量的同時實現(xiàn)2到5倍的計算效率提升，更重要的是它證明了理論理解對技術進步的推動作用。通過深入探索壓縮機制的本質規(guī)律，研究團隊開發(fā)出了既高效又實用的解決方案，為視頻生成、圖像處理等應用領域開辟了新的可能性。

這項研究的意義遠超技術本身。在AI技術快速發(fā)展的當下，很多團隊都在追求模型規(guī)模的無限擴大，但這項工作提醒我們：有時候最大的突破來自于對基本問題的深入思考。就像建筑師不僅要考慮建筑的外觀，更要理解結構力學的基本原理一樣，AI系統(tǒng)的進步也需要我們回到根本問題上來。

對于普通用戶來說，這項研究的成果最終會體現(xiàn)在更快速、更高質量的AI圖像和視頻生成體驗上。無論是社交媒體上的AI濾鏡，還是專業(yè)的內容創(chuàng)作工具，都有望因為這些基礎技術的進步而變得更加強大和易用。感興趣的讀者可以通過項目主頁https://vitok.github.io了解更多技術細節(jié)和最新進展。

Q&A

Q1：ViTok與傳統(tǒng)的SD-VAE等方法相比有什么優(yōu)勢？

A：ViTok最大的優(yōu)勢是計算效率的大幅提升。在保持相當重建和生成質量的同時，ViTok的計算開銷比SD-VAE降低了2-5倍。同時ViTok在視頻處理方面表現(xiàn)更優(yōu)秀，能夠更好地利用視頻數(shù)據(jù)中的時間冗余信息，在UCF-101數(shù)據(jù)集上創(chuàng)造了新的最佳記錄。

Q2：什么是決定視覺壓縮質量的關鍵因素E值？

A：E值是壓縮后序列長度乘以通道數(shù)的結果，代表了壓縮信息的總存儲容量。研究發(fā)現(xiàn)，無論模型多復雜、計算資源多豐富，只要E值相同，重建質量就基本相同。這就像烘焙中面粉總量決定蛋糕質量一樣，E值是視覺壓縮系統(tǒng)中的根本決定因素。

Q3：為什么在ViTok中編碼器規(guī)模對性能影響不大，而解碼器影響較大？

A：編碼器主要負責信息提取和壓縮，這個過程相對直接，適中規(guī)模就足夠完成任務。而解碼器需要從壓縮信息中"想象"出完整的視覺細節(jié)，更像一個創(chuàng)造性的藝術家，需要更強的表示能力。過大的編碼器反而可能產生過于復雜的表示，給后續(xù)處理帶來困擾。