在全球化日益深入的今天，人們?cè)谌粘＝涣髦性絹?lái)越頻繁地混合使用多種語(yǔ)言。比如一個(gè)華人可能會(huì)說(shuō)"今天的meeting很重要"，或者一個(gè)阿拉伯人可能寫(xiě)道"這個(gè)project真的很challenging"。這種在同一句話中切換使用不同語(yǔ)言的現(xiàn)象，語(yǔ)言學(xué)家稱(chēng)之為"代碼轉(zhuǎn)換"。隨著大語(yǔ)言模型越來(lái)越多地處理我們的日常文本，它們能否真正理解這種混合語(yǔ)言就變得至關(guān)重要。

來(lái)自阿聯(lián)酋穆罕默德·本·扎耶德人工智能大學(xué)（MBZUAI）和法國(guó)巴黎綜合理工學(xué)院的研究團(tuán)隊(duì)，于2025年6月發(fā)表了一項(xiàng)開(kāi)創(chuàng)性研究，系統(tǒng)性地測(cè)試了當(dāng)前主流大語(yǔ)言模型處理代碼轉(zhuǎn)換文本的真實(shí)能力。這項(xiàng)研究由MBZUAI的Amr Mohamed和Guokan Shang領(lǐng)導(dǎo)，聯(lián)合巴黎綜合理工學(xué)院的Yang Zhang和Michalis Vazirgiannis共同完成。研究成果發(fā)表在計(jì)算語(yǔ)言學(xué)領(lǐng)域的頂級(jí)會(huì)議上，完整論文可通過(guò)arXiv:2506.14012v1獲取。

這項(xiàng)研究的獨(dú)特之處在于，它不僅考察了大語(yǔ)言模型在混合語(yǔ)言環(huán)境下的表現(xiàn)，還深入探討了不同類(lèi)型的語(yǔ)言混合對(duì)模型理解能力的具體影響。研究團(tuán)隊(duì)發(fā)現(xiàn)了一個(gè)令人意外的現(xiàn)象：當(dāng)在英語(yǔ)句子中插入其他語(yǔ)言的詞匯時(shí)，模型的理解能力會(huì)顯著下降；但當(dāng)在其他語(yǔ)言的句子中插入英語(yǔ)詞匯時(shí)，模型的表現(xiàn)反而可能會(huì)提升。這種不對(duì)稱(chēng)現(xiàn)象揭示了當(dāng)前AI系統(tǒng)在多語(yǔ)言處理方面存在的深層結(jié)構(gòu)性偏見(jiàn)。

一、當(dāng)AI遇到"混搭語(yǔ)言"：?jiǎn)栴}比想象中更復(fù)雜

要理解這項(xiàng)研究的重要性，我們首先需要認(rèn)識(shí)代碼轉(zhuǎn)換這個(gè)現(xiàn)象有多普遍。代碼轉(zhuǎn)換并不是簡(jiǎn)單的"中英文混雜"，而是遵循特定語(yǔ)言學(xué)規(guī)律的復(fù)雜現(xiàn)象。就像廚師在烹飪時(shí)會(huì)遵循特定的配菜原則一樣，說(shuō)話者在混合使用語(yǔ)言時(shí)也會(huì)無(wú)意識(shí)地遵循某些語(yǔ)法規(guī)則。

語(yǔ)言學(xué)家們?cè)缇桶l(fā)現(xiàn)，代碼轉(zhuǎn)換有其內(nèi)在規(guī)律。比如"等價(jià)約束理論"告訴我們，語(yǔ)言切換通常發(fā)生在兩種語(yǔ)言的語(yǔ)法結(jié)構(gòu)兼容的位置。這就像兩條不同的鐵軌需要在某個(gè)特定點(diǎn)才能平滑連接，不是任何地方都可以隨意切換的。另一個(gè)重要理論是"母語(yǔ)框架模型"，它認(rèn)為在混合語(yǔ)言中，總有一種語(yǔ)言充當(dāng)"主框架"，負(fù)責(zé)提供句子的基本語(yǔ)法結(jié)構(gòu)，而另一種語(yǔ)言只是"客串"，插入一些詞匯但不破壞整體結(jié)構(gòu)。

然而，盡管我們對(duì)代碼轉(zhuǎn)換的語(yǔ)言學(xué)原理有了深入了解，但對(duì)于大語(yǔ)言模型如何處理這種混合語(yǔ)言，我們的認(rèn)知還相當(dāng)有限?，F(xiàn)有的評(píng)估基準(zhǔn)主要關(guān)注表面層次的任務(wù)，比如識(shí)別哪些詞屬于哪種語(yǔ)言，或者分析句子的情感傾向，卻很少深入考察模型是否真正理解混合語(yǔ)言文本的深層含義。

這就像只測(cè)試一個(gè)人能否識(shí)別菜譜中的中文和英文詞匯，卻不測(cè)試他是否真的理解這道菜應(yīng)該怎么做。研究團(tuán)隊(duì)意識(shí)到，我們需要更深入、更全面的評(píng)估方法來(lái)真正了解大語(yǔ)言模型的混合語(yǔ)言理解能力。

二、巧妙的實(shí)驗(yàn)設(shè)計(jì)：讓AI"考試"暴露真實(shí)水平

為了系統(tǒng)性地測(cè)試大語(yǔ)言模型的代碼轉(zhuǎn)換理解能力，研究團(tuán)隊(duì)設(shè)計(jì)了一套精巧的實(shí)驗(yàn)方案。他們的核心思路是：既然我們有很多成熟的英語(yǔ)理解測(cè)試，為什么不把它們"改造"成混合語(yǔ)言版本，然后看看模型的表現(xiàn)會(huì)如何變化？

研究團(tuán)隊(duì)選擇了三個(gè)具有代表性的測(cè)試基準(zhǔn)。第一個(gè)是Belebele，專(zhuān)門(mén)測(cè)試閱讀理解能力，就像給學(xué)生一篇文章然后問(wèn)幾個(gè)理解性問(wèn)題。第二個(gè)是MMLU，涵蓋了從歷史到科學(xué)的57個(gè)不同知識(shí)領(lǐng)域，就像一個(gè)超級(jí)全面的知識(shí)競(jìng)賽。第三個(gè)是XNLI，測(cè)試的是自然語(yǔ)言推理能力，也就是給模型兩個(gè)句子，讓它判斷它們之間的邏輯關(guān)系。

接下來(lái)的關(guān)鍵問(wèn)題是：如何創(chuàng)造出高質(zhì)量的混合語(yǔ)言測(cè)試文本？研究團(tuán)隊(duì)開(kāi)發(fā)了兩種不同的方法。

第一種方法他們稱(chēng)為"名詞替換法"，嚴(yán)格遵循語(yǔ)言學(xué)理論。這種方法就像一個(gè)精細(xì)的手術(shù)，只在語(yǔ)法允許的特定位置進(jìn)行語(yǔ)言切換。具體來(lái)說(shuō)，他們會(huì)找到英語(yǔ)句子中的名詞，然后用其他語(yǔ)言的對(duì)應(yīng)詞匯替換，但要確保這種替換不會(huì)破壞句子的整體語(yǔ)法結(jié)構(gòu)。比如將"Hume says that beauty is a quality"改為"Hume says that ?????? is a quality"，其中??????是阿拉伯語(yǔ)的"美"。

第二種方法他們稱(chēng)為"比例替換法"，故意不遵循語(yǔ)言學(xué)規(guī)律。這種方法就像隨機(jī)在句子中灑胡椒粉，大約替換20%的詞匯，不管語(yǔ)法是否合理。這樣做的目的是為了對(duì)比：到底是語(yǔ)言學(xué)規(guī)律重要，還是混合語(yǔ)言本身就會(huì)給模型造成困擾？

在具體的文本生成過(guò)程中，研究團(tuán)隊(duì)還比較了兩種不同的技術(shù)路線。一種是基于傳統(tǒng)的詞匯對(duì)齊技術(shù)，就像使用翻譯詞典來(lái)尋找對(duì)應(yīng)詞匯。另一種是完全依靠大語(yǔ)言模型本身，讓Claude這樣的先進(jìn)模型來(lái)完成語(yǔ)言混合任務(wù)。經(jīng)過(guò)仔細(xì)比較，他們發(fā)現(xiàn)后者生成的混合語(yǔ)言文本更加自然流暢，因此在正式實(shí)驗(yàn)中采用了這種方法。

為了確保實(shí)驗(yàn)的公平性和可靠性，研究團(tuán)隊(duì)還讓GPT-4o對(duì)生成的文本質(zhì)量進(jìn)行盲評(píng)，確保所有的混合語(yǔ)言文本都達(dá)到了相當(dāng)?shù)馁|(zhì)量標(biāo)準(zhǔn)。

三、令人意外的發(fā)現(xiàn)：英語(yǔ)的"特殊地位"暴露無(wú)遺

實(shí)驗(yàn)結(jié)果揭示了一個(gè)既令人意外又發(fā)人深省的現(xiàn)象。當(dāng)研究團(tuán)隊(duì)在英語(yǔ)文本中插入阿拉伯語(yǔ)、德語(yǔ)、法語(yǔ)或中文詞匯時(shí)，幾乎所有測(cè)試的大語(yǔ)言模型都出現(xiàn)了性能下降。這種下降是普遍性的，不管是小型的30億參數(shù)模型還是大型的700億參數(shù)模型，不管是Llama、Qwen還是Mistral系列，都無(wú)法幸免。

具體來(lái)看，當(dāng)LLaMA-70B處理英語(yǔ)文本時(shí)，它的綜合準(zhǔn)確率能達(dá)到70%。但一旦在其中混入阿拉伯語(yǔ)或德語(yǔ)詞匯，準(zhǔn)確率就下降到66%，相當(dāng)于下降了4個(gè)百分點(diǎn)。對(duì)于較小的模型，這種下降更加明顯。比如LLaMA-3B在純英語(yǔ)文本上能達(dá)到54%的準(zhǔn)確率，但在混合語(yǔ)言條件下降至47%，下降幅度高達(dá)7個(gè)百分點(diǎn)。

更有趣的是，研究團(tuán)隊(duì)發(fā)現(xiàn)，即使嚴(yán)格遵循語(yǔ)言學(xué)理論的"名詞替換法"和完全隨意的"比例替換法"，造成的性能下降程度竟然相當(dāng)接近。這個(gè)發(fā)現(xiàn)打破了一個(gè)常見(jiàn)的假設(shè)：許多人認(rèn)為只要遵循語(yǔ)言學(xué)規(guī)律，混合語(yǔ)言就不會(huì)給模型造成太大困擾。但實(shí)驗(yàn)結(jié)果表明，問(wèn)題的根源可能更加深層。

然而，當(dāng)研究團(tuán)隊(duì)反過(guò)來(lái)實(shí)驗(yàn)——在其他語(yǔ)言的文本中插入英語(yǔ)詞匯時(shí)，結(jié)果卻截然不同。這種"反向操作"往往會(huì)改善模型的表現(xiàn)，特別是對(duì)于那些在非英語(yǔ)文本上表現(xiàn)不佳的模型。

以Mistral-7B為例，它在純阿拉伯語(yǔ)文本上的準(zhǔn)確率只有35%，但當(dāng)在阿拉伯語(yǔ)文本中插入一些英語(yǔ)詞匯后，準(zhǔn)確率竟然提升到了48%，提升幅度達(dá)到13個(gè)百分點(diǎn)。類(lèi)似的現(xiàn)象在中文、法語(yǔ)和德語(yǔ)中也都能觀察到。這種現(xiàn)象就像給一個(gè)在黑暗中摸索的人遞上了手電筒，英語(yǔ)詞匯似乎充當(dāng)了"理解錨點(diǎn)"的作用。

這種不對(duì)稱(chēng)現(xiàn)象清楚地揭示了當(dāng)前大語(yǔ)言模型的一個(gè)根本性偏見(jiàn)：它們對(duì)英語(yǔ)的依賴程度遠(yuǎn)超我們的想象。這并不奇怪，因?yàn)榇蠖鄶?shù)模型的訓(xùn)練數(shù)據(jù)中，英語(yǔ)文本占據(jù)了絕對(duì)主導(dǎo)地位。但這種偏見(jiàn)的存在意味著，當(dāng)英語(yǔ)作為"主角"時(shí)，任何"外來(lái)干擾"都會(huì)降低模型的理解能力；而當(dāng)其他語(yǔ)言作為"主角"時(shí)，英語(yǔ)的出現(xiàn)反而起到了"救援"作用。

四、極限測(cè)試：多語(yǔ)言混合的復(fù)雜挑戰(zhàn)

為了進(jìn)一步探索大語(yǔ)言模型的極限，研究團(tuán)隊(duì)設(shè)計(jì)了"極限代碼轉(zhuǎn)換"實(shí)驗(yàn)。如果說(shuō)前面的實(shí)驗(yàn)是"小試牛刀"，那么這個(gè)實(shí)驗(yàn)就是"真正的挑戰(zhàn)"。

他們?cè)谕粋€(gè)英語(yǔ)句子中同時(shí)混入多種不同的語(yǔ)言。具體設(shè)置了三種情況：第一種是混合非拉丁文字的語(yǔ)言組合，包括阿拉伯語(yǔ)和中文；第二種是混合拉丁文字的語(yǔ)言組合，包括法語(yǔ)和德語(yǔ)；第三種是"終極混合"，同時(shí)包含阿拉伯語(yǔ)、中文、法語(yǔ)和德語(yǔ)四種語(yǔ)言。

這樣的實(shí)驗(yàn)設(shè)計(jì)就像讓一個(gè)人同時(shí)處理四種不同口音的英語(yǔ)對(duì)話，難度可想而知。實(shí)驗(yàn)結(jié)果顯示，所有模型在這種極限條件下都出現(xiàn)了進(jìn)一步的性能下降，但下降程度并不像預(yù)期的那樣隨著語(yǔ)言數(shù)量的增加而線性增長(zhǎng)。

以LLaMA-70B為例，它在純英語(yǔ)MMLU測(cè)試中能達(dá)到77%的準(zhǔn)確率，但在三種極限混合條件下，準(zhǔn)確率分別降至72%、70%和70%。令人意外的是，最復(fù)雜的四語(yǔ)言混合（第三種情況）并沒(méi)有比兩語(yǔ)言混合表現(xiàn)更差。這個(gè)發(fā)現(xiàn)提示我們，模型的困擾可能不是來(lái)自語(yǔ)言種類(lèi)的數(shù)量，而是來(lái)自語(yǔ)言混合這個(gè)行為本身。

另一個(gè)有趣的發(fā)現(xiàn)是，不同文字系統(tǒng)（拉丁文字vs非拉丁文字）的混合并沒(méi)有顯示出明顯的難度差異。一些模型在處理阿拉伯語(yǔ)-中文組合時(shí)表現(xiàn)更好，而另一些模型則在法語(yǔ)-德語(yǔ)組合上表現(xiàn)更佳。這暗示文字系統(tǒng)的差異并不是影響模型理解的決定性因素。

五、深入分析：當(dāng)英語(yǔ)成為"拯救者"

為了更全面地理解語(yǔ)言混合的影響機(jī)制，研究團(tuán)隊(duì)進(jìn)行了一個(gè)特別有意思的"角色反轉(zhuǎn)"實(shí)驗(yàn)。他們讓英語(yǔ)從"主角"變成了"配角"，觀察會(huì)發(fā)生什么。

在這個(gè)實(shí)驗(yàn)中，阿拉伯語(yǔ)、德語(yǔ)、法語(yǔ)或中文成為了句子的主要語(yǔ)言（語(yǔ)言學(xué)上稱(chēng)為"矩陣語(yǔ)言"），而英語(yǔ)詞匯被插入其中作為"嵌入語(yǔ)言"。結(jié)果確實(shí)驗(yàn)證了前面的發(fā)現(xiàn)：英語(yǔ)詞匯的加入往往能改善模型的理解能力。

最顯著的例子來(lái)自那些在非英語(yǔ)文本上本來(lái)就表現(xiàn)不佳的模型。當(dāng)Mistral-7B處理純中文文本時(shí)，準(zhǔn)確率只有46%，但加入英語(yǔ)詞匯后能提升到53%，提升了7個(gè)百分點(diǎn)。這種現(xiàn)象在所有測(cè)試的語(yǔ)言中都能觀察到，只是程度有所不同。

特別值得注意的是，那些在某種語(yǔ)言上已經(jīng)表現(xiàn)很好的模型，加入英語(yǔ)詞匯的提升效果就不那么明顯了。比如ALLaM-7B在阿拉伯語(yǔ)上本來(lái)就很強(qiáng)，加入英語(yǔ)詞匯只帶來(lái)了微小的提升。這就像一個(gè)已經(jīng)很熟悉某個(gè)地方的人，即使有了GPS導(dǎo)航也不會(huì)有太大幫助，但對(duì)于初來(lái)乍到的人來(lái)說(shuō)，GPS就是救命稻草。

這種現(xiàn)象的背后機(jī)制其實(shí)不難理解。由于大語(yǔ)言模型的訓(xùn)練數(shù)據(jù)中英語(yǔ)占據(jù)絕對(duì)優(yōu)勢(shì)，模型對(duì)英語(yǔ)的內(nèi)部表征要比其他語(yǔ)言豐富和精確得多。當(dāng)英語(yǔ)詞匯出現(xiàn)在其他語(yǔ)言的文本中時(shí)，它們就像"認(rèn)知錨點(diǎn)"，幫助模型更好地理解整個(gè)句子的含義。

但這種不平衡也帶來(lái)了深層的擔(dān)憂。它意味著在多語(yǔ)言交流日益頻繁的今天，AI系統(tǒng)可能會(huì)無(wú)意中強(qiáng)化英語(yǔ)的主導(dǎo)地位，讓其他語(yǔ)言永遠(yuǎn)處于"依附"地位。這不僅是技術(shù)問(wèn)題，更是關(guān)系到語(yǔ)言公平性和文化多樣性的重要議題。

六、拯救方案：提示詞還是重新訓(xùn)練？

面對(duì)大語(yǔ)言模型在代碼轉(zhuǎn)換理解方面的不足，研究團(tuán)隊(duì)探索了兩種可能的改善策略。第一種是"提示詞引導(dǎo)法"，就像給模型一個(gè)事前提醒；第二種是"重新訓(xùn)練法"，通過(guò)專(zhuān)門(mén)的訓(xùn)練來(lái)增強(qiáng)模型的混合語(yǔ)言理解能力。

提示詞引導(dǎo)法的思路很直接：既然模型在處理混合語(yǔ)言時(shí)會(huì)困惑，那么我們就提前告訴它"接下來(lái)你會(huì)看到英語(yǔ)和阿拉伯語(yǔ)的混合文本，請(qǐng)仔細(xì)理解"。這種方法就像給一個(gè)即將參加國(guó)際會(huì)議的人提前說(shuō)明"今天會(huì)有多種語(yǔ)言的發(fā)言"。

實(shí)驗(yàn)結(jié)果顯示，這種方法的效果因模型而異，呈現(xiàn)出明顯的"冰火兩重天"現(xiàn)象。對(duì)于Qwen系列模型，提示詞引導(dǎo)帶來(lái)了顯著的改善。Qwen-72B在接受提示后，處理混合語(yǔ)言的準(zhǔn)確率甚至超過(guò)了純英語(yǔ)基準(zhǔn)，這是一個(gè)相當(dāng)了不起的成就。Qwen-7B也有類(lèi)似的提升，特別是在英語(yǔ)-中文混合文本上，準(zhǔn)確率從57%提升到59%。

然而，對(duì)于LLaMA系列和Mistral模型，提示詞引導(dǎo)不僅沒(méi)有幫助，反而經(jīng)常起到反作用。LLaMA-8B在所有語(yǔ)言組合上的表現(xiàn)都因?yàn)樘崾驹~而下降，其中英語(yǔ)-法語(yǔ)組合從52%降到了48%。更戲劇性的是LLaMA-70B，在英語(yǔ)-阿拉伯語(yǔ)和英語(yǔ)-中文組合上分別下降了13和17個(gè)百分點(diǎn)，這是相當(dāng)大幅度的性能倒退。

這種差異化的表現(xiàn)揭示了不同模型架構(gòu)和訓(xùn)練策略的深層差異。一些模型能夠有效利用外部指導(dǎo)信息，而另一些模型則會(huì)被這種額外信息干擾，就像有些學(xué)生需要老師的詳細(xì)指導(dǎo)，而有些學(xué)生更適合獨(dú)立思考。

相比之下，重新訓(xùn)練的方法展現(xiàn)出了更穩(wěn)定和普遍的改善效果。研究團(tuán)隊(duì)選擇了LLaMA-8B作為實(shí)驗(yàn)對(duì)象，因?yàn)樗谔崾驹~引導(dǎo)方面表現(xiàn)不佳，正好可以驗(yàn)證重新訓(xùn)練的效果。

他們使用了來(lái)自TED演講的多語(yǔ)言平行語(yǔ)料庫(kù)，包含英語(yǔ)、阿拉伯語(yǔ)、中文、法語(yǔ)和德語(yǔ)。訓(xùn)練數(shù)據(jù)的構(gòu)建過(guò)程很巧妙：首先篩選出長(zhǎng)度超過(guò)70詞的英語(yǔ)句子及其對(duì)應(yīng)翻譯，然后使用前面開(kāi)發(fā)的方法生成代碼轉(zhuǎn)換版本，最終得到約14600個(gè)訓(xùn)練樣本。

為了防止模型過(guò)度擬合特定的指令格式，他們還設(shè)計(jì)了五種不同的提示模板，比如"將這個(gè)英語(yǔ)句子與阿拉伯語(yǔ)進(jìn)行代碼轉(zhuǎn)換"或"將以下英語(yǔ)文本與中文混合"。這種多樣化的訓(xùn)練就像讓學(xué)生練習(xí)不同類(lèi)型的題目，而不是只會(huì)做一種模式的題。

重新訓(xùn)練的效果是顯著且一致的。原本在代碼轉(zhuǎn)換文本上表現(xiàn)不佳的LLaMA-8B，經(jīng)過(guò)專(zhuān)門(mén)訓(xùn)練后在所有語(yǔ)言組合上都取得了改善。最大的提升出現(xiàn)在英語(yǔ)-阿拉伯語(yǔ)組合上，準(zhǔn)確率提高了4個(gè)百分點(diǎn)。雖然這種改善還沒(méi)有完全消除代碼轉(zhuǎn)換帶來(lái)的性能下降，但它證明了通過(guò)有針對(duì)性的訓(xùn)練，模型的混合語(yǔ)言理解能力是可以改善的。

七、深層反思：AI時(shí)代的語(yǔ)言公平問(wèn)題

這項(xiàng)研究的發(fā)現(xiàn)超越了純粹的技術(shù)層面，觸及了AI時(shí)代一個(gè)更深層的問(wèn)題：語(yǔ)言公平性。當(dāng)我們發(fā)現(xiàn)大語(yǔ)言模型對(duì)英語(yǔ)有著如此明顯的偏好時(shí)，我們不禁要問(wèn)：這種偏見(jiàn)會(huì)如何影響全球不同語(yǔ)言社區(qū)的人們？

研究結(jié)果清楚地表明，當(dāng)前的大語(yǔ)言模型存在一種結(jié)構(gòu)性的語(yǔ)言不平等。英語(yǔ)被視為"標(biāo)準(zhǔn)"，其他語(yǔ)言的混入被視為"干擾"。這種現(xiàn)象的根源在于訓(xùn)練數(shù)據(jù)的不平衡，但其影響卻可能是深遠(yuǎn)的。

考慮一個(gè)現(xiàn)實(shí)場(chǎng)景：一個(gè)阿拉伯語(yǔ)用戶在與AI助手交流時(shí)自然地混入一些英語(yǔ)詞匯，這在很多國(guó)際化社區(qū)中是完全正常的交流方式。但根據(jù)這項(xiàng)研究的發(fā)現(xiàn)，這種自然的語(yǔ)言使用習(xí)慣可能會(huì)得到AI系統(tǒng)更好的理解和回應(yīng)。相反，一個(gè)主要使用英語(yǔ)但偶爾混入其他語(yǔ)言詞匯的用戶，可能會(huì)發(fā)現(xiàn)AI的理解能力突然下降。

這種不對(duì)稱(chēng)現(xiàn)象可能會(huì)在不知不覺(jué)中強(qiáng)化某種語(yǔ)言使用模式，鼓勵(lì)人們?cè)谂cAI交互時(shí)更多地使用英語(yǔ)，從而進(jìn)一步鞏固英語(yǔ)的主導(dǎo)地位。這對(duì)于語(yǔ)言多樣性和文化保護(hù)來(lái)說(shuō)，可能不是一個(gè)好消息。

更值得擔(dān)憂的是，隨著AI生成的內(nèi)容越來(lái)越多地被回收利用作為新模型的訓(xùn)練數(shù)據(jù)，這種偏見(jiàn)可能會(huì)形成一個(gè)自我強(qiáng)化的循環(huán)。AI系統(tǒng)更傾向于生成符合其訓(xùn)練偏好的內(nèi)容，而這些內(nèi)容又會(huì)被用來(lái)訓(xùn)練下一代AI系統(tǒng)，從而使偏見(jiàn)得到進(jìn)一步加強(qiáng)。

然而，這項(xiàng)研究也為我們指明了改善的方向。重新訓(xùn)練實(shí)驗(yàn)的成功表明，通過(guò)有意識(shí)的努力，我們可以提高AI系統(tǒng)對(duì)混合語(yǔ)言的理解能力。這需要的不僅是技術(shù)上的改進(jìn)，更需要整個(gè)AI社區(qū)對(duì)語(yǔ)言公平性問(wèn)題的重視。

研究團(tuán)隊(duì)也坦誠(chéng)地指出了他們工作的局限性。他們主要關(guān)注的是基于名詞替換的代碼轉(zhuǎn)換，這只是真實(shí)世界中語(yǔ)言混合現(xiàn)象的一個(gè)子集。更復(fù)雜的語(yǔ)法層面混合、句子層面切換等現(xiàn)象還需要進(jìn)一步研究。此外，他們?cè)诜钦Z(yǔ)言學(xué)驅(qū)動(dòng)的實(shí)驗(yàn)中使用了固定的20%替換率，而實(shí)際的語(yǔ)言混合比例可能變化很大。

八、展望未來(lái)：向更公平的多語(yǔ)言AI邁進(jìn)

這項(xiàng)研究為我們理解和改善大語(yǔ)言模型的多語(yǔ)言能力提供了寶貴的洞察。它不僅揭示了當(dāng)前AI系統(tǒng)的局限性，也為未來(lái)的改進(jìn)指明了方向。

從技術(shù)角度來(lái)看，研究團(tuán)隊(duì)開(kāi)發(fā)的評(píng)估框架和生成方法為后續(xù)研究提供了重要工具。他們的工作表明，創(chuàng)建高質(zhì)量的混合語(yǔ)言評(píng)估數(shù)據(jù)集是可行的，而且這種評(píng)估對(duì)于全面了解模型能力是必要的。未來(lái)的研究可以在此基礎(chǔ)上擴(kuò)展到更多語(yǔ)言對(duì)、更復(fù)雜的混合模式，以及更多樣化的任務(wù)類(lèi)型。

從實(shí)用角度來(lái)看，這項(xiàng)研究的發(fā)現(xiàn)對(duì)AI應(yīng)用開(kāi)發(fā)者有著直接的指導(dǎo)意義。如果你正在開(kāi)發(fā)面向多語(yǔ)言用戶的AI應(yīng)用，就需要特別注意代碼轉(zhuǎn)換對(duì)模型性能的影響。對(duì)于某些關(guān)鍵應(yīng)用，可能需要考慮專(zhuān)門(mén)的混合語(yǔ)言訓(xùn)練或特殊的處理策略。

研究還展示了兩種改善策略的不同特點(diǎn)。提示詞引導(dǎo)法雖然效果不穩(wěn)定，但實(shí)施成本低，可以作為快速測(cè)試和改進(jìn)的方法。重新訓(xùn)練法效果更穩(wěn)定，但需要更多資源投入，適合對(duì)性能要求較高的場(chǎng)景。

更重要的是，這項(xiàng)研究提醒我們，在追求AI技術(shù)進(jìn)步的同時(shí)，不能忽視公平性和包容性問(wèn)題。語(yǔ)言是文化的載體，也是人類(lèi)認(rèn)知的基礎(chǔ)。如果AI系統(tǒng)對(duì)某些語(yǔ)言使用模式有偏見(jiàn)，最終受影響的將是使用這些語(yǔ)言的人群。

好消息是，意識(shí)到問(wèn)題的存在就是解決問(wèn)題的第一步。隨著越來(lái)越多研究者關(guān)注多語(yǔ)言AI的公平性問(wèn)題，我們有理由相信，未來(lái)的AI系統(tǒng)會(huì)更好地理解和支持人類(lèi)的多樣化語(yǔ)言使用習(xí)慣。畢竟，真正智能的AI應(yīng)該能夠適應(yīng)人類(lèi)的自然交流方式，而不是要求人類(lèi)去適應(yīng)機(jī)器的局限性。

說(shuō)到底，這項(xiàng)研究告訴我們的不僅僅是大語(yǔ)言模型的技術(shù)局限，更是關(guān)于如何構(gòu)建更包容、更公平的AI系統(tǒng)的深刻思考。在這個(gè)AI技術(shù)快速發(fā)展的時(shí)代，這樣的思考尤為珍貴。它提醒我們，技術(shù)進(jìn)步不應(yīng)該以犧牲多樣性為代價(jià)，而應(yīng)該成為促進(jìn)全球文化交流和理解的橋梁。

對(duì)于普通用戶來(lái)說(shuō)，了解這些研究發(fā)現(xiàn)有助于我們更好地與AI系統(tǒng)交互，也讓我們對(duì)AI的能力和局限有更清醒的認(rèn)識(shí)。同時(shí)，作為AI技術(shù)的使用者和受益者，我們也有責(zé)任推動(dòng)更公平、更包容的AI發(fā)展，讓技術(shù)真正服務(wù)于人類(lèi)的多樣化需求。

這項(xiàng)由MBZUAI和巴黎綜合理工學(xué)院聯(lián)合開(kāi)展的研究，為我們理解AI時(shí)代的語(yǔ)言挑戰(zhàn)提供了重要窗口。有興趣深入了解技術(shù)細(xì)節(jié)的讀者，可以通過(guò)arXiv:2506.14012v1訪問(wèn)完整的研究論文，其中包含了詳細(xì)的實(shí)驗(yàn)設(shè)計(jì)、數(shù)據(jù)分析和技術(shù)實(shí)現(xiàn)說(shuō)明。

Q&A

Q1：什么是代碼轉(zhuǎn)換？為什么它對(duì)AI重要？ A：代碼轉(zhuǎn)換是指在同一句話中混合使用兩種或多種語(yǔ)言的現(xiàn)象，比如"今天的meeting很重要"。隨著全球化發(fā)展，這種混合語(yǔ)言使用越來(lái)越普遍，特別是在社交媒體上。由于大語(yǔ)言模型需要處理這類(lèi)真實(shí)的用戶輸入，它們對(duì)代碼轉(zhuǎn)換的理解能力直接影響服務(wù)質(zhì)量和用戶體驗(yàn)。

Q2：為什么AI在處理混合語(yǔ)言時(shí)表現(xiàn)不佳？ A：主要原因是訓(xùn)練數(shù)據(jù)的不平衡。大語(yǔ)言模型的訓(xùn)練數(shù)據(jù)中英語(yǔ)占絕對(duì)主導(dǎo)地位，導(dǎo)致模型對(duì)英語(yǔ)的內(nèi)部表征更加豐富精確。當(dāng)英語(yǔ)文本中混入其他語(yǔ)言時(shí)，模型會(huì)將其視為"干擾"，從而影響理解能力。這反映了當(dāng)前AI系統(tǒng)存在的結(jié)構(gòu)性語(yǔ)言偏見(jiàn)問(wèn)題。

Q3：有什么方法可以改善AI的混合語(yǔ)言理解能力？ A：研究顯示了兩種方法：一是提示詞引導(dǎo)，即事先告訴模型會(huì)遇到混合語(yǔ)言，但效果因模型而異；二是專(zhuān)門(mén)的混合語(yǔ)言訓(xùn)練，通過(guò)在包含代碼轉(zhuǎn)換文本的數(shù)據(jù)上重新訓(xùn)練模型。后者效果更穩(wěn)定普遍，但需要更多資源投入。目前看來(lái)，有針對(duì)性的訓(xùn)練是更可靠的解決方案。