近日，香港大學(xué)、北京智源研究院和香港中文大學(xué)（深圳）的研究團(tuán)隊(duì)聯(lián)合發(fā)表了一項(xiàng)突破性研究，為文本到SQL查詢的自動(dòng)修正提供了全新解決方案。這項(xiàng)名為"SHARE: An SLM-based Hierarchical Action CorREction Assistant for Text-to-SQL"的研究由葛曲、李晉陽、秦博文、李小龍、霍楠、馬晨浩和鄭仁昌共同完成，于2025年5月31日發(fā)表在arXiv預(yù)印本平臺(tái)（arXiv:2506.00391v1）。有興趣深入了解的讀者可以通過該論文鏈接獲取完整研究內(nèi)容。

想象一下，你正試圖用自然語言向數(shù)據(jù)庫提問。比如，你想知道"請(qǐng)列出1985年1月1日之后出生并且有正常類風(fēng)濕因子的患者的疾病"。你的助手需要將這個(gè)問題轉(zhuǎn)換成數(shù)據(jù)庫能理解的SQL語言。但有時(shí)候，這個(gè)轉(zhuǎn)換過程會(huì)出錯(cuò)，比如使用了錯(cuò)誤的函數(shù)（如YEAR()）或選擇了錯(cuò)誤的數(shù)據(jù)庫列。

當(dāng)前解決這類問題的方法主要有兩種：一種是"自我調(diào)試"，即讓大型語言模型（LLM）根據(jù)數(shù)據(jù)庫執(zhí)行的反饋?zhàn)孕行薷腟QL；另一種是"自我糾正"，讓模型在沒有外部反饋的情況下自行檢查并修改自己的輸出。但這兩種方法都存在明顯缺陷：前者需要直接訪問數(shù)據(jù)庫（這在很多隱私敏感的場景中是不允許的），而且數(shù)據(jù)庫的錯(cuò)誤提示通常過于簡潔；后者則往往需要多次調(diào)用昂貴的LLM，計(jì)算成本高昂，而且LLM對(duì)自己的輸出有一種"自我增強(qiáng)偏見"，往往無法有效識(shí)別自己生成的SQL中的錯(cuò)誤。

香港大學(xué)團(tuán)隊(duì)提出的SHARE框架巧妙地解決了這些問題。想象一下，SHARE就像是一個(gè)由三位專家組成的小型顧問團(tuán)，每位專家各司其職，協(xié)作完成SQL修正任務(wù)。這三位專家分別是基礎(chǔ)行動(dòng)模型（BAM）、模式增強(qiáng)模型（SAM）和邏輯優(yōu)化模型（LOM），它們都是經(jīng)過特殊訓(xùn)練的小型語言模型（SLM），參數(shù)量不超過8B。

這個(gè)顧問團(tuán)的工作流程非常清晰：首先，BAM將原始SQL查詢轉(zhuǎn)換為行動(dòng)軌跡，就像是將一道復(fù)雜的菜譜分解成一系列簡單的步驟；然后，SAM檢查并修正這些步驟中與數(shù)據(jù)庫結(jié)構(gòu)相關(guān)的錯(cuò)誤，就像是確保菜譜中提到的每種食材都能在你的廚房找到；最后，LOM優(yōu)化這些步驟的邏輯關(guān)系，確保它們能夠正確地組合在一起，就像是確保烹飪步驟的順序正確無誤。

研究團(tuán)隊(duì)還創(chuàng)新性地提出了"層次化自演化"訓(xùn)練策略，大大提高了模型訓(xùn)練的數(shù)據(jù)效率。傳統(tǒng)方法通常需要反復(fù)向教師模型（如GPT-4）請(qǐng)求生成新的訓(xùn)練實(shí)例，而SHARE則充分利用已訓(xùn)練好的BAM來合成和增強(qiáng)特定任務(wù)的訓(xùn)練數(shù)據(jù)，針對(duì)文本到SQL轉(zhuǎn)換的不同方面。這種方法不僅降低了注釋成本，還保持了較高的性能表現(xiàn)。

實(shí)驗(yàn)結(jié)果令人印象深刻。在BIRD和SPIDER等四個(gè)多樣化的文本到SQL基準(zhǔn)測試上，SHARE顯著提升了SQL生成準(zhǔn)確率。例如，當(dāng)與GPT-4o配合使用時(shí)，SHARE-8B在BIRD上的執(zhí)行準(zhǔn)確率相對(duì)提高了14.80%，在SPIDER上相對(duì)提高了11.41%，而且只需要一輪修正。更令人驚喜的是，SHARE的修正能力表現(xiàn)出很強(qiáng)的泛化性，它不僅適用于各種復(fù)雜度的查詢，也能在低資源環(huán)境中保持良好表現(xiàn)，甚至能適應(yīng)各種生成器模型，包括閉源和開源的LLM。

這項(xiàng)研究為我們展示了一種全新的協(xié)作方式：小型語言模型可以通過精心設(shè)計(jì)的分工合作，高效地輔助大型語言模型完成復(fù)雜任務(wù)。這不僅降低了計(jì)算成本，還提高了任務(wù)準(zhǔn)確率，特別是在像文本到SQL這樣對(duì)隱私和準(zhǔn)確性要求都很高的應(yīng)用場景中。

一、SHARE：分層行動(dòng)修正的新思路

想象一下，我們正在教一個(gè)智能助手如何將我們的日常問題轉(zhuǎn)換成數(shù)據(jù)庫查詢語言。這就像是教一個(gè)外國朋友理解我們的請(qǐng)求并幫我們從圖書館找書——我們用自然語言表達(dá)需求，而他需要理解并按圖書館的編目系統(tǒng)找到正確的書籍。

在這個(gè)過程中，有時(shí)會(huì)出錯(cuò)：我們的助手可能聽錯(cuò)了我們要找的書名，或者弄混了圖書館的分類方法。當(dāng)前解決這類問題的方法有兩種：一種是"自我調(diào)試"，即讓助手去圖書館試一試，如果找不到書，根據(jù)圖書管理員的反饋再調(diào)整；另一種是"自我糾正"，讓助手在出發(fā)前先自己檢查一遍，看看有沒有理解錯(cuò)誤。

然而，這兩種方法都有問題。"自我調(diào)試"要求我們的助手必須能進(jìn)入圖書館（這在某些私人圖書館可能不被允許），而且圖書管理員的提示可能很簡單（如"沒有這本書"），不夠具體。而"自我糾正"則需要我們的助手反復(fù)思考，這不僅耗時(shí)，還可能因?yàn)橹謱?duì)自己的判斷過于自信而忽視錯(cuò)誤。

香港大學(xué)的研究團(tuán)隊(duì)提出了一個(gè)創(chuàng)新解決方案：SHARE（基于小型語言模型的分層行動(dòng)修正助手）。這就像是給我們的助手配備了一個(gè)由三位專家組成的顧問團(tuán)，每位專家各司其職，共同確保助手能準(zhǔn)確理解我們的需求并找到正確的書籍。

首先，我們有基礎(chǔ)行動(dòng)模型（BAM）。它的工作是將復(fù)雜的請(qǐng)求分解成一系列簡單的步驟。比如，當(dāng)我們說"找一本關(guān)于二戰(zhàn)的歷史書，作者是英國人，出版于2000年后"時(shí)，BAM會(huì)將其分解為：1）找歷史類書籍；2）篩選主題為二戰(zhàn)的書；3）篩選英國作者的書；4）篩選2000年后出版的書。

其次是模式增強(qiáng)模型（SAM）。它負(fù)責(zé)確保每個(gè)步驟中提到的信息在圖書館的編目系統(tǒng)中是存在的。比如，檢查"歷史類"是否是圖書館的一個(gè)有效分類，"作者國籍"是否是可查詢的屬性等。

最后是邏輯優(yōu)化模型（LOM）。它確保這些步驟的邏輯關(guān)系正確，能夠組合成一個(gè)有效的查詢。比如，確保先按主題篩選，再按作者篩選，最后按出版日期篩選，而不是搞混順序。

這三位專家協(xié)同工作，形成了一個(gè)高效的修正流程：BAM將原始請(qǐng)求轉(zhuǎn)換為行動(dòng)軌跡，SAM修正其中的模式相關(guān)錯(cuò)誤，LOM優(yōu)化邏輯關(guān)系，最終產(chǎn)生一個(gè)準(zhǔn)確的查詢方案。

研究團(tuán)隊(duì)還創(chuàng)新地使用了"層次化自演化"訓(xùn)練策略。傳統(tǒng)方法通常需要不斷向一個(gè)大型語言模型（想象成一位資深專家）請(qǐng)教，為每個(gè)新場景生成訓(xùn)練實(shí)例。而SHARE則是讓BAM在學(xué)習(xí)了基本知識(shí)后，自己生成訓(xùn)練數(shù)據(jù)來教導(dǎo)SAM和LOM，這大大降低了對(duì)資深專家的依賴，節(jié)省了資源。

通過在多個(gè)基準(zhǔn)測試上的實(shí)驗(yàn)，SHARE展示了顯著的性能提升。當(dāng)與GPT-4o配合使用時(shí)，在BIRD數(shù)據(jù)集上的執(zhí)行準(zhǔn)確率從55.87%提高到64.14%，相對(duì)提升了14.80%；在SPIDER數(shù)據(jù)集上從77.10%提高到85.90%，相對(duì)提升了11.41%。而且，SHARE只需一輪修正就能達(dá)到這樣的效果，計(jì)算成本僅為傳統(tǒng)方法的十分之一。

更令人驚喜的是，SHARE表現(xiàn)出強(qiáng)大的適應(yīng)性和泛化能力。它不僅能處理各種復(fù)雜度的查詢，還能在低資源環(huán)境中保持良好表現(xiàn)。即使只使用50%的訓(xùn)練數(shù)據(jù)，它也能超越當(dāng)前最先進(jìn)的方法。此外，它還能適應(yīng)不同的SQL方言（如MySQL和PostgreSQL），即使沒有針對(duì)這些方言進(jìn)行專門訓(xùn)練。

二、技術(shù)原理：三位專家的精妙配合

要理解SHARE的工作原理，我們可以把它想象成一個(gè)修理汽車的團(tuán)隊(duì)。當(dāng)你的車出了問題，你可能會(huì)用日常語言描述："車子啟動(dòng)時(shí)發(fā)出奇怪的聲音，加速時(shí)有點(diǎn)抖動(dòng)。"而專業(yè)修理工需要將這個(gè)描述轉(zhuǎn)換成具體的檢查和修理步驟。

在SHARE框架中，有三位專家協(xié)同工作，將我們的自然語言問題轉(zhuǎn)換成數(shù)據(jù)庫能理解的SQL語言，并在這個(gè)過程中發(fā)現(xiàn)并修正可能的錯(cuò)誤。

首先登場的是基礎(chǔ)行動(dòng)模型（BAM）。它就像是修車團(tuán)隊(duì)中的接待員，負(fù)責(zé)理解客戶的描述并將其轉(zhuǎn)換為一系列檢查步驟。在SHARE中，BAM接收原始SQL查詢（可能含有錯(cuò)誤），將其轉(zhuǎn)換為行動(dòng)軌跡——一種類似pandas API的步驟序列。這些步驟清晰地展示了SQL查詢背后的推理過程，使得錯(cuò)誤更容易被識(shí)別。

例如，當(dāng)我們問"列出1985年1月1日之后出生且有正常類風(fēng)濕因子的患者的疾病"時(shí)，初始SQL可能寫為： ``` SELECT p.Diagnosis FROM Patient p JOIN Laboratory l ON p.ID = l.ID WHERE YEAR(p.Birthday) >= 1985 AND l.RA IN ('-', '+-') ```

BAM會(huì)將其轉(zhuǎn)換為行動(dòng)軌跡： ``` df1 = df.where(element = Patient.Birthday, filter = 'YEAR(Birthday) >= 1985') df2 = df1.where(element = Laboratory.RA, filter = "IN ('-', '+-')") res = df2.select(Patient.Diagnosis) ```

這種表示方式清晰地顯示了查詢的每一步操作，使得錯(cuò)誤（如使用不支持的YEAR函數(shù)）更容易被發(fā)現(xiàn)。

接下來是模式增強(qiáng)模型（SAM）。它就像修車團(tuán)隊(duì)中的零件專家，負(fù)責(zé)確認(rèn)每個(gè)檢查步驟中提到的零件確實(shí)存在于該型號(hào)的汽車中。在SHARE中，SAM專注于識(shí)別和修正與數(shù)據(jù)庫模式相關(guān)的錯(cuò)誤，如表名或列名錯(cuò)誤、缺少必要的表連接等。

SAM先將行動(dòng)軌跡中的模式相關(guān)部分替換為掩碼（[MASK]），然后根據(jù)數(shù)據(jù)庫結(jié)構(gòu)信息重新填入正確的模式。在上面的例子中，SAM可能發(fā)現(xiàn)YEAR函數(shù)在該數(shù)據(jù)庫中不支持，應(yīng)該改用直接比較日期的方法：

``` df1 = df.where(element = Patient.Birthday, filter = '>= 1985-01-01') df2 = df1.where(element = Laboratory.RA, filter = "IN ('-', '+-')") res = df2.select(Patient.Diagnosis) ```

最后登場的是邏輯優(yōu)化模型（LOM）。它就像修車團(tuán)隊(duì)中的首席技師，負(fù)責(zé)確保所有檢查步驟的邏輯順序正確，能夠高效地解決問題。在SHARE中，LOM專注于優(yōu)化行動(dòng)軌跡的邏輯結(jié)構(gòu)，確保查詢的條件組合、排序和篩選等操作正確無誤。

LOM會(huì)檢查行動(dòng)軌跡的邏輯完整性，確保所有必要的操作都包含在內(nèi)，并按正確的順序排列。在復(fù)雜查詢中，這一步尤為重要，因?yàn)檫壿嬪e(cuò)誤可能導(dǎo)致查詢返回錯(cuò)誤的結(jié)果或者執(zhí)行效率低下。

這三位專家通過層次化的流程協(xié)同工作：BAM首先將SQL轉(zhuǎn)換為行動(dòng)軌跡，SAM修正模式相關(guān)錯(cuò)誤，LOM優(yōu)化邏輯結(jié)構(gòu)，最終產(chǎn)生一個(gè)準(zhǔn)確的行動(dòng)軌跡，可以被轉(zhuǎn)換回正確的SQL查詢：

``` SELECT p.Diagnosis FROM Patient p JOIN Laboratory l ON p.ID = l.ID WHERE p.Birthday >= '1985-01-01' AND l.RA IN ('-', '+-') ```

為了訓(xùn)練這三個(gè)模型，研究團(tuán)隊(duì)創(chuàng)新性地提出了"層次化自演化"策略。想象一下，這就像是師傅先教會(huì)徒弟基本技能（BAM），然后讓這個(gè)徒弟去教其他兩位徒弟（SAM和LOM）更專業(yè)的技能，而不是師傅親自教所有人。

具體來說，研究團(tuán)隊(duì)先使用GPT-4o生成高質(zhì)量的行動(dòng)軌跡來訓(xùn)練BAM。然后，BAM生成訓(xùn)練數(shù)據(jù)來訓(xùn)練SAM，通過創(chuàng)建模式掩碼變體和提供正確的填充方式。最后，BAM還通過動(dòng)作擾動(dòng)策略生成帶有各種邏輯錯(cuò)誤的行動(dòng)軌跡，用于訓(xùn)練LOM識(shí)別和修正這些錯(cuò)誤。

這種訓(xùn)練方法不僅降低了對(duì)昂貴大型語言模型的依賴，還使得整個(gè)訓(xùn)練過程更加高效和針對(duì)性強(qiáng)。實(shí)驗(yàn)表明，這種策略能夠有效地訓(xùn)練出三個(gè)高性能的專家模型，它們協(xié)同工作，大大提高了SQL查詢的準(zhǔn)確性。

三、實(shí)驗(yàn)結(jié)果：全面的性能提升

SHARE的表現(xiàn)如何呢？研究團(tuán)隊(duì)在多個(gè)數(shù)據(jù)集上進(jìn)行了全面測試，結(jié)果令人印象深刻。就像是一支高效團(tuán)隊(duì)在各種比賽中都取得了優(yōu)異成績。

首先，研究團(tuán)隊(duì)在BIRD和SPIDER這兩個(gè)主流跨域文本到SQL基準(zhǔn)測試上評(píng)估了SHARE的性能。BIRD是目前最具挑戰(zhàn)性的大規(guī)模跨域文本到SQL基準(zhǔn)，而SPIDER則是一個(gè)更標(biāo)準(zhǔn)的跨域文本到SQL基準(zhǔn)。在這兩個(gè)數(shù)據(jù)集上，SHARE展示了顯著的性能提升。

當(dāng)GPT-4o作為生成器模型時(shí)，加入SHARE-8B（基于Llama-3.1-8B構(gòu)建）輔助后，在BIRD數(shù)據(jù)集上的執(zhí)行準(zhǔn)確率從55.87%提高到64.14%，相對(duì)提升了14.80%；在SPIDER數(shù)據(jù)集上從77.10%提高到85.90%，相對(duì)提升了11.41%。而且，SHARE只需一輪修正就能達(dá)到這樣的效果，計(jì)算成本僅為傳統(tǒng)方法的十分之一。

這種性能提升是全面的，無論是簡單查詢、中等復(fù)雜度查詢還是高度復(fù)雜的查詢，SHARE都能提供一致的改進(jìn)。這說明SHARE不僅能處理基本情況，還能應(yīng)對(duì)各種復(fù)雜的查詢場景。

更令人驚喜的是，SHARE的泛化能力非常強(qiáng)。研究團(tuán)隊(duì)還在DK和REALISTIC這兩個(gè)SPIDER的變種數(shù)據(jù)集上進(jìn)行了測試，這些數(shù)據(jù)集要求模型具備域知識(shí)推理能力或處理更接近真實(shí)場景的問題。在沒有任何額外訓(xùn)練的情況下，SHARE-8B在DK上將GPT-4o的準(zhǔn)確率從64.10%提高到75.30%，在REALISTIC上從73.40%提高到81.50%。這表明SHARE學(xué)到的修正能力可以泛化到各種不同的數(shù)據(jù)集和任務(wù)場景。

SHARE的適應(yīng)性也非常強(qiáng)。它不僅能與GPT-4o配合，還能提升各種不同生成器模型的性能，包括專有閉源模型（如Claude-3.5-Sonnet）和開源替代方案（如Llama-3.1-70B）。例如，SHARE-8B將Claude-3.5-Sonnet在BIRD上的準(zhǔn)確率從49.41%提高到63.56%，相對(duì)提升了28.64%；將Llama-3.1-70B的準(zhǔn)確率從53.91%提高到61.93%，相對(duì)提升了14.88%。這表明SHARE的修正能力不局限于特定模型的錯(cuò)誤模式，而是能夠理解和修正SQL生成過程中的一般性錯(cuò)誤。

在低資源環(huán)境下，SHARE同樣表現(xiàn)出色。研究團(tuán)隊(duì)進(jìn)行了低資源訓(xùn)練分析，使用10%、20%和50%的訓(xùn)練數(shù)據(jù)進(jìn)行實(shí)驗(yàn)。結(jié)果顯示，即使只使用50%的訓(xùn)練數(shù)據(jù)，SHARE-8B輔助的GPT-4o也能達(dá)到60.71%的準(zhǔn)確率，超過了目前最先進(jìn)的MAGIC方法（59.53%）。這對(duì)于有數(shù)據(jù)隱私約束的文本到SQL應(yīng)用尤其有價(jià)值。

SHARE還展示了跨SQL方言的泛化能力。主流文本到SQL基準(zhǔn)主要使用SQLite作為目標(biāo)SQL方言，但在現(xiàn)實(shí)應(yīng)用中，MySQL和PostgreSQL等方言因其許可限制和專有屬性更為常用。盡管沒有針對(duì)這些方言進(jìn)行專門訓(xùn)練，SHARE在MySQL和PostgreSQL上仍展示了有效的性能，這歸功于SHARE專注于學(xué)習(xí)低級(jí)推理路徑修正，使其能夠泛化到各種高級(jí)SQL方言。

最后，研究團(tuán)隊(duì)還進(jìn)行了SQL錯(cuò)誤修正的定量分析。他們將觀察到的錯(cuò)誤分為兩類：基于模式的錯(cuò)誤和基于邏輯的錯(cuò)誤，每類又細(xì)分為三個(gè)具體子類型。結(jié)果表明，SHARE能有效減輕兩類錯(cuò)誤，尤其是屬性過度分析（下降18.61%）、模式矛盾（下降7.24%）和子句濫用（下降7.54%）。這表明SHARE的分層修正方法能夠有效地識(shí)別和修正各種類型的SQL錯(cuò)誤。

四、創(chuàng)新價(jià)值與應(yīng)用前景

SHARE框架的提出標(biāo)志著文本到SQL自動(dòng)修正領(lǐng)域的一個(gè)重要突破。它像是在汽車行業(yè)引入了一種全新的生產(chǎn)線，不僅提高了產(chǎn)品質(zhì)量，還降低了生產(chǎn)成本。

首先，SHARE創(chuàng)新性地將SQL修正任務(wù)分解為三個(gè)互補(bǔ)的步驟：行動(dòng)軌跡生成、模式增強(qiáng)和邏輯優(yōu)化。這種分層設(shè)計(jì)使得每個(gè)子模型可以專注于特定類型的錯(cuò)誤，提高了整體修正的精確性和效率。就像是將汽車檢修分給不同的專家：一位負(fù)責(zé)識(shí)別問題，一位負(fù)責(zé)檢查零件，一位負(fù)責(zé)確保修理步驟的正確性。

其次，SHARE提出的行動(dòng)軌跡表示法為SQL查詢提供了一種更加結(jié)構(gòu)化和可解釋的形式。這種表示法將聲明式SQL查詢轉(zhuǎn)換為步驟式操作序列，清晰地展示了查詢背后的推理過程，使得錯(cuò)誤更容易被識(shí)別和修正。這就像是將復(fù)雜的烹飪食譜分解成一系列簡單的步驟，使得每一步都可以被獨(dú)立檢查和調(diào)整。

第三，SHARE的"層次化自演化"訓(xùn)練策略大大提高了模型訓(xùn)練的數(shù)據(jù)效率。傳統(tǒng)方法通常需要反復(fù)向昂貴的大型語言模型請(qǐng)求生成新的訓(xùn)練實(shí)例，而SHARE則充分利用已訓(xùn)練好的基礎(chǔ)模型來合成和增強(qiáng)訓(xùn)練數(shù)據(jù)，這不僅降低了訓(xùn)練成本，還使得訓(xùn)練過程更加針對(duì)性和高效。

SHARE的實(shí)際應(yīng)用前景非常廣闊。首先，它可以直接集成到各種文本到SQL系統(tǒng)中，提高這些系統(tǒng)的準(zhǔn)確性和可靠性。特別是在那些不允許直接訪問數(shù)據(jù)庫（如出于隱私考慮）的場景中，SHARE提供了一種不依賴執(zhí)行反饋的有效修正機(jī)制。

其次，SHARE的低計(jì)算成本使其非常適合部署在資源受限的環(huán)境中。與需要多次調(diào)用大型語言模型的傳統(tǒng)方法相比，SHARE只需要一次調(diào)用生成器模型和三個(gè)小型專家模型，大大降低了計(jì)算負(fù)擔(dān)和運(yùn)行成本。

第三，SHARE的模塊化設(shè)計(jì)使其易于擴(kuò)展和適應(yīng)不同的應(yīng)用場景。研究團(tuán)隊(duì)展示了SHARE可以與各種不同的生成器模型配合使用，包括專有閉源模型和開源替代方案，這為不同預(yù)算和需求的用戶提供了靈活的選擇。

最后，SHARE的方法可能不僅限于文本到SQL領(lǐng)域，其基本思路和架構(gòu)可以推廣到其他代碼生成任務(wù)，如文本到Python、文本到Java等。通過適當(dāng)?shù)恼{(diào)整和訓(xùn)練，SHARE的分層修正方法可能為各種代碼生成任務(wù)提供類似的性能提升。

總的來說，SHARE不僅是一個(gè)強(qiáng)大的文本到SQL修正助手，更是一種新型的協(xié)作范式：小型語言模型可以通過精心設(shè)計(jì)的分工合作，高效地輔助大型語言模型完成復(fù)雜任務(wù)。這種范式不僅降低了計(jì)算成本，還提高了任務(wù)準(zhǔn)確率，為未來的人工智能系統(tǒng)設(shè)計(jì)提供了寶貴的啟示。

研究團(tuán)隊(duì)已經(jīng)開源了SHARE的代碼，有興趣的讀者可以通過GitHub（https://github.com/quge2023/SHARE）訪問，這為更廣泛的研究社區(qū)和實(shí)際應(yīng)用提供了便利。