Feather-SQL: Un Framework NL2SQL Leggero con Paradigma di Collaborazione a Doppio Modello per Modelli Linguistici di Piccole Dimensioni

Feather-SQL: A Lightweight NL2SQL Framework with Dual-Model Collaboration Paradigm for Small Language Models

March 22, 2025

Autori: Wenqi Pei, Hailing Xu, Hengyuan Zhao, Shizheng Hou, Han Chen, Zining Zhang, Pingyi Luo, Bingsheng He

cs.AI

Abstract

La traduzione di Natural Language to SQL (NL2SQL) ha registrato progressi significativi grazie ai grandi modelli linguistici (LLM). Tuttavia, questi modelli spesso dipendono da sistemi chiusi e da elevate risorse computazionali, ponendo sfide in termini di privacy dei dati e di distribuzione. Al contrario, i piccoli modelli linguistici (SLM) faticano nei compiti NL2SQL, mostrando scarse prestazioni e incompatibilità con i framework esistenti. Per affrontare questi problemi, introduciamo Feather-SQL, un nuovo framework leggero progettato specificamente per gli SLM. Feather-SQL migliora l'eseguibilità e l'accuratezza delle query SQL attraverso 1) la potatura e il collegamento dello schema, 2) la generazione multi-percorso e multi-candidato. Inoltre, introduciamo il Paradigma di Collaborazione Modello 1+1, che abbina un modello di chat generico di alta qualità a uno specialista SQL fine-tuned, combinando un forte ragionamento analitico con una generazione SQL ad alta precisione. I risultati sperimentali su BIRD dimostrano che Feather-SQL migliora le prestazioni NL2SQL sugli SLM, con un incremento di circa il 10% per i modelli senza fine-tuning. Il paradigma proposto eleva il limite di accuratezza degli SLM al 54,76%, evidenziandone l'efficacia.

English

Natural Language to SQL (NL2SQL) has seen significant advancements with large language models (LLMs). However, these models often depend on closed-source systems and high computational resources, posing challenges in data privacy and deployment. In contrast, small language models (SLMs) struggle with NL2SQL tasks, exhibiting poor performance and incompatibility with existing frameworks. To address these issues, we introduce Feather-SQL, a new lightweight framework tailored for SLMs. Feather-SQL improves SQL executability and accuracy through 1) schema pruning and linking, 2) multi-path and multi-candidate generation. Additionally, we introduce the 1+1 Model Collaboration Paradigm, which pairs a strong general-purpose chat model with a fine-tuned SQL specialist, combining strong analytical reasoning with high-precision SQL generation. Experimental results on BIRD demonstrate that Feather-SQL improves NL2SQL performance on SLMs, with around 10% boost for models without fine-tuning. The proposed paradigm raises the accuracy ceiling of SLMs to 54.76%, highlighting its effectiveness.