大型语言模型(LLM)能够生成SQL查询,但在企业级部署中,仅仅生成合理的文本远远不够。输出必须严格符合语法规则,尊重基于角色和模式的访问控制策略,提供可证明的保证(而非尽力而为),并且随着生成序列增长不得降低性能,同时还需为每个决策留下符合合规性要求的完整记录。针对这些严苛需求,研究人员提出了GRID(Grammar-Railed Decoding)——一种创新的语法约束解码引擎。
GRID的核心创新在于其掩码生成机制。传统方法通常基于令牌序列来生成下一个令牌的掩码,而GRID则另辟蹊径,利用解析器配置(即词法扫描状态与LALR(1)栈的组合)作为掩码键,并使用逐步推进的LALR(1)解析器本身作为可行前缀的预言机。通过字节级的Trie遍历,LLM的令牌被桥接到语法终结符,并采用上下文无关与上下文相关的分离设计,从而确保缓存键的正确性由构造本身保证。
角色访问控制(RBAC)被直接编译进语言中:角色投影对语法产生式进行子集化,模式词表限制标识符终结符,因此所有禁止的动词和标识符在掩码层面即不可达,从根本上杜绝了越权操作。GRID提供了四项形式化保证——正确性、完备性、终止性和近似恒定的每令牌成本,每项保证都附有明确的先决条件,并通过测试或基准进行了验证。
性能方面,GRID的Rust内核实现了极低的延迟:每令牌掩码生成中位数仅为3.6至6.7微秒,在两种主流分词器上均优于llguidance(在p50和p90百分位),且零误拒。每令牌的防护成本在序列长度达16,000时仍与位置无关,保持了恒定的性能。在Spider基准测试中,使用约束解码使0.5B模型的执行准确率提升了13个百分点;对于掩码无法强制执行的残余问题(如列级策略),通过一次检查器引导的修复过程,7B模型的可执行率达到了94.5%。
此外,GRID还提供了基于哈希链的每令牌审计追踪,可以比特级精确地重放生成过程,并100%检测任何篡改。研究人员也坦诚指出了掩码技术的局限性,包括无法保证分布忠实性、无法处理列级RBAC、不支持非LALR(1)语言,以及当前可测成本的范围等。这些透明公开的讨论为未来的改进指明了方向。