SubQ：专为1200万token推理设计的次二次方LLM

要点

• SubQ采用次二次方稀疏注意力架构，在1200万token长度下将注意力计算减少约1000倍。
• 支持1200万token上下文，可处理整个代码库、数月PR和长时间运行的智能体状态。
• 在SWE-Bench Verified上达到81.8%，RULER @ 128K达95.0%，MRCR v2（1M）达65.9%。
• 提供API和代码产品，适用于开发者和编码智能体，成本仅为其他模型的五分之一。