Kog Laneformer 2B：Kog推理引擎背後的延遲優先模型

Kog釋出了Laneformer 2B，一個23億引數的指令微調編碼模型，專為高速單請求推理從頭設計。透過將模型架構與推理引擎協同設計，Kog引入了延遲張量並行（DTP）和車道結構Transformer以隱藏通訊開銷。該模型在編碼基準上取得競爭性結果（HumanEval+ 45.1%，MBPP+ 51.6%），現已在Hugging Face上開源。