一個編譯器解決了Anthropic的VLIW優化挑戰

近日，開發者fiigii在GitHub上開源了一個名為“ai-comp”的項目，該項目旨在解決Anthropic公司的一道VLIW（超長指令字）優化面試挑戰。該挑戰要求候選人在一個模擬的VLIW SIMD虛擬機上優化一個內核，以減少樹遍歷和哈希計算的週期數。與傳統的手動優化方法不同，fiigii選擇編寫一個優化編譯器，從高級中間表示（HIR）生成高效的VLIW指令包。

該項目結構清晰，主要包含編譯器核心、虛擬機封裝、測試、文檔等模塊。編譯器採用了分層優化設計：HIR（高級中間表示）經過一系列優化pass降級為LIR（低級中間表示），再進一步降為MIR（機器中間表示），最終生成VLIW指令包。優化pass包括死代碼消除（DCE）、公共子表達式消除（CSE）、SLP向量化等，有效提升了代碼執行效率。

用户可以通過簡單的Python命令編譯和運行樹哈希內核，並靈活調整參數，如森林高度、輪數和批處理大小。編譯器還提供了豐富的診斷功能：可以打印每個優化pass後的IR、顯示性能度量指標、繪製數據依賴圖、輸出最終VLIW指令，以及生成寄存器壓力HTML圖表。這些工具極大地方便了性能分析和調試。

此外，編譯器支持自定義pass配置，用户可以通過修改JSON文件來調整編譯管道的優化順序和參數設置，便於進行A/B測試或並行搜索最佳配置。項目還集成了一個追蹤查看器，可與Perfetto集成，幫助開發者分析運行時行為。

目前，該項目已在GitHub上獲得86顆星和14個fork，主要使用Python編寫（佔比98.8%），少量HTML（1.2%）。對於對編譯器優化或VLIW架構感興趣的開發者來説，這是一個極具價值的參考實現。Anthropic的這道面試題也因此獲得了更廣泛的關注，展示了編譯器技術在性能優化中的巨大潛力。