一个编译器解决了Anthropic的VLIW优化挑战

近日，开发者fiigii在GitHub上开源了一个名为“ai-comp”的项目，该项目旨在解决Anthropic公司的一道VLIW（超长指令字）优化面试挑战。该挑战要求候选人在一个模拟的VLIW SIMD虚拟机上优化一个内核，以减少树遍历和哈希计算的周期数。与传统的手动优化方法不同，fiigii选择编写一个优化编译器，从高级中间表示（HIR）生成高效的VLIW指令包。

该项目结构清晰，主要包含编译器核心、虚拟机封装、测试、文档等模块。编译器采用了分层优化设计：HIR（高级中间表示）经过一系列优化pass降级为LIR（低级中间表示），再进一步降为MIR（机器中间表示），最终生成VLIW指令包。优化pass包括死代码消除（DCE）、公共子表达式消除（CSE）、SLP向量化等，有效提升了代码执行效率。

用户可以通过简单的Python命令编译和运行树哈希内核，并灵活调整参数，如森林高度、轮数和批处理大小。编译器还提供了丰富的诊断功能：可以打印每个优化pass后的IR、显示性能度量指标、绘制数据依赖图、输出最终VLIW指令，以及生成寄存器压力HTML图表。这些工具极大地方便了性能分析和调试。

此外，编译器支持自定义pass配置，用户可以通过修改JSON文件来调整编译管道的优化顺序和参数设置，便于进行A/B测试或并行搜索最佳配置。项目还集成了一个追踪查看器，可与Perfetto集成，帮助开发者分析运行时行为。

目前，该项目已在GitHub上获得86颗星和14个fork，主要使用Python编写（占比98.8%），少量HTML（1.2%）。对于对编译器优化或VLIW架构感兴趣的开发者来说，这是一个极具价值的参考实现。Anthropic的这道面试题也因此获得了更广泛的关注，展示了编译器技术在性能优化中的巨大潜力。