ALAS：用于灵活贝叶斯优化的可加性可学习阿尔法稳定核

贝叶斯优化（Bayesian Optimization）是一种广泛应用于昂贵黑箱优化问题的有效方法，尤其在机器学习超参数调优、自动化机器学习等领域中发挥着关键作用。然而，其成功与否往往高度依赖于所选核函数是否匹配目标函数的未知结构。传统的核函数如高斯核、马特恩核等，虽然具有较好的平滑性假设，但在面对具有不同平滑度或包含尖锐不规则性的目标函数时，可能无法提供理想的建模能力。针对这一核心挑战，Weibo Huang及其合作者提出了一种名为ALAS（Additive Learnable Alpha-Stable Kernels，可加性可学习阿尔法稳定核）的全新高斯过程核函数族，为这一难题提供了创新解决方案。

ALAS核函数族的构建基础是对称α稳定谱分量。α稳定分布是一类具有厚尾性质的分布族，其稳定性参数α控制了分布的尾重程度，从而影响随机过程的样本路径平滑度。通过将这一性质引入高斯过程的谱表示，ALAS能够通过学习参数α，自适应地从数据中确定最合适的有效平滑度，从而同时捕捉目标函数中的平滑趋势和尖锐不规则性。这种灵活性使得ALAS在无需先验知识的情况下，能够自动适应各种复杂的目标函数结构。

该研究提出了两种参数化方法：ALAS和ALAS-Sep。ALAS是单一平稳分量，采用联合谱调制，适用于一般的平稳目标函数。而ALAS-Sep是可分离变体，它允许每个输入维度学习独立的尾部行为参数，从而对近似可分解的目标函数具有更好的鲁棒性。这种维度级的灵活性在处理高维优化问题时尤为关键，因为不同维度可能表现出截然不同的平滑特性。

在实验部分，作者在标准基准测试函数和真实世界代理函数上进行了广泛评估。基准测试包括常见的优化测试函数，如Branin、Hartmann、Rosenbrock等；真实世界代理则涉及机器人控制、材料设计等领域的实际问题。实验结果表明，ALAS及其变体在多种设置下均展现出强大而稳健的性能，无论是在预测精度还是在优化收敛速度上，都显著优于或至少不逊于现有的先进核函数选择方法。尤其值得注意的是，ALAS-Sep在目标函数具有可分解结构的场景中表现尤为突出。

此项工作的意义不仅在于提供了一种新的核函数家族，更在于它为贝叶斯优化中的核选择问题提供了一个自动化且灵活的解决方案。以往实践中，核函数的选择往往依赖于人工经验或繁琐的交叉验证，而ALAS通过学习的方式自动适配数据特征，大大降低了使用者的技术门槛。未来，该工作有望推动贝叶斯优化在更广泛的复杂优化任务中的应用，并激发更多关于自适应核函数设计的研究。目前，该论文已提交至arXiv平台，作者也提供了相关的代码和数据，便于社区复现和进一步探索。