分辨率地平线——在有限观测下寻找AI过拟合噪声的数学极限
分辨率地平线是一个实验性研究框架,用于衡量在有限、带噪声的观测数据中能恢复多少数学结构。它提出每个观测过程都有一个可测量的分辨率地平线,即结构复杂性的临界点,超过该点分析将开始拟合噪声而非真实不变量。该框架结合微分几何、动力系统、统计估计和信息论,并定义了信息效率交换率η(k)作为主要经验量。
分辨率地平线(Resolution Horizon)是一个开源的实验研究框架,由Björn Janson开发,托管在GitHub上,基于MIT许可证发布。该框架旨在系统地衡量在有限、带噪声的观测下,智能体能够从动力系统中恢复多少数学结构。其核心假设是每一个观测过程都存在一个可测量的分辨率地平线(k*):一个结构复杂性的临界水平,超过这个水平,进一步的分析不再揭示真正的不变量,而是开始对观测不确定性建模。这意味着结构恢复并非系统内在的属性,而是由系统动力学、观测者和可用计算资源共同决定的。
该框架整合了微分几何、动力系统理论、统计估计和信息论,形成了一个统一的实证框架。其主要经验量是信息效率交换率η(k),该比率平衡结构压缩带来的信息增益与估计结构模糊度所需的代价。具体定义为η(k) = ΔL(k)/C_G(k),其中ΔL(k)表示基线模型与基于Lie代数结构的模型之间的似然差,C_G(k)表示结构复杂度代价。η(k)在k = k*时达到最大值,标志着最优的结构发现边界。
分辨率地平线还定义了一个资源响应曲面,其中k*是观测数量N、观测噪声σ、协变量覆盖度E_cov以及系统特征值λ_min的函数。框架给出了方向性预测:增加观测数量N将提高k*,而增加噪声σ将降低k*,协变量覆盖度E_cov与k*正相关。这些预测构成了项目的可证伪主张。
项目识别出三个相位区域:区域I(发现阶段),结构压缩上升而坐标模糊度下降;区域II(地平线),η(k)达到全局最大值;区域III(误解析),分析开始拟合噪声,压缩下降而模糊度上升。这种相位结构为理解过拟合提供了严格的几何视角。
该框架包含多个工具模块:instrument.py用于核心观测指标计算,experiment.py实现正则化绕过协议与因果干预,test_suite.py提供自动拓扑验证。整体而言,分辨率地平线将科学发现本身视为一个可测量的计算过程,提出了一个根本性的问题转变:从“存在什么数学结构?”变为“有限观测者能恢复什么数学结构?”