CAWI：基于Copula对齐的随机神经网络权重初始化

随机神经网络（RdNNs）通过冻结随机初始化的输入到隐藏层权重，避免了反向传播，从而能够高效训练。这种权重冻结使得输出层可以通过闭式解求解。然而，传统随机初始化方法完全独立地生成权重，忽略了特征之间的相关性、不对称性和尾部依赖，导致问题条件数恶化并降低预测性能。据我们所知，这一局限性在RdNN文献中尚未得到解决。

为了填补这一空白，本文提出CAWI（Copula-Aligned Weight Initialization，基于Copula对齐的权重初始化）框架。CAWI从数据拟合的Copula中采样输入到隐藏层的权重，使得冻结的投影能够尊重特征间的依赖关系，同时不牺牲闭式解的优势。具体分为三步：首先，使用经验累积分布函数（CDF）将每个特征映射到单位区间；其次，拟合一个多元Copula来捕捉特征间的秩相关依赖性；最后，从拟合的Copula中采样每个权重列，并应用固定的逆边际变换来设置尺度。目标函数、求解器和“冻结一次”的范式保持不变，仅权重W的采样律变得具有依赖性感知。

在依赖性建模方面，CAWI考虑了椭圆族（Gaussian、t）和阿基米德族（Clayton、Frank、Gumbel）两种Copula族，能够处理包括尾部依赖在内的多种依赖结构。为了验证效果，研究者在83个不同的分类基准（包括二分类和多分类）以及两个生物医学数据集（BreaKHis和精神分裂症数据集）上，采用标准浅层和深层RdNN架构进行评估。结果表明，CAWI在预测性能上始终显著优于传统随机初始化方法。

CAWI提出了一种新颖的权重初始化策略，在不改变RdNN本质的前提下，将数据依赖性融入初始权重中。这不仅提升了模型性能，还保持了闭式解的简洁性。所有代码已在GitHub上公开（https://github.com/mtanveer1/CAWI），该论文已被AISTATS 2026会议接收。