时间对比Transformer用于金融犯罪检测：通过预测对比编码实现自监督序列嵌入
研究者提出时间对比Transformer（TCT），一种自监督表示学习框架，用于捕捉金融交易序列中的时间动态。实验表明，单独使用TCT嵌入的AUC为0.8644，但结合领域工程特征后性能无提升（AUC 0.9205 vs 0.9245），说明学习到的表示与现有特征高度重叠。该工作表明自监督学习有望减少对特征工程的依赖，但尚需进一步研究。
研究人员提出了一种名为时间对比Transformer（Temporal Contrastive Transformer, TCT）的新框架，旨在通过自监督学习捕捉金融交易序列中的时间动态。该模型利用对比学习目标生成嵌入表示，以编码行为模式，从而支持下游的欺诈检测任务。
在实验中，研究团队将TCT学习到的嵌入作为梯度提升分类器的输入特征。结果显示，仅凭嵌入即可达到0.8644的AUC，表明模型能够捕获非平凡的时间结构。然而，当嵌入与领域工程特征结合时，并未观察到显著改进（AUC 0.9205对比基准0.9245）。这强烈表明TCT学习到的表示与现有特征抽象存在大量重叠，难以提供额外的预测价值。
尽管面临挑战，研究人员强调，在初期阶段实现与强特征工程基线相当的性能本身就是有意义的成果。这说明自监督学习表示能够逼近领域特定特征，而无需手动工程。虽然该方法尚未达到生产就绪水平，但它为减少金融犯罪检测中对特征工程的依赖指明了有希望的方向。
这项研究由Danny Butvinik（NICE Actimize）与其他三位作者共同完成，论文提交于2026年3月31日，共10页，包含4幅图和1张表。论文还讨论了未来的研究方向，包括模型架构优化、训练目标调整以及集成策略的改进。这些结果反映了时间表示学习在金融犯罪检测领域的中间阶段，并激励进一步研究。
从更广泛的意义上看，TCT的工作表明，自监督预训练可以捕捉到与手工特征相似的信号，但尚未达到超越最优特征工程的效果。这为金融行业在减少对昂贵特征工程依赖的同时，保持甚至提升检测性能提供了可能的路径。不过，要真正实现生产部署，还需要在更大规模的数据集上进行验证，并解决表示与现有系统的融合问题。