研究人員提出了一種改進方法，用於生成高質量的嵌入表示，以增強神經網絡在Horn邏輯推理任務中的性能。該工作由Yifan Zhang等七位作者完成，發表於《機器學習研究論文集》第284卷（2025年），預印本編號arXiv:2605.20467。
Horn邏輯是一種重要的邏輯子集，廣泛應用於邏輯編程和知識表示中。邏輯推理通常涉及對大量可能的結論進行搜索，而神經網絡可以通過學習對推理器做出的選擇進行排序來加速這一過程。關鍵步驟之一是創建邏輯語句的有效數值表示，即嵌入。本文聚焦於如何訓練這些嵌入，使其在下游任務中產生更好的結果。
研究團隊採用三元組損失函數進行訓練，該函數需要三元組樣例：錨點、正例和負例。他們引入了三項創新：首先，生成更可能包含重複項的錨點，這有助於模型捕捉邏輯結構中的模式；其次，生成正負例時確保簡單、中等和困難樣例之間的平衡，避免訓練偏向某一難度層級；最後，在訓練過程中週期性強調最難樣例，迫使模型專注於最具挑戰性的區分任務。
為了評估所提出的方法，研究人員進行了多項實驗，包括在不同知識庫上比較不同嵌入的性能。實驗旨在識別出使得嵌入特別適合特定推理任務的特徵。初步結果表明，所提出的嵌入生成策略能夠帶來更高效的推理搜索，並在多個基準測試中優於現有方法。
這項研究為神經符號系統的結合提供了新的思路，有望在自動推理、知識圖譜查詢和程序驗證等領域產生實際應用。未來工作可能包括將方法擴展到更復雜的邏輯系統，以及在大規模知識庫上的進一步驗證。