在人工智能領域，學習方式通常分為兩種：從人類精心整理的數據集中學習，以及從原始、未經處理的體驗中學習。Oak Lab的最新研究指出，這兩種學習方式存在本質差異，而當前主流的深度學習算法更適合前者，卻難以適應後者。
從精選數據集學習時，算法可以假設所有數據都是有用的，因為人類已經完成了收集、清洗和過濾的工作。然而，真實的體驗數據流往往包含大量噪聲和無法預測的成分。例如，在一個簡單的線性預測任務中，只有1%的特徵值能提供有效信息，其餘都是噪聲。實驗表明，使用隨機梯度下降（SGD）訓練的線性模型會試圖最小化所有目標的誤差，最終將噪聲也學習進參數中，而非僅學習可預測的部分。
為了解決這一問題，研究者引入了增量Delta-Bar-Delta（IDBD）算法。與SGD不同，IDBD能夠為不同的信號分配不同大小的信用，甚至對不可預測的目標不分配信用。在同樣的線性問題上，IDBD成功只學習了可預測的成分。為了擴展到非線性情況，研究者提出了NetworkIDBD，並在NoisyMNIST數據流上進行了驗證。該數據流在64x64圖像中心隨機顯示MNIST數字，周圍像素為噪聲。結果顯示，SGD增加了所有輸入特徵的權重，而NetworkIDBD只增加了中心28x28區域的權重，即與目標相關的部分。
作者認為，SGD及其變體（如Adam、RMSProp）試圖學習所有關聯的侷限性，是當前系統無法有效進行在線持續學習的主要原因。而像NetworkIDBD這樣能夠學習信用分配的算法，可能是突破這一瓶頸的關鍵。未來，我們需要設計更好的信用分配機制，使算法能從嘈雜的經驗中自主學習。
參考文獻包括Kingma和Ba的Adam論文、Tieleman和Hinton的RMSProp、LeCun等人的MNIST以及Sutton的IDBD。