更大的上下文視窗是程式設計智慧體的錯誤抽象

更大的上下文視窗雖然有用，但對於程式設計智慧體而言，連續性比上下文更重要。文章區分了上下文和記憶，指出檢索不足以解決問題，並介紹了Sigilix提出的記憶原生智慧體方法，該方法透過持久可信的底層儲存來繼承先前的決定和修正，從而避免每次從零開始。文章還討論了一個較小模型（Boreas）在記憶原生設定下如何勝過更強模型，以及記憶系統的潛在陷阱和設計原則。