DeepSeek V4最大的遺憾

DeepSeek V4的技術報告中缺少了Engram模組，引發熱議。Engram是一種為Transformer設計的原生知識查表模組，旨在分離靜態知識檢索與深度推理。儘管未在V4中出現，但後續有三篇論文探索了其在CXL記憶體池化、無衝突熱層最佳化及視覺模態的應用。