利用GPU快照減少gVisor冷啟動時間

本文介紹了Cerebrium如何透過GPU記憶體快照技術，將gVisor容器中GPU工作負載的冷啟動時間從50秒降低到2.25秒。文章詳細闡述了檢查點（checkpoint）的工作原理：在應用預熱完成後，暫停程序、轉儲CPU和GPU記憶體狀態，並在需要時快速恢復。技術實現涉及修改gVisor containerd shim以在容器建立時決定是正常啟動還是恢復檢查點，並解決了時序、網路、多程序、檔案系統等一系列邊緣情況。