利用GPU快照减少gVisor冷启动时间

本文介绍了Cerebrium如何通过GPU内存快照技术，将gVisor容器中GPU工作负载的冷启动时间从50秒降低到2.25秒。文章详细阐述了检查点（checkpoint）的工作原理：在应用预热完成后，暂停进程、转储CPU和GPU内存状态，并在需要时快速恢复。技术实现涉及修改gVisor containerd shim以在容器创建时决定是正常启动还是恢复检查点，并解决了时序、网络、多进程、文件系统等一系列边缘情况。