戳破GPU泡沫：Moondream的流水线解码技术

Moondream的推理引擎Photon通过流水线解码技术，将GPU空闲时间降至最低，在NVIDIA B200上实现了约33ms的近实时视觉语言模型推理，解码吞吐量提升高达35%。该技术通过重叠CPU和GPU工作，消除了传统逐令牌解码中的“GPU泡沫”。