免费vLLM课程:推理、压缩与基准测试
DeepLearning.AI与Red Hat合作推出免费中级课程《使用vLLM实现快速高效的LLM推理》,由Red Hat高级开发者倡导者Cedric Clyburn授课。课程涵盖量化、vLLM服务部署及基准测试,时长1小时38分钟,包含9个视频课程、3个代码示例和1个评分作业。
免费vLLM课程:推理、压缩与基准测试
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
DeepLearning.AI与Red Hat合作推出免费中级课程《使用vLLM实现快速高效的LLM推理》,由Red Hat高级开发者倡导者Cedric Clyburn授课。课程涵盖量化、vLLM服务部署及基准测试,时长1小时38分钟,包含9个视频课程、3个代码示例和1个评分作业。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。