Show HN:LLM后训练学会说Z世代黑话,成本不到一杯咖啡
该项目基于Qwen2.5-0.5B-Instruct模型,通过监督微调(SFT)和GRPO强化学习进行后训练,使其能够生成Z世代俚语。训练成本极低,在Google Colab上仅需不到2美元和3-4小时。作者使用合成数据,模型学会了使用Z世代关键词,但RL训练的效果有限。
Show HN:LLM后训练学会说Z世代黑话,成本不到一杯咖啡
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
该项目基于Qwen2.5-0.5B-Instruct模型,通过监督微调(SFT)和GRPO强化学习进行后训练,使其能够生成Z世代俚语。训练成本极低,在Google Colab上仅需不到2美元和3-4小时。作者使用合成数据,模型学会了使用Z世代关键词,但RL训练的效果有限。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。