NanoEuler:纯C/CUDA从零实现的GPT-2级语言模型
NanoEuler是一个完全用C/CUDA从零构建的GPT-2级语言模型,不使用PyTorch或自动求导。项目包含手写的BPE分词器、前向/反向传播、在书籍和网络语料上的预训练以及监督微调(SFT)。支持CPU和GPU训练,GPU版本使用cuBLAS和FlashAttention。该模型是教育和研究性质的,展示了完整的训练流程。
NanoEuler:纯C/CUDA从零实现的GPT-2级语言模型
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。