🎯
专注中
Highlights
- Pro
Pinned Loading
-
vocab_32k_gpt2_moe
vocab_32k_gpt2_moe Public一个从零开始训练的 32K 词表 GPT2-MoE 项目,包含完整三阶段流程: 预训练(Pretrain) 指令微调(SFT) 偏好优化(DPO) 本仓库基于 PyTorch + Hugging Face Transformers + Accelerate + DeepSpeed + TRL 实现,支持多卡训练和断点续训。
-
vocab_32k_gpt2
vocab_32k_gpt2 Public一个从零开始训练的 32K 词表 GPT2 项目,包含完整的三阶段流程: 预训练(Pretrain) 指令微调(SFT) 偏好优化(DPO) 本仓库作为本科毕业设计实践,基于 PyTorch + Hugging Face Transformers + Accelerate + DeepSpeed 实现,支持多卡训练与断点续训。
Python
Something went wrong, please refresh the page to try again.
If the problem persists, check the GitHub status page or contact support.
If the problem persists, check the GitHub status page or contact support.