大模型微调速度提升 2 倍、显存减少 70%，单卡也能训练。
Megatron-LM
NVIDIA 的大规模 Transformer 训练框架。
- 仓库
- NVIDIA/Megatron-LM
- Stars
- ★ 18,114
- Forks
- 4,609
- 语言
- Python
- 最近更新
- 2026-10-11
- 访问次数
- 0
大规模训练
Megatron-LM NVIDIA 的大规模 Transformer 训练框架。
大规模训练
大模型微调速度提升 2 倍、显存减少 70%，单卡也能训练。
统一高效微调 100+ 大模型，零代码 Web 界面，国内最流行的微调工具。
统一的 AI 计算引擎，用于分布式训练、调参、推理与服务。
机器学习与 GenAI 生命周期管理平台，含追踪与评测。
🧠 Train a 64M-parameter LLM from scratch in just 2h!
微软的深度学习优化库，让分布式训练与推理简单高效。
