DeepSpeed

DeepSpeed 是微软开源的深度学习优化库，提供 ZeRO 显存优化、混合精度、分布式训练与推理加速等能力，用于低成本训练和部署大规模模型。

适合训练与部署大模型的工程团队。需要具备分布式训练基础；配置与兼容性以官方文档为准。