SGLang
面向大模型与多模态的高性能推理框架，RadixAttention 让多轮对话与结构化输出提速明显。
排序
Hugging Face Transformers
预训练模型的事实标准库，几行代码调用数万个开源模型，NLP 与多模态开发者的起点。
OneFlow 一流科技
国产深度学习框架，用全新的一致性视图解决分布式训练的调度难题，大模型场景有优势。
MindSpore 昇思
华为开源的 AI 计算框架，与昇腾芯片深度协同，主打全场景统一部署与自动并行。
PaddlePaddle 飞桨
百度自研的产业级深度学习平台，中文文档与预训练模型齐全，国内工业落地案例多。
Megatron-LM
NVIDIA 的大规模 Transformer 训练框架，张量并行与流水线并行的工程参考实现。
DeepSpeed
微软的深度学习优化库，ZeRO 系列技术把千亿参数模型的训练显存需求压到可承受范围。