dstack
开源 AI 算力编排器，把训练任务提交到任意云或自有集群并统一管理成本。
排序
SkyPilot
跨云算力编排工具，一份配置在多云之间自动找最便宜的 GPU 并把任务跑完。
Paperspace
云端 GPU 工作站，浏览器里就能用上高性能显卡，适合轻量训练与开发调试。
Vast.ai
GPU 算力交易市场，聚合全球闲置显卡按需租用，价格显著低于主流云厂商。
Anyscale
Ray 的商业化平台，把分布式 AI 计算做成托管服务，省去集群运维。
Baseten
面向生产的模型部署平台，把自定义模型包装成可靠 API 并自动处理扩缩容。
Fireworks AI
高吞吐推理平台，主打低延迟的模型服务与自定义模型微调托管。
Modal
无服务器算力平台，把 Python 函数直接变成云端 GPU 任务，按秒计费无需运维。
KServe
Kubernetes 上的模型推理平台，支持自动扩缩容、灰度发布与多框架运行时。
Volcano
CNCF 的云原生批量计算调度器，为 Kubernetes 补上 gang 调度与队列管理，AI 训练集群常用。
Slurm
老牌的集群作业调度系统，全球超算中心的主力，也在大量智算集群里承担资源分配。
NVIDIA Triton Inference Server
开源推理服务框架，支持多框架多模型统一部署，动态批处理与并发调度能力成熟。
华为 CANN
昇腾异构计算架构，向上承接主流 AI 框架、向下驱动昇腾芯片，是国产算力栈的核心层。
Intel oneAPI
Intel 的跨架构编程模型，一套代码覆盖 CPU、GPU、FPGA，摆脱单一厂商锁定。
AMD ROCm
AMD 的开源异构计算平台，对标 CUDA，为 Instinct 加速卡提供完整的软件栈。
NVIDIA CUDA
NVIDIA 的并行计算平台，AI 领域事实上的加速计算标准，绝大多数训练框架都构建其上。
RunPod
提供 GPU 云与无服务器推理的算力平台，支持按秒计费租用显卡并一键部署大模型服务。
Together AI
面向开发者的 AI 推理与训练云平台，提供开源大模型 API、微调与高性能推理服务。
Replicate
模型托管与推理云平台，通过 API 即可调用数千个开源模型，按用量计费无需自建 GPU。
Ollama
本地运行大模型的开源工具，一条命令即可在个人电脑上部署并调用主流开源模型。