Replicate
模型托管与推理云平台，通过 API 即可调用数千个开源模型，按用量计费无需自建 GPU。
排序
Together AI
面向开发者的 AI 推理与训练云平台，提供开源大模型 API、微调与高性能推理服务。
Ollama
本地运行大模型的开源工具，一条命令即可在个人电脑上部署并调用主流开源模型。
RunPod
提供 GPU 云与无服务器推理的算力平台，支持按秒计费租用显卡并一键部署大模型服务。
NVIDIA CUDA
NVIDIA 的并行计算平台，AI 领域事实上的加速计算标准，绝大多数训练框架都构建其上。
AMD ROCm
AMD 的开源异构计算平台，对标 CUDA，为 Instinct 加速卡提供完整的软件栈。
Intel oneAPI
Intel 的跨架构编程模型，一套代码覆盖 CPU、GPU、FPGA，摆脱单一厂商锁定。
华为 CANN
昇腾异构计算架构，向上承接主流 AI 框架、向下驱动昇腾芯片，是国产算力栈的核心层。
NVIDIA Triton Inference Server
开源推理服务框架，支持多框架多模型统一部署，动态批处理与并发调度能力成熟。
Slurm
老牌的集群作业调度系统，全球超算中心的主力，也在大量智算集群里承担资源分配。
Volcano
CNCF 的云原生批量计算调度器，为 Kubernetes 补上 gang 调度与队列管理，AI 训练集群常用。
KServe
Kubernetes 上的模型推理平台，支持自动扩缩容、灰度发布与多框架运行时。
Modal
无服务器算力平台，把 Python 函数直接变成云端 GPU 任务，按秒计费无需运维。
Fireworks AI
高吞吐推理平台，主打低延迟的模型服务与自定义模型微调托管。
Baseten
面向生产的模型部署平台，把自定义模型包装成可靠 API 并自动处理扩缩容。
Anyscale
Ray 的商业化平台，把分布式 AI 计算做成托管服务，省去集群运维。
Vast.ai
GPU 算力交易市场，聚合全球闲置显卡按需租用，价格显著低于主流云厂商。
Paperspace
云端 GPU 工作站，浏览器里就能用上高性能显卡，适合轻量训练与开发调试。
SkyPilot
跨云算力编排工具，一份配置在多云之间自动找最便宜的 GPU 并把任务跑完。
dstack
开源 AI 算力编排器，把训练任务提交到任意云或自有集群并统一管理成本。
LangChain
主流的开源大模型应用开发框架，提供链式调用、工具集成与 LangGraph 编排能力，配套 LangSmith 调试平台。
TensorFlow
谷歌开源的机器学习框架，覆盖模型构建、训练、部署全流程，并提供移动端与浏览器端推理方案。
PyTorch
Meta 开源的深度学习框架，以动态计算图和易用性著称，是学术研究与工业界的主流选择。
scikit-learn
Python 经典机器学习库，提供分类、回归、聚类与模型评估等算法，适合数据挖掘与建模入门。
LlamaIndex
面向大模型的数据框架，提供文档解析、索引构建与检索问答能力，常用于搭建企业知识库。
vLLM
开源大模型推理引擎，通过分页注意力等优化显著提升吞吐量，广泛用于生产环境模型服务部署。
Ray
开源的分布式计算框架，用于扩展 AI 训练与推理负载，提供 Ray Serve 与 RLlib 等组件。
JAX
Google 的函数式数值计算库，靠自动微分和 XLA 编译把 NumPy 代码直接跑上 TPU/GPU。
Keras
以简洁著称的高层神经网络 API，几行代码就能搭出模型，后端可切换 TensorFlow、JAX 或 PyTorch。
PaddlePaddle 飞桨
百度自研的产业级深度学习平台，中文文档与预训练模型齐全，国内工业落地案例多。