开源 AI 算力编排器,把训练任务提交到任意云或自有集群并统一管理成本。
它是干什么的
dstack 是一个开源的 AI 算力编排器。说人话:你写好训练任务,它负责把任务扔到你想用的地方去跑——AWS、GCP、Azure 这些公有云,或者你自己机房里那几台 GPU 服务器,都行。跑完之后,花了多少钱、哪个任务占了多少卡、哪家云更划算,它给你算清楚。
它要解决的问题很具体。很多团队做 AI 训练,算力散落在好几个地方:一部分在云上按需开,一部分是自购的机器,还有一部分是别人共享的集群。任务提交靠手工,成本靠月底看账单,GPU 闲着一半也没人知道。dstack 把这些收拢到一个入口,用配置文件描述任务,剩下的调度和成本归集交给它。
什么人该用它
手上有超过一个算力来源、并且训练任务不是偶尔跑一次的团队,基本都对得上。典型场景是:小团队不想被某一家云绑死,又请不起专职的平台工程师去搭一套内部调度系统;或者公司既有云上预算,也有自建卡,想让两边都能接任务。
如果你只是单机跑跑实验,或者已经有一套成熟的 Kubernetes 平台团队在维护,那 dstack 的收益没那么明显——它不是要取代 K8s,而是架在云和集群之上做任务层的编排。
用起来是什么样
核心是一个 YAML 配置文件。你在里面写清楚任务要什么资源——几张 GPU、什么型号、跑多久、用哪个镜像——然后一条命令提交。dstack 根据你配置的后端(backend)决定往哪跑:可以是云厂商的按需实例,可以是 spot 抢占实例,也可以是你自己注册进来的集群。
几个实际会碰到的点:
- 成本可见:每个任务、每次运行都记录实际开销,不用等账单出来再倒推
- 抢占实例友好:用 spot 省钱,实例被回收时任务能自动处理,不至于白跑
- 开发与生产同一套:本地调试的配置,换后端就能上云,不用重写
- 不锁死供应商:后端是可插拔的,今天用这家,明天加那家,配置里改一行
它支持主流的训练框架和容器镜像,任务本身还是你自己写的代码,dstack 管的是「在哪跑、花多少」这一层。
值不值得试
开源、自托管,代码在 GitHub 上能直接看。对算力成本敏感、又不想被平台工程拖住的团队,花半天配一个后端跑通第一个任务,就能判断它合不合你的工作流。官网 https://dstack.ai/ 上有快速开始的文档,从单机到多云都有示例配置。
常见问题
dstack 是什么?
开源 AI 算力编排器,把训练任务提交到任意云或自有集群并统一管理成本。
dstack 的官方网站是什么?
dstack 的官方网站是 https://dstack.ai/,可直接在浏览器中打开使用。
