NVIDIA L40S GPU
面向生成式 AI 推理与图形渲染的通用数据中心 GPU，配备 48GB 显存与第四代 Tensor Core，兼顾推理、微调与虚拟化场景。
排序
NetApp AI 存储解决方案
基于 ONTAP 的 AI 数据管理方案，整合文件、块与对象存储能力，支持从数据准备到模型训练推理的全流程数据服务。
阿里云 PAI
阿里云的机器学习平台，提供数据标注、模型训练与推理部署能力，支持大模型微调与分布式训练。
NVIDIA HGX 平台
英伟达 GPU 服务器参考平台，为主流服务器厂商提供 4 卡或 8 卡 GPU 基板与互联方案，是 AI 服务器的事实标准。
Google Cloud A3 虚拟机
谷歌云 GPU 计算实例，提供 H100 等加速卡与高速网络互联，适合在云端弹性开展大模型训练与高性能计算任务。
NVIDIA DGX Cloud
英伟达提供的云端 AI 超级计算服务，把 DGX 集群以云租用方式交付，企业可直接在主流云上开展大模型训练与微调。
腾讯云向量数据库
腾讯云推出的全托管向量数据库服务，支持百亿级向量检索与企业级权限管理，可对接大模型知识库。
AWS Trainium
亚马逊自研 AI 训练芯片，通过 EC2 实例提供高性价比训练算力，与 Neuron SDK 配合可低成本训练和微调大模型。
Dell PowerScale
戴尔横向扩展 NAS 存储产品线，基于 OneFS 系统提供高吞吐并行文件访问，广泛用于 AI 训练、基因组学与媒体处理。
Vertex AI
谷歌云的企业级机器学习平台，提供模型训练、部署、流水线与生成式 AI 应用构建能力。
火山方舟
字节跳动火山引擎的大模型服务平台，提供多厂商模型托管、推理与精调能力。
Supermicro GPU 服务器
美超微 GPU 服务器产品线，覆盖 8 卡 HGX 训练系统与液冷方案，以快速交付和灵活配置著称，广泛用于 AI 数据中心。
Weaviate
开源向量数据库，原生支持混合检索与多模态数据，可自托管或使用云服务。
Chroma
开源的向量数据库，面向 AI 应用提供嵌入式与云端两种部署方式，接口简洁易用，适合快速搭建 RAG。
Qdrant
开源的高性能向量数据库，支持过滤检索与分布式部署，核心以 Rust 实现并提供云托管服务。
百度千帆
百度智能云的一站式大模型平台，提供模型调用、训练微调与智能体开发，兼容主流开源模型。
MLflow
开源的机器学习生命周期管理平台，提供实验追踪、模型注册与部署能力，支持多种框架与编程语言。
浪潮信息 AI 服务器
浪潮信息 AI 服务器产品线，覆盖训练、推理与液冷整机柜方案，在国内大模型算力集群建设中占据主要份额。
AMD Instinct MI300X
AMD 数据中心 AI 加速卡，配备 192GB HBM3 显存与 CDNA 3 架构，以高显存容量优势在大模型推理与训练场景快速崛起。
MinIO 对象存储
高性能开源 S3 兼容对象存储，可部署于任意云或本地环境，是构建 AI 数据湖和向量数据库后端的常用基础组件。
华为 OceanStor 存储
华为企业级存储产品线，覆盖全闪存、分布式存储与数据保护，为 AI 训练和智算中心提供高性能数据存储底座。
Azure AI Foundry
微软 Azure 的 AI 平台，提供模型目录、提示流与部署管理，支持 OpenAI 与开源模型的企业级调用。
Ray
开源的分布式计算框架，用于扩展 AI 训练与推理负载，提供 Ray Serve 与 RLlib 等组件。
AWS EC2 P5 实例
亚马逊云科技 GPU 计算实例，搭载 8 颗 H100 GPU 与高速网络，按需提供大规模大模型训练与推理算力。
Milvus
开源分布式向量数据库，面向十亿级向量检索场景，广泛用于推荐与语义搜索。
NVIDIA GB200 NVL72
机架级 AI 计算单元，将 72 颗 Blackwell GPU 与 Grace CPU 通过高速互联整合为单一计算域，专为超大模型训练设计。
Ceph 分布式存储
开源统一分布式存储系统，同时提供块、文件与对象接口，可横向扩展至 EB 级，被广泛用于云平台与 AI 数据基础设施。
华为 Atlas 智能计算服务器
基于昇腾处理器的 AI 服务器与集群方案，覆盖训练、推理和边缘场景，配套昇腾软件栈支撑国产大模型算力需求。
Pinecone
托管式向量数据库服务，用于 RAG 与语义检索场景，支持大规模向量相似度搜索。
ClickHouse
开源的列式分析数据库，新增向量检索与近似最近邻索引，可同时处理大规模分析与 AI 检索负载。
关于「AI基建」的常见问题
「AI基建」分类下有哪些工具？
本站「AI基建」分类共收录 16 款工具，其中行业知名度较高的有 NVIDIA、Redis、NVIDIA H100 Tensor Core GPU 等，可在上方列表按顺序查看。
如何挑选合适的AI基建工具？
建议先明确使用场景，再从知名度较高的工具（如 NVIDIA）开始试用，并综合是否提供免费额度、中文支持与访问条件做取舍。