AWS Trainium
亚马逊自研 AI 训练芯片，通过 EC2 实例提供高性价比训练算力，与 Neuron SDK 配合可低成本训练和微调大模型。
排序
Google Cloud TPU
谷歌自研张量处理单元，通过云端提供大规模 AI 训练与推理算力，与 TensorFlow、JAX 深度集成，支撑 Gemini 等模型训练。
Intel Data Center GPU Max 系列
代号 Ponte Vecchio 的数据中心 GPU，采用多芯片封装与 Xe HPC 架构，面向高性能计算与 AI 融合负载。
Intel Gaudi 3 AI Accelerator
英特尔面向数据中心的 AI 加速器，集成矩阵乘法引擎与高速以太网互联，主打大模型训练与推理的开放生态和成本优势。
AMD Instinct MI325X
MI300X 的升级型号，将 HBM3e 显存提升至 256GB 并提高带宽，进一步强化大模型推理与长上下文处理的性价比。
AMD Instinct MI300X
AMD 数据中心 AI 加速卡，配备 192GB HBM3 显存与 CDNA 3 架构，以高显存容量优势在大模型推理与训练场景快速崛起。
NVIDIA GeForce RTX 5090
Blackwell 架构消费级旗舰显卡，拥有 32GB GDDR7 显存与强大算力，是个人开发者本地运行大模型与微调的热门选择。
NVIDIA L40S GPU
面向生成式 AI 推理与图形渲染的通用数据中心 GPU，配备 48GB 显存与第四代 Tensor Core，兼顾推理、微调与虚拟化场景。
NVIDIA GB200 NVL72
机架级 AI 计算单元，将 72 颗 Blackwell GPU 与 Grace CPU 通过高速互联整合为单一计算域，专为超大模型训练设计。
NVIDIA Blackwell B200
Blackwell 架构新一代 AI 加速平台，采用双芯片封装与第二代 Transformer 引擎，面向万亿参数级模型训练与推理。
NVIDIA H200 Tensor Core GPU
H100 的显存升级版本，搭载 141GB HBM3e 显存与更高带宽，显著提升大模型推理吞吐与长上下文场景下的表现。
NVIDIA A100 Tensor Core GPU
Ampere 架构数据中心 GPU，支持多实例 GPU 与结构化稀疏加速，长期作为 AI 训练和科学计算的主力加速卡，生态成熟稳定。
NVIDIA H100 Tensor Core GPU
基于 Hopper 架构的数据中心 AI 加速卡，配备 Transformer 引擎与 HBM3 显存，是大模型训练与推理的行业标杆，被全球主流云厂商广泛部署。
Milvus
开源分布式向量数据库，面向十亿级向量检索场景，广泛用于推荐与语义搜索。
Weaviate
开源向量数据库，原生支持混合检索与多模态数据，可自托管或使用云服务。
Pinecone
托管式向量数据库服务，用于 RAG 与语义检索场景，支持大规模向量相似度搜索。
Together AI
面向开发者的 AI 推理与训练云平台，提供开源大模型 API、微调与高性能推理服务。
Replicate
模型托管与推理云平台，通过 API 即可调用数千个开源模型，按用量计费无需自建 GPU。
关于「AI基建」的常见问题
「AI基建」分类下有哪些工具？
本站「AI基建」分类共收录 16 款工具，其中行业知名度较高的有 NVIDIA、Redis、NVIDIA H100 Tensor Core GPU 等，可在上方列表按顺序查看。
如何挑选合适的AI基建工具？
建议先明确使用场景，再从知名度较高的工具（如 NVIDIA）开始试用，并综合是否提供免费额度、中文支持与访问条件做取舍。