海光 DCU 深度计算单元
海光信息面向 AI 与高性能计算的加速卡产品线，兼容主流类 CUDA 生态，广泛用于国内大模型训练与推理集群。
排序
燧原科技 邃思 AI 芯片
国产 AI 算力芯片厂商，邃思系列训练与推理加速卡面向数据中心，配合驭算软件平台服务大模型算力需求。
壁仞科技 BR 系列通用 GPU
国产通用 GPU 芯片厂商，其 BR100 系列面向数据中心 AI 训练与推理，提供高算力密度与自研软件栈支持。
寒武纪 思元 MLU
中科寒武纪云端智能芯片产品线，覆盖训练与推理加速卡，配套 Cambricon NeuWare 软件栈，服务国内数据中心 AI 算力需求。
华为昇腾 AI 处理器
华为自研 AI 处理器产品线，配合昇腾 AI 基础软硬件平台与 MindSpore 框架，为国内大模型训练推理提供算力底座。
AWS Inferentia
亚马逊自研推理加速芯片，面向云端大模型推理优化单位成本，适合高并发、低延迟的生成式 AI 在线服务部署。
AWS Trainium
亚马逊自研 AI 训练芯片，通过 EC2 实例提供高性价比训练算力，与 Neuron SDK 配合可低成本训练和微调大模型。
Google Cloud TPU
谷歌自研张量处理单元，通过云端提供大规模 AI 训练与推理算力，与 TensorFlow、JAX 深度集成，支撑 Gemini 等模型训练。
Intel Gaudi 3 AI Accelerator
英特尔面向数据中心的 AI 加速器，集成矩阵乘法引擎与高速以太网互联，主打大模型训练与推理的开放生态和成本优势。
NVIDIA GeForce RTX 5090
Blackwell 架构消费级旗舰显卡，拥有 32GB GDDR7 显存与强大算力，是个人开发者本地运行大模型与微调的热门选择。
NVIDIA GB200 NVL72
机架级 AI 计算单元，将 72 颗 Blackwell GPU 与 Grace CPU 通过高速互联整合为单一计算域，专为超大模型训练设计。
NVIDIA Blackwell B200
Blackwell 架构新一代 AI 加速平台，采用双芯片封装与第二代 Transformer 引擎，面向万亿参数级模型训练与推理。
NVIDIA A100 Tensor Core GPU
Ampere 架构数据中心 GPU，支持多实例 GPU 与结构化稀疏加速，长期作为 AI 训练和科学计算的主力加速卡，生态成熟稳定。
NVIDIA H100 Tensor Core GPU
基于 Hopper 架构的数据中心 AI 加速卡，配备 Transformer 引擎与 HBM3 显存，是大模型训练与推理的行业标杆，被全球主流云厂商广泛部署。
Weaviate
开源向量数据库，原生支持混合检索与多模态数据，可自托管或使用云服务。
Replicate
模型托管与推理云平台，通过 API 即可调用数千个开源模型，按用量计费无需自建 GPU。
Together AI
面向开发者的 AI 推理与训练云平台，提供开源大模型 API、微调与高性能推理服务。
Pinecone
托管式向量数据库服务，用于 RAG 与语义检索场景，支持大规模向量相似度搜索。
关于「AI基建」的常见问题
「AI基建」分类下有哪些工具？
本站「AI基建」分类共收录 16 款工具，其中行业知名度较高的有 NVIDIA、Redis、NVIDIA H100 Tensor Core GPU 等，可在上方列表按顺序查看。
如何挑选合适的AI基建工具？
建议先明确使用场景，再从知名度较高的工具（如 NVIDIA）开始试用，并综合是否提供免费额度、中文支持与访问条件做取舍。