Tenstorrent Tensix 加速卡
基于 RISC-V 与 Tensix 核心的 AI 加速卡厂商，提供开源软件栈与可扩展架构，面向训练推理一体化场景。
排序
SambaNova SN40L
可重构数据流架构 AI 芯片，单机架支持超大模型推理，提供从芯片到系统的全栈方案，主打企业级私有部署。
Graphcore IPU
英国 Graphcore 的智能处理单元，采用大规模并行架构与片上分布式内存，面向图计算与 AI 训练推理负载。
海光 DCU 深度计算单元
海光信息面向 AI 与高性能计算的加速卡产品线，兼容主流类 CUDA 生态，广泛用于国内大模型训练与推理集群。
燧原科技 邃思 AI 芯片
国产 AI 算力芯片厂商，邃思系列训练与推理加速卡面向数据中心，配合驭算软件平台服务大模型算力需求。
壁仞科技 BR 系列通用 GPU
国产通用 GPU 芯片厂商，其 BR100 系列面向数据中心 AI 训练与推理，提供高算力密度与自研软件栈支持。
AWS Trainium
亚马逊自研 AI 训练芯片，通过 EC2 实例提供高性价比训练算力，与 Neuron SDK 配合可低成本训练和微调大模型。
NVIDIA GeForce RTX 5090
Blackwell 架构消费级旗舰显卡，拥有 32GB GDDR7 显存与强大算力，是个人开发者本地运行大模型与微调的热门选择。
NVIDIA H200 Tensor Core GPU
H100 的显存升级版本，搭载 141GB HBM3e 显存与更高带宽，显著提升大模型推理吞吐与长上下文场景下的表现。
Langfuse
开源的 LLM 可观测性平台，提供调用追踪、提示管理与评测功能，支持自托管并兼容 OpenTelemetry。
llama.cpp
开源的 C/C++ 大模型推理框架，支持 CPU 与多平台量化推理，是本地部署开源模型的常用底座。
pgvector
PostgreSQL 的开源向量检索扩展，为关系数据库增加向量类型与近似检索索引，适合已有 PG 系统改造。
Groq LPU 推理芯片
专为大语言模型推理设计的张量流处理器，以超低延迟和确定性输出著称，通过 GroqCloud 提供高速模型推理服务。
摩尔线程 MTT 全功能 GPU
国产全功能 GPU 企业，产品覆盖数据中心 AI 加速与图形渲染，配套 MUSA 统一系统架构，支持大模型训练推理。
Intel Gaudi 3 AI Accelerator
英特尔面向数据中心的 AI 加速器，集成矩阵乘法引擎与高速以太网互联，主打大模型训练与推理的开放生态和成本优势。
NVIDIA GB200 NVL72
机架级 AI 计算单元，将 72 颗 Blackwell GPU 与 Grace CPU 通过高速互联整合为单一计算域，专为超大模型训练设计。
NVIDIA A100 Tensor Core GPU
Ampere 架构数据中心 GPU，支持多实例 GPU 与结构化稀疏加速，长期作为 AI 训练和科学计算的主力加速卡，生态成熟稳定。
Replicate
模型托管与推理云平台，通过 API 即可调用数千个开源模型，按用量计费无需自建 GPU。
地平线 征程6
面向智能驾驶的车载计算方案，把感知与决策算法跑在车规级芯片上。
Azure Maia 100
微软自研的 AI 加速芯片，为 Azure 上的大模型服务提供定制算力。
NVIDIA Blackwell Ultra B300
NVIDIA 面向超大规模推理的新一代加速卡，显存与前代相比大幅提升，主打长上下文与推理吞吐。
Axelera AI
欧洲的边缘推理芯片新锐，数字存内计算架构在视觉任务上能效突出。
Hailo-8
以色列厂商的边缘 AI 加速芯片，以高能效比见长，常用于工业与车载视觉。
Etched Sohu
把 Transformer 架构直接固化进硅片的专用推理芯片，赌注是架构确定性带来的极致能效。
黑芝麻智能 华山A2000
车规级自动驾驶计算芯片，主打多核异构架构与高算力密度。
百度昆仑芯
百度自研的 AI 处理器系列，支撑自家搜索与文心大模型的训练推理。
AWS Trainium2
亚马逊自研训练芯片第二代，与自研互联配合降低大模型训练成本。
Lightmatter Envise
硅光计算的代表产品，用光互联与光计算降低大规模 AI 集群的能耗。
爱芯元智
专注边缘侧 AI 视觉芯片的厂商，产品广泛用于智能摄像机与安防场景。
Google TPU v6 Trillium
Google 第六代张量处理单元，为自家大模型训练与推理服务提供算力底座。