把 Transformer 架构直接固化进硅片的专用推理芯片,赌注是架构确定性带来的极致能效。
一块为 Transformer 定制的芯片
Etched 在做一件很"轴"的事:把 Transformer 架构直接刻进硅片里。不是通用 GPU 那种什么都能算的芯片,而是只认 Transformer 这一种模型的专用推理芯片(ASIC)。官网给出的定位很明确——赌的是架构确定性换来的极致能效。
什么人该关注它?如果你在跑大规模模型推理,被 GPU 的功耗和成本压得难受,或者你相信 Transformer 在未来几年仍是主流架构、不会轻易被推翻,那这套思路值得看一眼。反过来,如果你的业务需要频繁切换模型架构、做大量实验性训练,专用芯片的刚性反而是负担。
为什么敢押"确定性"
通用 GPU 的灵活性是有代价的。为了兼容各种算子、各种模型,芯片上大量晶体管和调度逻辑花在了"通用"上,真正用于矩阵运算的比例被稀释。Etched 的判断是:Transformer 的结构已经足够稳定,注意力机制、前馈网络、残差连接这些组件短期内不会大变。既然如此,为什么不把这些固定的计算模式直接硬化成电路?
这样做的好处直接体现在能效上。省掉通用调度的开销,数据在片上的流动路径可以按 Transformer 的实际计算图来设计,单位功耗能跑出更多 token。对推理场景来说,这是实打实的账——推理是长期、持续、规模化的开销,能效每提升一档,运营成本就往下压一截。
专用化的取舍
得说清楚代价。芯片一旦流片,架构就锁死了。模型侧的任何结构性改动,都可能让硬件利用率打折扣。这跟 GPU 生态的"什么都能跑"是两种哲学。Etched 的赌注本质上是:Transformer 会像当年的 x86 指令集一样,成为足够长命的底层范式,长到值得为它专门造硬件。
这个判断对不对,市场会给答案。但至少逻辑是自洽的——在一个架构趋于收敛的领域里,专用化带来的效率红利,往往比通用性更值钱。
适合谁看
- 做推理基础设施、算成本账的工程团队
- 关注 AI 芯片专用化路线的研究者和投资人
- 想理解"架构确定性"如何转化为硬件优势的技术读者
官网 https://www.etched.com/ 上有更完整的技术说明和产品信息,想深挖的可以直接去看。
常见问题
Etched Sohu 是什么?
把 Transformer 架构直接固化进硅片的专用推理芯片,赌注是架构确定性带来的极致能效。
Etched Sohu 的官方网站是什么?
Etched Sohu 的官方网站是 https://www.etched.com/,可直接在浏览器中打开使用。
