Etched Sohu

3小时前更新 2 0 0

把 Transformer 架构直接固化进硅片的专用推理芯片,赌注是架构确定性带来的极致能效。

收录时间:
2026-10-23
Etched SohuEtched Sohu

把 Transformer 架构直接固化进硅片的专用推理芯片,赌注是架构确定性带来的极致能效。

一块为 Transformer 定制的芯片

Etched 在做一件很"轴"的事:把 Transformer 架构直接刻进硅片里。不是通用 GPU 那种什么都能算的芯片,而是只认 Transformer 这一种模型的专用推理芯片(ASIC)。官网给出的定位很明确——赌的是架构确定性换来的极致能效。

什么人该关注它?如果你在跑大规模模型推理,被 GPU 的功耗和成本压得难受,或者你相信 Transformer 在未来几年仍是主流架构、不会轻易被推翻,那这套思路值得看一眼。反过来,如果你的业务需要频繁切换模型架构、做大量实验性训练,专用芯片的刚性反而是负担。

为什么敢押"确定性"

通用 GPU 的灵活性是有代价的。为了兼容各种算子、各种模型,芯片上大量晶体管和调度逻辑花在了"通用"上,真正用于矩阵运算的比例被稀释。Etched 的判断是:Transformer 的结构已经足够稳定,注意力机制、前馈网络、残差连接这些组件短期内不会大变。既然如此,为什么不把这些固定的计算模式直接硬化成电路?

这样做的好处直接体现在能效上。省掉通用调度的开销,数据在片上的流动路径可以按 Transformer 的实际计算图来设计,单位功耗能跑出更多 token。对推理场景来说,这是实打实的账——推理是长期、持续、规模化的开销,能效每提升一档,运营成本就往下压一截。

专用化的取舍

得说清楚代价。芯片一旦流片,架构就锁死了。模型侧的任何结构性改动,都可能让硬件利用率打折扣。这跟 GPU 生态的"什么都能跑"是两种哲学。Etched 的赌注本质上是:Transformer 会像当年的 x86 指令集一样,成为足够长命的底层范式,长到值得为它专门造硬件。

这个判断对不对,市场会给答案。但至少逻辑是自洽的——在一个架构趋于收敛的领域里,专用化带来的效率红利,往往比通用性更值钱。

适合谁看

  • 做推理基础设施、算成本账的工程团队
  • 关注 AI 芯片专用化路线的研究者和投资人
  • 想理解"架构确定性"如何转化为硬件优势的技术读者

官网 https://www.etched.com/ 上有更完整的技术说明和产品信息,想深挖的可以直接去看。

常见问题

Etched Sohu 是什么?

把 Transformer 架构直接固化进硅片的专用推理芯片,赌注是架构确定性带来的极致能效。

Etched Sohu 的官方网站是什么?

Etched Sohu 的官方网站是 https://www.etched.com/,可直接在浏览器中打开使用。

数据统计

相关导航

暂无评论

您必须登录才能参与评论!
立即登录
none
暂无评论...