2 年,$50 亿——这家小公司要革 Nvidia 的命?
老黄真正的对手,可能不是 AMD,而是一个极致的“偏科生”。
本周,成立仅 2 年的 AI 芯片初创公司 Etched 正式走出隐身模式,交出了一份震撼硅谷的成绩单:
累计融资 $8 亿
估值冲上 $50 亿
签下 $10 亿 预售合同
背后投资天团包括:Jane Street、Peter Thiel、Andrej Karpathy、Geoffrey Hinton、Fei-Fei Li,以及一家与台积电深度绑定的战略基金。
一家初创小公司,凭什么挑战万亿巨头?
答案就四个字:极致偏科。
🚨 Nvidia 的隐痛:“全能冗余怪”
Nvidia 的 GPU 是人类工程史上最伟大的通用计算机器。它能跑游戏、做科学模拟、训练 AI、渲染特效——但这种“万能”的代价,是巨大的资源闲置。
有人做过一道让 Nvidia 难堪的算术题:
H100 拥有 800 亿个晶体管,但真正用于大模型核心运算(矩阵乘法)的张量核心(Tensor Cores),只占约 3.3%。剩下 96.7% 的晶体管,全是调度器、指令解码器、光追单元等“历史包袱”。
更要命的是利用率。在跑大模型推理时,H100 的实际利用率通常只有 30-40%。你花几十万买来的芯片,大半时间都在发呆。
为什么?因为大模型推理是“一个字一个字往外蹦”的自回归过程。每生成一个 Token,都要把几十 GB 的权重从显存里读一遍。这是内存带宽瓶颈,不是算力瓶颈。 强大的计算核心,大部分时间都在傻傻地等内存喂数据。
⚡ Etched 的赌注:把 Transformer 直接烧进硅片
Etched 走了一条近乎疯狂的极端路线:把 Transformer 架构的全部计算逻辑,直接用固定电路硬编码进硅片(ASIC),彻底拿掉可编程层。
这不是优化 CUDA,也不是写个更好的编译器。它的 Sohu 芯片(台积电 N4P 工艺)里根本没有通用计算单元,取而代之的是两套专属引擎:
收缩阵列(Systolic Array): 专喂 FFN 的大规模矩阵乘法。
自注意力电路(Self-Attention Circuit): 专门搞定 Attention 计算中最棘手的 Softmax 和加权求和。
这两套引擎拥有独立的 HBM 内存通道,权重和 KV Cache 读取互不干扰。
这直接干掉了 GPU 的一个长期痛点。在 GPU 上跑 FlashAttention,每次遇到 Softmax 向量计算,矩阵乘法单元就得“停工”等待切换。EPFL 研究显示,这种“停走切换”让通用加速器的矩阵吞吐量(90 TFLOPs/s)和向量单元(2.3 TFLOPs/s)产生了 40 倍的性能鸿沟。而 Sohu 靠专属硬件两条流水线并行,根本不存在切换损耗。
结果有多夸张?
Etched 宣称,一台 8 芯 Sohu 服务器在跑 Llama 70B 时,吞吐量达 50 万 Tokens/秒。
单颗 Sohu: 约 6.25 万 Tokens/秒
单颗 H100: 同等任务下约 700 Tokens/秒
官方宣称:8 颗 Sohu 即可替代 160 张 H100。
哪怕这些数字注了水、打个五折,这个效率差距也足以让数据中心的主管们疯狂。
⚠️ 这场惊天赌局的命门在哪里?
Sohu 的逻辑无懈可击——前提是:Transformer 架构在未来几年内不会被颠覆。
Sohu 是一辆只能在特定轨道上跑的磁悬浮列车。在那条轨道上,它比任何东西都快;但一旦轨道换了,它就是一块昂贵的废铁。
现在最火的一批开源大模型(如 DeepSeek、Qwen 的最新迭代)都在全面转向 MoE(混合专家架构),其复杂的动态路由对固定电路是极大挑战;更不用说多模态视觉模型、扩散模型、以及完全跳出 Transformer 的 Mamba/SSM 架构。
此外,Nvidia 的真正护城河是积累了 20 年的 CUDA 生态。让工程师为了性能去重构整套软件推理栈,迁移成本高得吓人。
🌊 但格局,确实在变了
2023 年,Etched 的两位哈佛辍学创始人拿着 30 页 PPT 四处路演,论证“AI 终将需要专用推理芯片”,被几乎所有主流投资人拒绝,公司一度靠月度现金流勉强续命。
2026 年,同样的判断,换来了 $8 亿融资 与 $10 亿合同。
这不只是 Etched 的故事。Cerebras 完成了今年最受瞩目的 IPO,Groq 刚斩获 $6.5 亿巨额融资,大厂(Amazon、Google、微软、OpenAI)也都在疯狂自研专用推理芯片。整个行业都在用真金白银投票:AI 推理的基础设施,不能永远被一家公司垄断。
老…
评论 0
还没有评论,来说两句吧。
登录 后参与评论