
韩国AI芯片初创公司FuriosaAI昨天甩出了一张王牌——第三代AI推理加速器。这颗芯片的性能直接比上一代翻了32倍,面积也膨胀了8倍,摆明了要在AI推理赛道上跟英伟达掰手腕。
先说说这颗芯片长什么样。FuriosaAI这次拉上了博通一起干,芯片里面塞了2颗2纳米工艺的计算核心、1颗专门负责数据传输的I/O芯片,外加12个48GB的HBM4内存堆栈。你可以把它想象成一台超级跑车:两台发动机负责猛冲,一根传动轴负责传输动力,还有12个超大油箱保证续航。
具体数据更有冲击力。这颗芯片的算力达到32 PFLOPS——换算成大白话,就是每秒能完成32千万亿次浮点运算。上一代RGND芯片的算力只有它的零头。内存容量也够吓人,576GB的HBM内存,是上一代的12倍;内存带宽48TB/s,同样涨了32倍。
打个比方,上一代芯片像是双向四车道的高速公路,这一代直接扩成了双向一百二十八车道。数据跑起来不堵车,AI模型跑起来自然快得多。
这颗芯片还支持PCIe Gen7接口,机架内部用SUE全连接拓扑把多颗芯片串在一起。什么意思呢?就是多颗芯片协同工作时,彼此之间的沟通几乎没有延迟,像是一个配合默契的团队,而不是各自为战的散兵游勇。
FuriosaAI这次选择与博通合作也值得琢磨。博通在芯片互连和定制化设计上经验老到,FuriosaAI负责AI推理架构,博通负责把芯片造出来、连起来。这种分工模式在AI芯片创业公司里越来越常见——自己专注设计,制造和封装交给专业选手。
从行业角度看,AI推理芯片的竞争正在升温。训练大模型需要英伟达的GPU,但推理——也就是让训练好的模型实际干活——同样是个巨大的市场。FuriosaAI、Groq、Cerebras这些公司都在盯着这块蛋糕。第三代芯片把算力和内存带宽同时拉高32倍,说明FuriosaAI瞄准的是更大规模、更复杂的AI推理任务,比如长上下文的大语言模型或者实时视频分析。
当然,纸面参数好看是一回事,实际落地能不能打是另一回事。芯片的功耗、散热、软件生态适配,都是决定它能不能被客户真正用起来的关键。FuriosaAI还没有公布量产时间和具体客户,这颗芯片距离真正跑在数据中心里还有一段路要走。
但有一点可以确定:AI推理芯片的军备竞赛,已经进入白热化阶段了。