自家芯片助力:SambaNova 推出最快 DeepSeek-R1 671B 推

2025-02-21 18:22:18

  AI 芯片与解决方案企业 SambaNova 宣布在其基于自研SN40L RDU 处理器的云平台上推出号称“市面最快”的 DeepSeek-R1 671B 模型推理云服务,并表示其 token 输出速度可达每 prompt 每秒 198 个。

  SambaNova 的 SN40L RDU 芯片基于台积电 5nm 制程,BF16 算力可达 638 TFLOPS。其此外 SN40L RDU 在结构上的灵活性使得其SambaNova 宣称,其仅需一台容纳 16 个 SN40L RDU 芯片的机架就能完成 DeepSeek-R1 671B 部署。

下一篇:荣耀手机:DeepSeek-R1 联网版将覆盖 MagicOS 8.0 及以
上一篇:蔚来官方回应换电站火灾事故:屋顶照明灯起火
返回顶部小火箭