科技

专为大模型设计:新芯航途 X7 Ultra 芯片中国首发量产 Armv9 车规级 CPU

来源: IT之家 · 发布于

分享:
专为大模型设计:新芯航途 X7 Ultra 芯片中国首发量产 Armv9 车规级 CPU

IT之家 10 月 29 日现场消息,在今天的发布会上,XHEART 新芯航途 CEO 李宗霖正式发布全新 X7 Ultra 大模型芯片。 据介绍,这枚芯片专为大模型设计,拥有超大核 NPU 架构,核内数据交互对比核间数据交互, 互联速率 TB/s 数量级提升 。另外,芯片的多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。 新芯航途 X7 Ultra 大模型芯片内置高精度大模型专用算子加速引擎,针对 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型关键算子进行极致硬件优化,原生支持 FP16/FP32 高精度向量计算,保障模型精度。 通过架构与工具链协同创新, X7 Ultra 支持可部署模型参数量实现 10 倍提升 ,让更大的模型在车端高效运行。 根据新芯航途官方公布的数据,X7 Ultra 的 NPU…

要点

  • IT之家 10 月 29 日现场消息,在今天的发布会上,XHEART 新芯航途 CEO 李宗霖正式发布全新 X7 Ultra 大模型芯片。
  • 据介绍,这枚芯片专为大模型设计,拥有超大核 NPU 架构,核内数据交互对比核间数据交互, 互联速率 TB/s 数量级提升 。另外,芯片的多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。
  • 新芯航途 X7 Ultra 大模型芯片内置高精度大模型专用算子加速引擎,针对 Layernorm、Softmax、Transpose 等一系列 Transformer 大模型关键算子进行极致硬件优化,原生支持 FP16/FP32 高精度向量计算,保障模型精度。
  • 通过架构与工具链协同创新, X7 Ultra 支持可部署模型参数量实现 10 倍提升 ,让更大的模型在车端高效运行。

相关报道

阅读原文 ↗

本站为新闻聚合平台:仅展示标题与简短摘要,并附上原文链接,不转载全文。