壁仞科技发布下一代1024卡NPO光互联超节点架构

财新网查看原文

摘要

17月17日,壁仞科技(06082.HK)发布下一代1024卡NPO架构超节点,采用光互联技术应对AI三大挑战:MoE主流化、模型参数迈向数万亿及Agent百万级上下文需求。
2该架构通过海量GPU高速互联形成超级计算节点,突破单卡算力瓶颈,旨在提升大规模AI训练与推理效率,标志着国产AI算力基础设施向集群化、光互联方向演进。

文本

【财新网】“当前AI发展面临三大核心挑战:MoE(Mixture of Experts,专家混合)成为超大模型的主流架构、模型参数从千亿迈向数万亿、Agent(智能体)等应用场景要求百万级上下文长度。”7月17日,壁仞科技(06082.HK)AI框架架构副总裁丁云帆在媒体沟通会上称,仅凭单张 GPU 的算力性能,已难以独立承载上述复杂任务。超节点架构,即通过将海量 GPU 高速互联形成一个超级计算节点,正是为了解决这一问题而提出。

【财新网】“当前AI发展面临三大核心挑战:MoE(Mixture of Experts,专家混合)成为超大模型的主流架构、模型参数从千亿迈向数万亿、Agent(智能体)等应用场景要求百万级上下文长度。”7月17日,壁仞科技(06082.HK)AI框架架构副总裁丁云帆在媒体沟通会上称,仅凭单张 GPU 的算力性能,已难以独立承载上述复杂任务。超节点架构,即通过将海量 GPU 高速互联形成一个超级计算节点,正是为了解决这一问题而提出。

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。