华为云发布柔性智算操作系统FlexNPU
3月20日,华为云中小企业AI解决方案发布会上推出了柔性智算操作系统FlexNPU,旨在通过构筑强大而灵活的AI Infra层算力调度技术,提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出。
本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。
3月20日,华为云中小企业AI解决方案发布会上推出了柔性智算操作系统FlexNPU,旨在通过构筑强大而灵活的AI Infra层算力调度技术,提升推理池的有效算力利用率,从而以相同AI硬件算力投入,提供更大的Token吞吐输出。
本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。