美股异动丨谷歌新技术有望解决内存瓶颈问题,存储概念股应声下跌
存储概念股全线下跌,闪迪跌5.2%,美光科技、希捷科技跌4.5%,西部数据跌3.6%。 消息面上,Google Research近日推出全新的KV缓存压缩方法TurboQuant。据称,该技术可在不损失准确性的前提下,将大语言模型的缓存内存占用至少减少6倍,并实现最高8倍的加速,旨在解决AI推理与向量搜索中的内存瓶颈问题。(格隆汇)
本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。
存储概念股全线下跌,闪迪跌5.2%,美光科技、希捷科技跌4.5%,西部数据跌3.6%。 消息面上,Google Research近日推出全新的KV缓存压缩方法TurboQuant。据称,该技术可在不损失准确性的前提下,将大语言模型的缓存内存占用至少减少6倍,并实现最高8倍的加速,旨在解决AI推理与向量搜索中的内存瓶颈问题。(格隆汇)
本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。