让GPU不再干等数据!中科曙光ParaCache立功:Token并发提升16倍
最新10月30日消息,在10月29日于郑州举办的2026数据存储产业大会上,中科曙光展示了以“AI数据工厂”为核心的最新探索,推动存储从被动数据保存走向主动参与AI生产全流程,解决大模型推理中Token生成效率低下的核心痛点。
随着AI从生成迈入执行阶段,智能体长上下文和多轮交互需要持续访问与更新数据。数据供给不及时、计算结果难以复用,不仅增加响应延迟,也造成算力资源浪费。

中科曙光分布式存储产品部总经理石静指出,存储的核心价值是持续向Agent提供可检索、可更新、可治理的记忆与上下文。
要让存储真正加速Token生成,先要解决数据分散与孤岛问题。中科曙光依托ParaStor分布式存储与FlashNexus集中式存储,通过统一命名空间和多协议访问实现海量异构数据的统一管理,并根据数据热度跨介质、跨平台调度,减少重复搬运。
在此之上,“存-算-传-用”全栈协同进一步压缩I/O路径。通过XDS数据直通、BurstBuffer本地缓存与scaleFabric高速网络协同优化,数据读取与模型计算得以并行开展,让GPU尽量不再空等数据。
推理环节的关键突破在于KV Cache的管理。ParaCache统一管理多级KV Cache并实现跨节点共享,减少重复计算。在64K上下文测试中,相较GPU纯计算方式,采用分布式存储的方案Token并发数提升16倍,首Token时延降低95%以上。
目前,曙光AI数据工厂方案已在多个场景落地验证。在国家超算互联网核心节点曙光8000系统中,数百PB级存储构建了统一数据底座。
在智元机器人数采工厂,百PB级对象存储与数十PB级全闪文件存储协同,支撑上千小时训练不间断;在自动驾驶领域,全闪与混闪统一资源池提供100PB以上可用空间。
从数据容器到AI数据工厂,存储的角色正在被重新定义。当Token生成的效率直接决定AI应用的成本与体验,让数据按需流动、让计算结果持续复用,正在成为算力之外的另一条提速路径。

《让GPU不再干等数据!中科曙光ParaCache立功:Token并发提升16倍》转载自互联网,如有侵权,联系我们删除,QQ:369-8522。
相关图文
-
DDR5价格失控!128GB内存一年暴涨761%:单套高达2.1万元
快科技10月30日消息,据报道,日本DDR5内存价格在过去一年出现了极端上涨。其中海盗船DDR5-6000 128GB套装(64GB×2)的零售价已从2025年10月的59,800日元(约合人民币2530元),一路攀升至... -
涨价逼疯玩家!大神花1185元把笔记本DDR5魔改成台式机内存:成本仅新品的三分之一
快科技10月30日消息,全球DRAM内存价格的持续暴涨,正在把DIY玩家逼出极限操作。近日,YouTube硬核博主Blighted Agent在社交平台分享了一项改造项目:他花费120美元(快科技注:约合人民币8... -
陈立武:内存空前紧缺!客户正在削减PC采购
快科技10月30日消息,英特尔CEO陈立武在第三季度财报电话会上表示,受内存价格和供应状况影响,客户近几周开始释放出PC市场放缓的信号。他同时承认,公司正面临制造供应短缺、空前的内存紧缺,以... -
内存供不应求!长鑫前三季度净利润1320.4亿元:新一代G6产品已完成工程验证
快科技10月30日消息,长鑫科技晚间发布2026年第三季度财报,第三季度(7-9月)实现营业收入1187.14亿元,环比增长19.30%;净利润约889.83亿元,环比增长约19.38%。前三季度实现营业收入2690.2... -
16GB DDR5价超1800元 年底内存还得涨:DDR4没便宜可占了
快科技10月30日消息,内存价格已经整整涨了一年了,今年Q4季度涨价的趋势依然不会变,好消息是涨幅不如之前那么高了,坏消息是DDR4内存涨得更猛,几乎不再有价差优势。韩国SK证券公布了10月份...












