您的位置:首页> 科技> 爱分析联合京东云发布《金融行业先进AI存力报告》

爱分析联合京东云发布《金融行业先进AI存力报告》

来源:中国银行保险报时间:2023-12-04 20:09

中国银行保险报网讯【记者 苏洁】

近日,爱分析联合京东云发布《金融行业先进AI存力报告》(以下简称“报告”)。报告对金融机构布局大模型的存力需求做了深入剖析,并提出构建可用、可信、可控的先进存力,是金融行业落地大模型的必答题

大模型落地过程中,算力、数据和算法是三大支撑要素。在算力建设方面,企业普遍将注意力投向价格高昂、技术供给上有“卡脖子”风险的GPU,相比以GPU为代表的计算力,存力的重要性往往被忽视,但事实上,大模型必须依托由高性能计算芯片、存储和网络共同构成的大规模算力集群。而算力集群存在“木桶效应”,如果存储和网络性能无法支撑大规模数据存储、读写和传输,高性能计算芯片也无用武之地,最终影响大模型训练效率。报告指出,大模型场景对于存力有着高吞吐、高IOPS、高带宽、低延时的极致性能要求。

报告指出,在重视大模型能力建设的背景下,金融机构必须构建起坚实的智能算力基础设施,以支撑大模型的高效训练和部署。

面向金融机构大模型场景,京东云云海分布式存储产品基于全自研的统一底座,具备高性能、强兼容性、低成本的优势,能很好地满足金融机构对于国产化和软硬件解耦的需求。目前,京东云云海分布式存储已服务数家头部商业银行和证券公司的大模型算力基础设施建设。

报告指出,面向未来,金融机构应当提升对存力建设的重视度,进行前瞻性的统筹规划,做好存力与计算力、网络的匹配,避免出现存力短板。云海作为京东云面向金融大模型落地构建的先进存力产品,将为金融机构数智基础设施建设提供坚实支撑。