标签:"KVCache"相关文章

广发证券:MRDIMM和CXL增加AI服务器内存 建议关注产业链核心受益标的(广发证券手机版下载)

广发证券:MRDIMM和CXL增加AI服务器内存 建议关注产业链核心受益标的(广发证券手机版下载)

智通财经APP获悉,广发证券发布研报称,在高并发、长上下文的密集型推理中,MRDIMM与CXL形成“近端高带宽+远端大容量”的分层协同,以更低TCO增加AI服务器内存供给与弹性扩展。 MRDIMM在大模型推理…...