现在的存延迟显卡具有多级缓存结构，这些级别的比拼缓存经过精心设计，可填补计算间的存延迟空白，对GPU的比拼性能与速度有着重要影响。不同的存延迟GPU供应商（例如AMD和NVIDIA）具有不同大小的L1和L2缓存。例如，比拼NVIDIA A100 GPU上的存延迟L2缓存为40MB，这是比拼上一代GPU L2缓存量的七倍，绝地求生黑号这表明有许多新的存延迟应用程序比以前更吃缓存了。

TDP消息，比拼国外一网站测试了最新一代显卡（AMD的存延迟RDNA 2和NVIDIA的Ampere）的GPU显存延迟。通过在OpenCL中使用指针追逐测试，比拼可得出以下结论：RDNA 2的存延迟高速缓存非常快速，与Ampere相比，比拼缓存延迟要低得多，存延迟而VRAM延迟几乎是相同的；NVIDIA使用由L1和L2组成的两级缓存系统，游戏辅助网速度相对较慢，数据从拥有L1缓存的Ampere SM簇传输到外部L2的需要100ns左右的延迟。

AMD具有三级缓存系统，L1和L2之间的延迟只有66ns。Infinity Cache本质上是L3缓存，仅增加了20ns的额外延迟，与NVIDIA的缓存解决方案相比，AMD更具优势。