6种常见的缓存策略,请查收

前言

缓存(Cache)策略在计算机系统中起着至关重要的作用,它们决定了数据如何在存储层次结构中流动和被管理,缓存策略的选择可以显著影响系统的性能、可靠性和复杂性。我们来分析 6种常见缓存策略:

  1. Read Through(读取穿透)
  2. Cache Aside(缓存旁路)
  3. Write Through(直写)
  4. Write Around(绕过缓存写)
  5. Write Back(回写)
  6. Refresh-ahead(预刷新)

Read Through

Read Through缓存策略是一种同步读取策略,在这种策略中,当应用程序需要读取数据时,首先查询缓存,如果缓存中没有所需的数据(即缓存未命中),缓存系统会自动从底层数据存储(如数据库)中读取数据,并将其存入缓存中,然后返回给应用程序。其模型如下图:

Read Through

优点:

  • 简化应用逻辑:应用程序不需要处理缓存未命中的情况,缓存系统自动处理数据加载。
  • 数据一致性:由于缓存系统直接从数据源读取数据,确保了缓存中的数据是最新的。

缺点:

  • 初次访问延迟:如果缓存未命中,读取操作会有一定的延迟,因为需要从底层存储中获取数据。
  • 缓存填充开销:每次缓存未命中时,都会导致底层存储的访问,这可能会增加系统的负载。

适用场景:

  • 适用于读操作频繁且读一致性要求较高的场景。
  • 在数据更新频率较低的情况下,Read Through可以有效减少应用程序的复杂性。

Cache Aside

Cache Aside(也称为Lazy Loading或Lazy Caching)策略要求应用程序显式地管理缓存。应用程序首先检查缓存,如果未命中,则从底层数据存储中读取数据,并将其放入缓存中供下次使用。其模型如下图:

Cache Aside

优点:

  • 灵活性高:应用程序可以根据具体需求决定何时加载和更新缓存。
  • 缓存命中率高:由于应用程序负责缓存管理,可以更好地优化缓存使用。

缺点:

  • 复杂性增加:应用程序需要处理缓存未命中的逻辑以及缓存的更新和失效。
  • 潜在的数据不一致性:如果数据更新后未及时刷新缓存,可能会导致不一致的数据。

适用场景:

  • 适用于读多写少且对读性能要求高的场景。
  • 应用程序可以容忍一定程度的数据不一致性。

Write Through

Write Through策略是一种同步写入策略,当应用程序对数据进行更新时,数据会同时写入缓存和底层数据存储,这确保了缓存和数据存储的一致性。其模型如下图:

WriteThrouth

优点:

  • 数据一致性强: 由于每次写操作都会更新缓存和数据存储,因此可以保证它们之间的数据一致性。
  • 简单的实现:不需要复杂的缓存失效机制。

缺点:

  • 写操作延迟:每次写操作都需要更新底层存储,这可能导致写操作的延迟增加。
  • 写入开销大:频繁的写操作可能会导致底层存储的负载增加。

适用场景:

  • 适用于数据一致性要求高且写操作相对较少的场景。
  • 在需要确保每次写入操作后的数据一致性时,Write Through是一种有效的策略。

Write Around

Write Around策略是一种变体的写入策略,当数据被更新时,仅更新底层数据存储,而不更新缓存,缓存的数据只有在被读取时才会更新。其模型如下图:

Write Around

优点:

  • 降低写入延迟:避免了每次写操作都更新缓存,从而降低了写入延迟。
  • 减轻缓存压力:写操作不会直接影响缓存,可以减少缓存的更新频率。

缺点:

  • 缓存未命中率高:由于写入操作不更新缓存,可能导致后续读取操作未命中缓存。
  • 潜在的数据不一致性:如果缓存中的数据在更新后没有及时刷新,可能会导致数据不一致。

适用场景:

  • 适用于写操作频繁且读操作可以容忍一定延迟的场景。
  • 在需要减少写操作对缓存影响的情况下,Write Around是一种可行的策略。

Write Back

Write Back策略是一种异步写入策略,当应用程序更新数据时,仅更新缓存,缓存中的数据会在一段时间后(或满足特定条件时)批量写入底层数据存储。其模型如下图:

Write Back

优点:

  • 写操作延迟低:由于写操作仅更新缓存,写入延迟较低。
  • 提高系统吞吐量:批量写入可以减少对底层存储的访问次数,提高系统的整体吞吐量。

缺点:

  • 数据一致性风险:由于底层存储更新滞后,可能导致数据不一致。
  • 数据丢失风险:如果缓存数据在写入底层存储之前丢失(例如系统故障),可能导致数据丢失。

适用场景:

  • 适用于写操作频繁且对写入性能要求高的场景。
  • 在可以接受一定程度的数据延迟和不一致性的情况下,Write Back是一种高效的策略。

Refresh-ahead(预刷新)

Refresh-ahead 是一种缓存预取策略,旨在提高系统的响应速度,尤其是在可预测的访问场景下,与其他缓存策略的被动性不同,refresh-ahead通过主动预测未来可能会被访问的数据,提前从主存储载入缓存中,从而减少未来请求时的缓存未命中率(Cache Miss)。其模型如下图:

Refresh-ahead

优点:

  • 减小读取延迟:通过提前加载数据降低未来请求的响应时间,特别是减少了缓存未命中的概率。
  • 提升性能:由于数据被提前载入,系统在实际请求到达时能立即提供服务,减少瓶颈。

缺点:

  • 资源浪费:如果预测不准确,预载入的数据可能根本不会被访问,这将导致内存和IO资源的浪费。
  • 处理复杂性增加:需要进行访问模式的监控与分析,对系统增加了额外的复杂度。

使用场景:

  • 时间序列数据:例如股票行情、传感器读数等具有强时间依赖或者逐步递增的数据流场景,这类数据的访问频率和顺序可以被良好预测。
  • 顺序读取:如果系统知道存在将要顺序访问的数据块,可以提前将数据加载到缓存。
  • 高延迟系统:例如大规模分布式系统或移动网络应用,提前刷新可以减少等待时间和网络延迟。

综合分析

在选择缓存策略时,需要根据具体的应用场景和需求进行权衡,以下是一些日常开发中经常需要考虑的因素:

  • 数据一致性:如果数据一致性是首要考虑因素,Write Through和 Read Through是较好的选择。
  • 性能要求:如果系统对性能要求较高,尤其是写入性能,Write Back策略可能更适合。
  • 复杂性与灵活性:Cache Aside提供了更大的灵活性,但也增加了应用程序的复杂性。
  • 延迟与吞吐量:Write Around可以减少写入延迟,而Write Back可以提高系统的吞吐量。
  • 可预测性:如果系统可预测性较强,Write Around可以减少写入延迟,而 Write Back可以提高系统的吞吐量。

总结

本文,我们分析了 5种常见的缓存策略,也是在我们日常开发中经常使用的策略,关于缓存策略的选择应根据具体的应用需求、系统架构以及性能目标进行评估和优化。在实际应用中,我们可能只使用其中的某一种,也可以需要结合多种策略,最终如何选择,需要根据实际业务情况而定,最后我们再回顾下 5种策略:

  • Read Through:在缓存缺失时从主存取数据并更新缓存,适合读多写少场景。
  • Cache Aside:由应用程序自己管理缓存,提供灵活性,适合复杂业务逻辑。
  • Write Through:实时在缓存和主存同步写数据,保证一致性但写入稍慢。
  • Write Around:写操作跳过缓存,减少写入负担,适合写频繁但读取少的情况。
  • Write Back:先写缓存,后续批量写入主存,提升写性能,但最终一致性难以保证。选择应根据性能需求和一致性要求平衡。
  • Refresh-ahead:预先载入未来可能会被访问的数据,减少未来请求的响应时间,适合在可预测的访问场景下。
关于我
loading