Cache stampede

Key hot hết TTL. 12 request miss cùng lúc. Trái: mỗi request một query DB. Phải: single-flight — 1 query, còn lại chờ chung rồi hit. ← bài viết

Stampede = miss đồng loạt × N compute
Coalesce = 1 compute / key, share kết quả
Chậm · đọc từng request

Stampede

Không lock / không coalesce

cache[user:1] = MISS (TTL=0)

DB queries: 0

Bấm chạy.

Single-flight

1 in-flight compute / key

cache[user:1] = MISS (TTL=0)

DB queries: 0

Bấm chạy.