Your team runs a product detail API backed by Redis with a 5-minute TTL per product key. Every evening when a flash sale starts, one very popular product's cache entry expires and within the same second thousands of concurrent requests all miss the cache and hit PostgreSQL, causing timeouts. The data may be a few seconds stale without harm. Which change best addresses this specific problem with the least complexity?

Question

Accepted Answer

Đây là hiện tượng cache stampede (thundering herd) do TTL hết hạn trên một key nóng; single-flight/mutex per-key đảm bảo chỉ một request tái tạo giá trị, số còn lại chờ hoặc dùng bản hơi cũ — đơn giản và đúng trọng tâm. (a) sai vì vấn đề là TTL hết hạn, không phải bị evict do thiếu bộ nhớ, LFU không ngăn expiry. (c) write-through giúp giữ dữ liệu mới nhưng bỏ TTL làm tăng rủi ro stale/ghost key và vẫn stampede ở lần cold start. (d) cache in-process chỉ giảm latency mạng; mỗi instance vẫn miss riêng và còn nhân số lần truy vấn DB lên theo số instance.

Câu hỏi hôm nay