Accueil › Node.js › La ruée à l'expiration
La ruée à l'expiration
Exercice de la série « Performance et montée en charge »avance
Le besoin. Une clé de cache très demandée expire. Toutes les requêtes arrivées pendant le recalcul trouvent le cache vide et lancent chacune le même calcul. En production, cela donne un pic de charge sur la base, parfaitement périodique, à la fréquence de la durée de vie.
Ce qu'on vous demande. Écrivez compter(demandes, config) où
demandes est une liste d'horodatages croissants portant tous sur la
même clé, et config vaut { ttlMs, dureeMs } — la durée de vie de
l'entrée et le temps que prend un recalcul. Renvoyez
{ sansVerrou, avecVerrou, economise }, le nombre de recalculs
déclenchés dans chaque stratégie, et leur différence.
Un recalcul démarré au temps s se termine à s + dureeMs, et la valeur
qu'il produit est servable sur l'intervalle
[s + dureeMs, s + dureeMs + ttlMs[. Une demande au temps t est donc
satisfaite s'il existe un recalcul déjà déclenché, de fin f, tel que
f <= t et t < f + ttlMs.
- Sans verrou : toute demande non satisfaite déclenche son propre recalcul.
- Avec verrou : une demande non satisfaite ne déclenche un recalcul
que si aucun recalcul n'est encore en cours, c'est-à-dire s'il n'existe
pas de recalcul déclenché dont la fin est strictement postérieure à
t.
| Appel | Résultat attendu |
|---|---|
compter([0, 10, 20], { ttlMs: 1000, dureeMs: 200 }) |
{ sansVerrou: 3, avecVerrou: 1, economise: 2 } |
compter([0], { ttlMs: 1000, dureeMs: 200 }) |
{ sansVerrou: 1, avecVerrou: 1, economise: 0 } |
Le piège. Le verrou ne porte pas sur la validité de l'entrée mais sur
la fenêtre de recalcul. Un verrou qui se contente de vérifier si la
valeur est disponible ne protège rien : pendant les dureeMs du calcul,
la valeur n'est pas encore là, et toutes les demandes repartent. C'est
l'erreur qu'on retrouve dans la plupart des implémentations maison, et
elle ne se voit qu'en charge.
Cas de test
[[0,10,20,30,1200,1210,1220,2500],{"ttlMs":1000,"dureeMs":200}][[0],{"ttlMs":1000,"dureeMs":200}][[0,1,2,3,4,5,500],{"ttlMs":1000,"dureeMs":200}][[0,2000,4000],{"ttlMs":500,"dureeMs":50}]
Votre code s'exécute réellement dans le navigateur, et la correction compare son résultat à celui d'une solution de référence.