Un appel distant qui ne répond plus
Un appel à un service distant peut échouer, ou rester sans réponse jusqu’à l’expiration d’un délai d’attente. Martin Fowler part de ce constat dans son article « Circuit Breaker » (martinfowler.com, 6 mars 2014). Si de nombreux appelants attendent un fournisseur qui ne répond plus, les ressources critiques peuvent s’épuiser, et la défaillance gagne en cascade plusieurs systèmes. Le circuit breaker vise à arrêter cette propagation.
Fowler écrit que Michael Nygard a fait connaître ce patron dans son livre « Release It! ». Le nom reprend l’image du disjoncteur électrique d’un bâtiment.
Définition du circuit breaker
Le circuit breaker est un patron de conception : un objet enveloppe un appel à protéger et en surveille les échecs. Lorsque ceux-ci atteignent un seuil, le disjoncteur se déclenche : tout nouvel appel reçoit une erreur immédiate, et l’appel protégé n’a pas lieu. L’article de Fowler distingue trois états, dont les noms se retrouvent dans la documentation de bibliothèques telles que Resilience4j ou Polly.
- Fermé (closed) : les appels passent et les échecs sont comptés.
- Ouvert (open) : les appels sont rejetés sans être émis.
- Semi-ouvert (half-open) : après un délai, un appel d’essai est admis. Sa réussite referme le circuit, son échec relance le délai.
Ce patron se met en œuvre dans le code, par une bibliothèque, ou hors du code : la documentation d’architecture de Microsoft Azure mentionne les maillages de services qui proposent cette fonction, et le site microservices.io l’associe à l’API gateway.
Un cas d’école : la page d’un spectacle privée de ses suggestions
Prenons un site de billetterie. La page d’un spectacle montre les places disponibles et des suggestions fournies par un service de recommandation. Un soir d’ouverture des ventes, ce service ralentit. Sans protection, chaque affichage attend sa réponse jusqu’au délai maximal, les traitements en attente s’accumulent et la vente se bloque.
Supposons un disjoncteur réglé pour s’ouvrir après cinq échecs consécutifs et pour tenter un essai trente secondes plus tard : ces valeurs sont de pures hypothèses, non des réglages conseillés. Au cinquième échec, le circuit s’ouvre. Les pages s’affichent aussitôt, sans suggestions, et la vente continue. Quand un essai aboutit, les suggestions reviennent.
Seuils, délais et repli : ce qui reste à décider
La règle de déclenchement est une convention, variable d’un outil à l’autre. L’exemple de Fowler compte les échecs et remet le compteur à zéro au premier succès ; l’auteur évoque aussi un déclenchement sur un taux d’échec et des seuils distincts selon le type d’erreur. La documentation de Resilience4j décrit une fenêtre glissante, exprimée en nombre d’appels ou en durée, et un seuil sur la part d’appels lents. Fowler précise que toutes les erreurs n’ont pas à déclencher le disjoncteur : certaines relèvent du fonctionnement normal.
Le patron a ses limites : il ne répare pas le service défaillant et ne dit pas quoi faire lorsque le circuit est ouvert. L’appelant doit prévoir un repli. Fowler cite la mise en file d’une demande pour un traitement ultérieur, ou l’affichage d’une donnée ancienne. Il recommande aussi de journaliser chaque changement d’état et de laisser l’exploitation ouvrir ou refermer un disjoncteur. Ces signaux alimentent le suivi décrit dans notre page SRE et observabilité.
Circuit breaker, délai d’attente, nouvelle tentative, cloisonnement : ne pas confondre
Le délai d’attente (timeout) borne la durée d’un appel. Le disjoncteur s’appuie sur lui pour constater un échec, puis évite de l’attendre à chaque appel.
La nouvelle tentative (retry) rejoue un appel en pariant sur un défaut passager. Le disjoncteur suppose au contraire que le défaut dure.
Le cloisonnement (bulkhead) limite le nombre d’appels simultanés vers une dépendance. L’article « Microservices » de James Lewis et Martin Fowler le range, avec le délai d’attente, parmi les autres patrons de « Release It! ».
Enfin, le circuit breaker n’est pas réservé à un style d’architecture. Fowler le juge utile partout où une partie d’un système doit être protégée des défaillances d’une autre.
Un disjoncteur se règle appel par appel, et le repli se convient avec le métier. Ce travail relève de la conception des interfaces, que traite notre page sur l’architecture SI.