Est-ce réellement la complexité qui rend nos sociétés vulnérables ?

Bien que cela n’exclut pas du tout les “surprises” comme l’a montré la série d’événements dommageables de grande échelle depuis les attaques du 11 septembre 2001 à New York (Katrina, plusieurs tsunamis, crise dite des “subprime”, pandémie H1N1, incendie de plateforme “offshore” dans le Golfe du Mexique, inondations en Europe et Australie, accident nucléaire au Japon), trente à quarante menaces potentielles pour les systèmes humains, économiques et sociaux au XXIe siècle sont couramment identifiés et discutés par les gouvernements, les entreprises, les organisations internationales, les chercheurs, la société civile.

Ces menaces sont dans la mesure du possible analysées en terme de causes, de probabilités d’apparition, d’exposition des populations et des actifs économiques, industriels ou environnementaux, et de leur capacité potentielle de susciter des dommages (parfois aussi des bienfaits : un incendie peut contribuer à régénérer la forêt, un grave accident technologique à changer de technologie, une pandémie à faire avancer le niveau d’hygiène et promouvoir la recherche médicale).

Devant cette apparente montée des périls, les populations peuvent légitimement se demander si ces outils sont suffisants et vraiment utiles. Les populations peuvent également se défier de plus en plus de la globalisation, des nouvelles technologies et de la prise de risque en général. Nous voudrions proposer maintenant de les traiter en fonction de leur degré de complexité, et par la même proposer des concepts opérationnels aux dirigeants, régulateurs et législateurs pour les aborder plus efficacement et peut-être de façon plus crédible aux yeux des citoyens. En effet, le degré de complexité d’un système est l’un des éléments clés qui devrait déterminer le type et la nature de sa régulation.

DES CHOCS RÉSULTANT DE LA COMPLEXITÉ DES SYSTÈMES ?

Oui en partie mais pas seulement et pas toujours.

Le fait qu’un système (la protection sociale de la santé, les transports urbains, le système d’éducation, la production d’électricité, la distribution de carburants, une voiture, une centrale nucléaire…) soit composé de différents éléments ou sous-systèmes en interaction, ne dit rien sur son degré de simplicité ou de complexité.

Or les implications pour les sociétés humaines sont très différentes, notamment entre des systèmes simples ou compliqués et des systèmes complexes. En effet, lorsqu’un système simple ou compliqué devient complexe (ou bien a été créé ou s’est auto-créé avec les propriétés d’un système complexe) la capacité des êtres humains à intervenir et contrôler certaines “dérives ou accidents” peut-être considérablement réduite voire nulle.

Un exemple présent à tous les esprits est la crise dite des “subprime” (2008-2009) : elle résulte d’un système complexe dans la mesure ou une fois le fait dommageable initial déclaré (la perte de confiance dans les “titres” représentatifs des hypothèques) aucune intervention humaine ne pouvait et n’a pu empêcher son déploiement à l’échelle mondiale. Si le système avait été “compliqué” sans plus, les êtres humains et leurs institutions de régulations auraient eu des “points de contrôle”, des “interrupteurs” pour empêcher la crise de s’installer (mise en cause des agences de notation, des mécanismes de garantie par exemple) puis pour tenter de stopper l’hémorragie : mise en quarantaine des titres de mauvaise qualité ou des opérateurs déviants.

Ce qui se passe dans le cas d’un système complexe, c’est que les éléments en interaction, finissent par “dominer le système” par rapport aux capacités d’interventions extérieures :

– Dans le cas de la crise dite des “subprime”, la conjonction de la multiplication des titres représentatifs de créances hypothécaires (le vecteur), de leur circulation mondiale (l’amplificateur), d’une illusion de fongibilité (le contenu est supposé “standard”) et de la garantie explicite de qualité (notation et assurance) rendaient tout contrôle impossible (personne, aucun régulateur n’avait aucune idée de ce qui est dans le “vecteur” : niveau de risque primaire, degré d’homogénéité des titres, quantité en circulation, probabilité de défaut de la créance hypothécaire d’origine i.e par l’acheteur X du bien Y), ni dans le circuit mondial : qui détiens quoi dans quel pays ou institutions (quelles banques, quels fonds de pension, quels fonds spéculatif ?).

– Dans le cas de l’accident des centrales nucléaires civiles au Japon (en mars) : une fois que les circuits de refroidissements sont hors d’usage, que le cœur des réacteurs commence à entrer en fusion, que les systèmes de circuits de refroidissement de secours sont inopérants, le système prend le dessus sur les capacités d’interventions extérieures. Comme dans le cas de l’accident de Tchernobyl, le sarcophage est la solution ultime pour limiter l’expansion durable des radiations, mais en attendant le système “vit sa vie” sans vous ; le contrôle par l’exploitant est extrêmement limité.

Les “constructeurs” et régulateurs de systèmes industriels complexes savent tout cela et font tout ce qui est en leur pouvoir pour garder des “points de contrôles” et repousser au maximum les cas possibles de perte de contrôle (bien sûr le tout sous contraintes de coûts, de niveau des connaissances au moment de la conception et des exigences de la société). Par contre, il est possible de se poser des questions sur trois types de systèmes :

  1. Des systèmes “supposés” sous contrôle et dont le contexte a évolué : Comme cité plus haut , le système des prêts hypothécaires titrisés est l’un des meilleures exemples. De nombreux systèmes en place pourraient faire partie de cette catégorie si l’on considère qu’à l’époque de leur conception, ils n’étaient pas placés dans le contexte de tendances reconnues plus récemment (mondialisation, terrorisme, urbanisation, populations vieillissantes, privatisation, changement climatique, rôle des nouvelles technologies…). Le système “énergies fossiles” qui conduit à un excès d’émission de CO2 et par là, à un dérèglement du climat. L’agriculture productiviste qui conduit à l’épuisement des sols et des ressources en eau. Ne s’agit-il pas de systèmes, devenus plus complexes, parce que plus intrinsèquement “autonomes” et moins “contrôlables”, soumis à des facteurs d’instabilité et d’amplifications tels que la spéculation ? Le système des voies ferrés est il devenu plus complexe, non pas parce que privatisé, mais parce que sa sécurité reposait sur un niveau implicite élevé de respect des réseaux par les populations ?
  2. Des systèmes qui étaient sous contrôle mais qui sont soumis à une mise volontaire en “complexité”. Dans cette catégorie, se trouvent des systèmes qui doivent évoluer dans le sens d’un progrès (meilleure niveau de capacité d’absorption, meilleur niveau de sécurité, meilleure efficacité économique), souvent en tirant profit de nouvelles technologies. Cependant, ce progrès représente un changement de régime : passer du simple ou compliqué au “complexe” et par la même devenir un système plus difficile à contrôler. Les premières voitures équipés de supports à la conduite ont pu connaître cette situation : toutes les nouvelles fonctions d’aides à la tenue de route, au fonctionnement du moteur, à la sécurité passive sont très efficaces mais,  a) “prive” le conducteur d’une partie de son autonomie jusqu’à une certain point, b) ont le potentiel de devenir partiellement “autonome” sous certaines conditions : il a donc fallu retourner parfois en arrière pour redonner des degrés de liberté au conducteur (exemple, la faculté de débrancher certains équipements). Plus largement, le passage (en cours) d’un système de contrôle aérien à un autre plus moderne va de facto faire franchir au système un degré supplémentaire dans le degré de complexité en augmentant la sécurité par la mise en œuvre convergente de technologies de navigation (GPS), d’intégration de la météorologie et de logiciels d’aide au pilotage. Des technologies de salles de marché virtuelles et 100 % privées, ou bien des systèmes d’information totalement “seamless” (homme-machine ou machine à machine) constitueraient un changement d’état vers plus de complexité.
  3. Des systèmes “orphelins”, voulus ou auto créés, parfois à bas bruit’ et qui ne sont pas repérés, caractérisés et in fine peuvent s’avérer non contrôlables. Dans cette catégorie, ce sont les activités criminelles de type mafieuses, le commerce de la drogue ou des immigrants, les niveaux élevés de corruption et de faibles gouvernances publiques qui viennent à l’esprit car ils sont de véritables “systèmes”. Jusqu’à un certain point le “système” des plateformes pétrolières hors zone de souverainetés, l’absence de réglementation et de mise en responsabilité des “fauteurs” de débris dans l’espace, des systèmes de télécommunication qui deviendraient constellés d’avatars ou la multiplication d’institutions-entreprises “transitoires”, constituent des exemples de systèmes orphelins à potentiel dommageable.

Ce sont ces trois catégories qui sont susceptibles de créer des “surprises”.

Trois conséquences principales de cette analyse des systèmes  pour la régulation  et les sociétés humaines :

– Ce n’est pas la “menace” elle-même, quand elle est de nature “systémique”, qui est le véritable enjeu, c’est sa qualification en terme de “complexité de mise en œuvre”. Cela confirmerait que contrairement à la formulation habituelle de nombreux thèmes de débats, ce ne sont pas les “nanotechnologies”, “la biologie synthétique”, “le nucléaire”, “l’hydrogène” qui sont l’objet utile, ultime ou unique du débat : ce sont les “systèmes” qui gouvernent ou pourraient gouverner leur emploi.

– Les sociétés humaines et les régulateurs doivent veiller à ce que les systèmes sous leur contrôle, ne deviennent pas trop “complexes” au sens ou nous l’entendons ici, c’est-à-dire laisser se développer une propriété émergente et dominante du système lui-même, par rapport à la possibilité d’ interventions correctives extérieures. Cela ne veut pas dire la fin du principe de liberté des marchés mais la nécessite de contrôler une exubérance exagéré des marchés si l’auto régulation ne donne pas les garanties d’autocontrôle parallèle suffisantes. La délégation de pouvoir à des “systèmes” dans nos sociétés (en d’autres termes la licence d’opérer) aurait donc besoin d’un examen critique a priori et en continu, de son extension et de ses limites, sans toutefois “brider” les innovations (par exemple, grâce à des autorisations expérimentales, conditionnelles et flexibles en plus grand nombre).

– Les systèmes qui se sont “auto-créés” à bas bruit, de façon incrémentale, avec ou sans volonté de dissimulation, sont des systèmes “orphelins” car ils échappent pendant un certain temps à la capacité de contrôle des sociétés jusqu’à parfois devenir complexes et potentiellement dangereux. Il vaudrait donc mieux que ces systèmes orphelins soient, en continu, identifiés , puis caractérisés et enfin rendu contrôlables si ce n’est maîtrisables pour contribuer à éviter d’autres surprises. Une autre limite possible au “laisser faire” mais cette fois ci surtout une limite à la complaisance des sociétés humaines.

Le degré de complexité d’un système existant, en devenir ou en cours de création peut aujourd’hui se mesurer grâce aux progrès des sciences et technologies. Les risques d’émergence ou d’auto-organisation d’un système qui lui conféreraient des degrés de liberté potentiels excédant les bénéfices attendus pour les sociétés humaines pourraient donc être analysés et faire l’objet d’actions correctives. C’est une démarche beaucoup plus ambitieuse que de procéder de façon ponctuelle à des tests de résistance (stress tests) bien que ces tests soient un élément tout à fait approprié et nécessaire par ailleurs en termes de mesure de vulnérabilités et de capacité de résilience.

Par suite, les autorités publiques nationales en charge de la régulation ou de la sécurité ont une responsabilité particulière de “suivi” dans le temps des systèmes en activité ou en cours de création. De leur côté, les organisations multilatérales pourraient être chargées de vérifier que des “trous” n’existent pas dans la couverture de surveillance de ces systèmes au niveau plus international voire global. Enfin les entreprises peuvent contribuer activement à des initiatives dans ce domaine, car au fond c’est leur intérêt bien compris que des systèmes complexes “ne se retournent pas contre eux-mêmes” aux yeux des consommateurs et des citoyens, et aussi qu’une saine concurrence soit encouragée.

Par Pierre-Alain Schieb, chef des projets de l’OCDE sur l’avenir.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *