Du gouvernement des hommes au gouvernement des systèmes

     Pendant des siècles, la philosophie politique a cherché le meilleur gouvernant. Le sage, le roi, le peuple, la classe ouvrière, le Parlement ou l’État ont successivement occupé le centre du débat. Le XXIe siècle déplace pourtant une partie du pouvoir vers un acteur plus discret. Des logiciels trient des candidatures, des scores ouvrent ou ferment l’accès au crédit, des algorithmes choisissent ce qui apparaît sur nos écrans et des procédures décident parfois avant qu’un humain n’intervienne. Nous continuons donc à élire ceux qui nous gouvernent, tandis qu’une part croissante de nos vies est gouvernée par des systèmes que nous n’avons jamais élus. Le pouvoir garde son autorité, tout en passant du visage du gouvernant à la logique du système.

     Platon se méfiait de la démocratie. Aristote considérait l’esclavage comme compatible avec l’ordre naturel de son époque. Machiavel observait le pouvoir à partir du prince et de sa capacité à conserver l’État. Hobbes voyait dans un souverain puissant la réponse au désordre et à la guerre civile. Marx cherchait derrière les institutions les intérêts des classes sociales. Des siècles de pensée politique ont ainsi tourné autour d’une même préoccupation. Qui possède le pouvoir, qui mérite de l’exercer et au nom de quoi.

     Chaque époque a également produit ses évidences. Certaines idées paraissaient si naturelles que leurs contemporains imaginaient difficilement un monde organisé autrement. Des régimes longtemps considérés comme normaux sont devenus moralement inacceptables. Des catégories humaines privées de droits ont fini par entrer pleinement dans la citoyenneté. Des empires présentés comme durables ont disparu. Des frontières jugées définitives ont bougé.

     Hegel avait compris quelque chose de dérangeant dans ce mécanisme. Une époque réussit souvent à se comprendre pleinement lorsqu’une partie de son ordre commence déjà à vieillir. La célèbre chouette de Minerve prend son envol à la tombée de la nuit. Autrement dit, les humains découvrent parfois la véritable nature d’un système au moment où les fissures deviennent impossibles à ignorer. Notre époque possède probablement ses propres évidences.

     Nous savons reconnaître le pouvoir lorsqu’un président signe une loi, lorsqu’un ministre annonce une décision ou lorsqu’un juge prononce une sentence. Le pouvoir devient plus difficile à reconnaître lorsqu’une décision arrive sous la forme d’un chiffre, d’un classement ou d’un message automatique. Un candidat envoie son CV et reçoit un refus quelques secondes plus tard. Un logiciel a déjà effectué un premier tri. Un travailleur découvre un horaire produit automatiquement à partir des besoins de l’entreprise. Une banque consulte une cote de crédit avant de déterminer combien coûtera un emprunt. Une plateforme choisit les publications qui apparaîtront en premier sur un écran. Une compagnie d’assurance rassemble plusieurs informations et transforme une personne en niveau de risque. Dans tous ces cas, une décision ouvre une porte, la rétrécit ou la ferme. Aucun roi, aucun ministre, aucun juge. Le pouvoir agit pourtant sur une vie réelle.

     Le phénomène dépasse largement l’intelligence artificielle. Bien avant les ordinateurs, les sociétés modernes avaient commencé à organiser la vie collective avec des dossiers, des formulaires, des catégories, des règlements et des procédures. Max Weber avait observé la montée de cette bureaucratie capable de faire fonctionner de grandes institutions grâce à des règles communes. Le numérique a donné une puissance nouvelle à cette vieille mécanique. Une règle qui demandait autrefois plusieurs employés peut aujourd’hui être appliquée des milliers de fois dans une seule journée. Quelques personnes définissent un critère, un programme l’intègre, puis des milliers de citoyens rencontrent ce critère sans jamais rencontrer ceux qui l’ont choisi.

      Le vieux rêve du gouvernement par les sages prend ainsi une forme inattendue. Le sage change de place. Une partie de l’autorité se loge désormais dans une formule, un seuil, un classement ou une ligne de code. La technique donne alors au pouvoir un avantage particulier. Une décision humaine provoque naturellement une discussion sur celui qui l’a prise. Une décision chiffrée paraît plus facilement neutre.

     Prenons la cote de crédit. Le résultat final ressemble à un simple nombre. Avant son apparition, des choix ont déjà été faits sur les comportements qui comptent, leur poids et la durée pendant laquelle une erreur financière continuera à peser. Le chiffre paraît froid. Sa fabrication repose sur des choix. Le recrutement suit la même logique. Une organisation qui cherche les « meilleurs » candidats doit d’abord décider ce que signifie meilleur. Diplôme, expérience, disponibilité, stabilité professionnelle ou compétences peuvent recevoir des poids différents. Le programme applique ensuite la formule retenue. La machine calcule. Les valeurs viennent d’ailleurs.

     Marx cherchait les rapports de force derrière les institutions et les discours. Notre époque exige aussi de regarder derrière les tableaux de bord. Un pouvoir devient particulièrement difficile à contester lorsque personne ne semble en être l’auteur. Un ministre peut expliquer une décision. Un député peut perdre une élection. Un patron peut être interrogé. Un juge doit motiver un jugement. Face à une procédure automatisée, la réponse tient parfois en quelques mots devenus presque ordinaires. Le système a décidé. Une telle phrase donne à une décision fabriquée par des humains l’apparence d’un fait naturel. Comme la pluie, le froid ou la gravité, le résultat semble simplement s’imposer.

     Or un système possède toujours une histoire. Des personnes ont choisi les informations demandées, les catégories utilisées, les seuils retenus et les conséquences attachées au résultat. Le programme peut exécuter la décision. La responsabilité reste humaine. La démocratie se trouve alors devant un problème nouveau. Pendant longtemps, conquérir davantage de liberté politique signifiait obtenir le droit de choisir les gouvernants. Le suffrage a été élargi, les Parlements ont gagné du pouvoir, des contre-pouvoirs ont été construits et le citoyen a obtenu davantage de moyens pour demander des comptes. Le XXIe siècle ajoute une autre bataille. Le citoyen doit aussi pouvoir comprendre les systèmes qui organisent une partie de ses possibilités.

     Le logement permet de voir concrètement le problème. Une personne ouvre un site et choisit parmi les appartements disponibles. Ce geste donne une impression de liberté. Des décisions prises bien avant cette recherche ont pourtant déjà dessiné le terrain du choix. Les règles de construction influencent le nombre de logements. Le transport influence les quartiers accessibles. Le revenu influence le prix supportable. Le crédit influence l’achat. Le zonage influence ce qui peut être bâti et à quel endroit. Le citoyen choisit, certes. Le système a déjà choisi le menu.

     La même chose arrive dans le monde du travail. Une personne peut consulter cinquante offres d’emploi. La distance entre le domicile et le lieu de travail, les horaires, le coût du transport, les critères de recrutement et le premier tri informatique ont déjà réduit ou élargi ce qui devient réellement accessible. Internet pousse cette logique encore plus loin. Nous passons une partie de nos journées à choisir parmi des vidéos, des nouvelles, des produits ou des opinions. Avant notre premier clic, une plateforme a déjà décidé ce qui méritait d’apparaître devant nous. Nous choisissons de plus en plus à l’intérieur de choix préparés par d’autres.

     Le pouvoir ne consiste plus seulement à dire directement à quelqu’un ce qu’il doit faire. Le pouvoir peut aussi consister à organiser les possibilités entre lesquelles cette personne devra choisir. Un gouvernement peut interdire. Un système peut simplement rendre une option presque inaccessible. La différence paraît légère. Pour celui qui vit la conséquence, le résultat peut être immense.

      Une démocratie adaptée à ce pouvoir devrait donc exiger quelque chose de simple. Lorsqu’une décision importante touche un emploi, un crédit, un logement, une assurance, un service public ou un droit, la personne concernée devrait pouvoir comprendre les critères essentiels, connaître la raison du résultat et demander une révision lorsqu’une erreur survient. Le citoyen peut exercer ses droits sans maîtriser les milliers de lignes de code qui produisent une décision. Un conducteur prend la route sans savoir construire un moteur. De la même manière, chacun doit pouvoir savoir quels critères ont pesé et pourquoi une porte vient de se fermer. Cette exigence ramène la technique vers la politique. Un système complexe peut rester complexe. La responsabilité doit rester lisible.

      Nos sociétés ont consacré des siècles à rendre visible celui qui gouverne. Le roi devait avoir un nom. Le gouvernement devait rendre des comptes. Le député devait se présenter devant les électeurs. Le juge devait expliquer sa décision. Le pouvoir moderne a progressivement appris à montrer son visage. Aujourd’hui, le mouvement s’inverse. Une partie du pouvoir retrouve l’anonymat derrière une procédure, un score ou un système.

      Les générations futures regarderont probablement certaines de nos habitudes avec le même étonnement que nous éprouvons devant les certitudes des siècles passés. Elles découvriront peut-être une époque profondément attachée à la démocratie, capable de débattre pendant des mois pour choisir ses gouvernants, tout en confiant chaque année davantage de décisions quotidiennes à des systèmes que la majorité des citoyens comprenait à peine. La vieille question de Platon survivra donc au monde numérique, mais sous une forme que Platon lui-même aurait difficilement imaginée. Après avoir passé des siècles à demander qui doit gouverner les hommes, notre époque devra apprendre à demander qui gouverne les systèmes qui gouvernent nos vies.

Joël Kamala Mwindo , Auteur et essayiste