À l’heure où les algorithmes régissent une part croissante de nos existences, il devient crucial de s’interroger sur leur impact réel. Hubert Guillaud, journaliste et essayiste, livre avec Les algorithmes contre la société une analyse implacable de cette mutation invisible, mais profondément politique. Dans l’émission Parlez-moi d’IA diffusée sur Cause Commune, il revient sur les mécanismes, les effets pervers et les angles morts de cette algorithmisation généralisée. Car au-delà des promesses d’efficacité ou de rationalisation, c’est bien d’un renversement des logiques démocratiques dont il est question.
Les promesses du numérique ont longtemps été portées par un imaginaire libertaire et progressiste, celui d’un internet ouvert, participatif, porteur d’un savoir partagé. Mais la réalité actuelle s’en est éloignée : les grandes plateformes – de Google à Meta en passant par Amazon – ont imposé un modèle extractiviste, dans lequel les données personnelles sont devenues la ressource à capter, à trier, à valoriser. L’usager n’est plus au centre ; il est profil, objet de ciblage, facteur de rendement. Le débat public est lui-même structuré par des logiques d’amplification algorithmique qui le biaisent, l’appauvrissent, voire le sabotent. Loin de favoriser le dialogue, les algorithmes sélectionnent les contenus les plus clivants, les plus polarisants, nourrissant un environnement conflictuel propice à la désinformation.
Ce basculement n’est pas sans conséquences sur les services publics. Hubert Guillaud revient longuement sur l’exemple de la CAF, dont l’algorithme de détection de fraude repose sur une logique de suspicion automatisée. Derrière la façade d’une optimisation de gestion se cache une réalité brutale : les publics les plus précaires – notamment les femmes seules – sont surciblés, les erreurs de versement sont assimilées à des fraudes, et les sanctions peuvent être immédiates et lourdes. L’association Changer de CAP a révélé combien ces dispositifs entraînent des cas de maltraitance sociale. L’algorithme, loin de corriger les inégalités, les reproduit et les aggrave.
Même constat du côté de Parcoursup. Le système de tri des candidatures universitaires repose sur des critères prétendument objectifs – les moyennes scolaires – mais aboutit à une ultra-discrimination fondée sur des différences statistiques insignifiantes. Des élèves notés 14,056 seront préférés à ceux notés 14,054, sans justification réelle. Cette obsession de la micro-précision masque l’arbitraire d’un tri qui pénalise massivement les classes moyennes et populaires. Selon Guillaud, près de 40 % des parcours sont affectés par des défaillances dans l’orientation. L’illusion d’une méritocratie algorithmique cache mal une logique d’exclusion qui privilégie la conformité à des normes implicites, bien souvent élitistes.
L’ampleur du problème dépasse la seule question de l’inefficacité. Car ces dispositifs sont souvent opaques, imposés sans consultation des usagers, développés sans contrôle indépendant. Hubert Guillaud propose de repenser radicalement cette architecture du calcul. Il plaide pour une transparence des modèles, un accès citoyen aux mécanismes de décision, et une intégration réelle des usagers dans les processus de conception et d’évaluation. L’un des enjeux centraux est de sortir de la logique du « pour nous, sans nous ». Il ne s’agit plus seulement d’ouvrir les codes sources ou les données, mais de reconnaître aux citoyens un véritable droit à être partie prenante de leur destin numérique.
Dans ce combat, le concept de « protection au calcul » apparaît comme une piste forte. Si le RGPD a permis des avancées notables sur la question des données, il ne protège que marginalement contre les effets des traitements algorithmiques eux-mêmes. Or, ce sont bien ces calculs, ces inférences, ces décisions automatisées qui transforment notre rapport à la société. Ce qu’il faut désormais garantir, c’est un droit à ne pas être calculé de manière injuste, arbitraire ou discriminante. Un droit à l’équité algorithmique, qui suppose d’établir des normes contraignantes sur les usages acceptables du calcul automatisé dans les sphères sensibles : éducation, santé, logement, emploi.
Le constat est sévère, mais Guillaud ne tombe pas dans le fatalisme. Il évoque des alternatives : repenser les modes de calcul, sortir de la logique d’optimisation permanente, remettre en question la méritocratie chiffrée, concevoir des systèmes plus inclusifs. Des expérimentations existent, en France et ailleurs, qui cherchent à redonner du pouvoir aux usagers et à réintroduire des logiques de justice sociale dans les modèles algorithmiques. Mais ces initiatives restent marginales. Pour changer la donne, il faudra une volonté politique forte, des moyens de régulation étendus, et une mobilisation collective.
En filigrane, c’est la démocratie elle-même qui est en jeu. Comme le disait Jacques Ellul dès 1954, « tout ce que la technique gagne, la démocratie le perd ». Aujourd’hui, les algorithmes ne sont plus de simples outils. Ils sont devenus des acteurs silencieux de nos vies sociales, économiques, et politiques. En reprendre le contrôle est une urgence. Hubert Guillaud nous invite à ne pas nous résigner, à ne pas croire que ces systèmes sont inéluctables. L’algorithmisation peut servir la société. Mais à condition qu’elle soit pensée, débattue, et gouvernée collectivement.
Quelques citations du débat radiophonique tirées de l’entretien avec Hubert Guillaud:
🗨️ « Ce n’est pas pour nous, sans nous. »
Hubert Guillaud appelle à intégrer les usagers dans la conception des systèmes algorithmiques qui les concernent.
🗨️ « L’algorithme consomme nos données, mais il produit du non-sens. »
Une critique directe de la prétendue efficacité des systèmes d’IA déployés dans les services publics.
🗨️ « On remplace l’objectivité par la précision. »
Sur la manière dont les calculs numériques, à force de raffinement technique, finissent par perdre leur pertinence sociale.
🗨️ « Les gens qui sont mal calculés le sont partout, et toujours pour les mêmes raisons. »
Une dénonciation des effets systémiques et cumulatifs de l’injustice algorithmique.
🗨️ « Les plateformes n’ont été arrêtées par personne. Elles font ce qu’elles veulent. »
Sur la dérive d’un numérique sans régulation, guidé par le profit.
Pour aller plus loin :
Lire le livre d’Hubert Guillaud:
Consultez le site: Dans les algorithmes, et inscrivez vous à leur newsletter:
Partager cet article:
Laisser un commentaire