Observatoire · Carte des scénarios
Avenirs de l’État
Les scénarios sont des outils de réflexion, non des prédictions. Chacun énumère ses facteurs et les indicateurs avancés qui le rendraient plus ou moins plausible. Plusieurs peuvent se réaliser simultanément.
Pouvoir distribué ↑↓ Pouvoir concentréTerritorialEn réseau →
Les positions sont qualitatives et éditoriales. Les contours en pointillés signalent les prévisions ◇.Scénario 08◇ Prévision · horizon 2030s
Réaction contre l'administration algorithmique
Des droits à un examen humain, des registres de transparence et des limites juridiques aux décisions automatisées se diffusent après des défaillances documentées, limitant jusqu'où les administrations peuvent automatiser.
Probabilité : PlausibleFacteursPréjudices documentés causés par des systèmes automatisés de prestations et de lutte contre la fraudeDécisions de justice sur la prise de décision automatiséeRegistres d'algorithmes et règles sur l'IA à haut risque
Indicateurs avancésDroits opposables à un examen humain des décisions publiquesCouverture et exhaustivité des registres publics d'algorithmesJuridictions annulant des décisions pour automatisation illégale
Affirmations dont dépend ce scénarioL'IA était utilisée dans au moins une fonction gouvernementale dans 35 des 36 pays de l'OCDE interrogés, mais seuls 10 des 36 ont déclaré avoir procédé à une évaluation de ces usages.Dans le scandale néerlandais des allocations familiales pour la garde d'enfants, l'administration fiscale a traité à tort des milliers de familles comme des fraudeurs, en partie par des pratiques de notation du risque ; le gouvernement a démissionné en janvier 2021.
La question centrale n’est pas « qu’est-ce qui remplacera l’État-nation ? » mais qui détient le pouvoir, et à quelles conditions, lorsque l’intelligence n’est plus exclusivement humaine.