Observatório · Mapa de cenários
Futuros do Estado
Cenários são ferramentas de reflexão, não previsões. Cada um lista seus fatores determinantes e os indicadores antecedentes que o tornariam mais ou menos plausível. Vários podem se desenrolar ao mesmo tempo.
Poder distribuído ↑↓ Poder concentradoTerritorialEm rede →
As posições são qualitativas e editoriais. Contornos tracejados marcam previsões ◇.Cenário 08◇ Previsão · horizonte 2030s
Reação contra a administração algorítmica
Direitos à revisão humana, registros de transparência e limites legais às decisões automatizadas se espalham após falhas documentadas, restringindo até onde as administrações podem automatizar.
Probabilidade: PlausívelFatores determinantesDanos documentados de sistemas automatizados de benefícios e de combate à fraudeDecisões judiciais sobre a tomada de decisão automatizadaRegistros de algoritmos e regras para IA de alto risco
Indicadores antecedentesDireitos exigíveis à revisão humana de decisões públicasAbrangência e completude dos registros públicos de algoritmosTribunais anulando decisões por automação ilegal
Afirmações de que este cenário dependeA IA foi usada em pelo menos uma função governamental em 35 dos 36 países da OCDE pesquisados, mas apenas 10 dos 36 relataram algum tipo de avaliação desses usos.No escândalo holandês dos benefícios de assistência à infância, as autoridades fiscais trataram erroneamente milhares de famílias como fraudadoras, em parte por meio de práticas de pontuação de risco; o gabinete renunciou em janeiro de 2021.
A questão central não é “o que substitui o Estado-nação?”, mas quem detém o poder, e em que condições, quando a inteligência deixa de ser exclusivamente humana.