Contestação de decisões automatizadas: explicação, revisão humana e recurso

Quando um órgão público ou uma empresa utiliza um sistema automatizado para negar um benefício, sinalizar uma pessoa para investigação ou recusar um contrato, o que a pessoa afetada pode realmente fazer? A lei oferece três instrumentos distintos: um direito a uma explicação (para saber porquê), um direito à revisão humana (para que uma pessoa reconsidere a decisão) e um direito de recurso (para levar a questão a um órgão independente). Entre 2023 e 2026, esses instrumentos mudaram substancialmente. O Tribunal de Justiça da União Europeia (TJUE) decidiu, em SCHUFA (C‑634/21, 2023), que uma pontuação de crédito pode, por si só, constituir uma decisão automatizada e, em Dun & Bradstreet Austria (C‑203/22, 2025), que as pessoas têm direito a uma explicação da «procedura e dos princípios efetivamente aplicados»; o Regulamento da IA da UE acrescentou um direito à explicação para decisões baseadas em sistemas de alto risco; o Conselho da Europa adotou o primeiro tratado vinculativo sobre IA; o Reino Unido reformulou as suas regras sobre decisões automatizadas; e regras federais e estaduais dos EUA introduziram obrigações de recurso e revisão humana. Este estudo mapeia esses direitos, compara-os e pergunta o que as evidências de casos reais revelam sobre quais mecanismos ajudam as pessoas na prática.

Principais conclusões

• A UE dispõe agora de um padrão de explicação exequível. Em Dun & Bradstreet Austria, o TJUE decidiu que os responsáveis pelo tratamento devem descrever a procedura e os princípios efetivamente aplicados, para que as pessoas possam compreender que dados foram utilizados e como; comunicar apenas um algoritmo não é suficiente, e as objeções baseadas em segredos comerciais devem ser ponderadas por um tribunal ou uma autoridade de controlo.
• O âmbito de «decisão automatizada» alargou-se. SCHUFA decidiu que uma pontuação constitui uma decisão individual automatizada ao abrigo do artigo 22.º do RGPD quando o cliente lhe atribui «um papel determinante».
• O artigo 86.º do Regulamento da IA é mais restrito do que parece. Abrange decisões baseadas em sistemas de alto risco do anexo III que produzam efeitos jurídicos ou efeitos igualmente significativos, aplica-se apenas quando o direito da União não prevê já esse direito e depende de obrigações relativas a sistemas de alto risco que o pacote legislativo Digital Omnibus de 2026 adiou para 2 de dezembro de 2027.
• As jurisdições convergem para um conjunto comum de medidas — notificação, fundamentação, intervenção humana, contestação —, mas diferem quanto a proibir em princípio decisões exclusivamente automatizadas (UE) ou permiti-las com salvaguardas (Reino Unido após 2025, Colorado, agências federais dos EUA).
• Na prática, os direitos individuais raramente impediram sistemas prejudiciais. Os casos bem documentados — SyRI, Robodebt, o modelo neerlandês de subsídios para cuidados infantis, MiDAS — foram interrompidos por litígios estratégicos, ações coletivas, autoridades reguladoras e inquéritos; os recursos individuais ajudaram pessoas, mas lentamente.
• A revisão humana só é tão eficaz quanto a informação, o tempo e a autoridade de quem revê. As evidências dos Países Baixos e da Sérvia mostram revisores acatando os resultados de sistemas que não podiam questionar.

Questão de investigação e âmbito

O estudo coloca duas questões interligadas: que direitos legais à explicação, à revisão humana e ao recurso existem atualmente para as pessoas sujeitas a decisões automatizadas, e o que revelam as evidências sobre quais deles funcionam? Abrange o direito da UE (RGPD, jurisprudência do TJUE, Regulamento da IA), a Convenção-Quadro do Conselho da Europa, o Reino Unido e medidas federais e estaduais dos EUA, com uma referência à França nos casos em que a OCDE documenta as suas regras. O estudo centra-se em decisões do setor público, mas inclui a avaliação de crédito privada, pois os principais acórdãos do TJUE dizem respeito a essa matéria e a fundamentação adotada aplica-se aos responsáveis pelo tratamento do setor público.

Contexto

Três direitos, três funções

Os três dependem uns dos outros. Sem explicação, pede-se a uma pessoa que analisa ou a um tribunal que verifique um resultado sem conhecer os seus fundamentos; sem recurso independente, a revisão humana pode tornar-se uma formalidade dentro da mesma organização.

O debate académico

Pouco depois da adoção do RGPD, Wachter, Mittelstadt e Floridi (2017) argumentaram que não existia no Regulamento um «direito à explicação» juridicamente vinculativo das decisões automatizadas individuais, que previa, no máximo, o direito a ser informado sobre o funcionamento do sistema. Edwards e Veale (2017) argumentaram que, independentemente do seu âmbito, um direito à explicação era «provavelmente não o remédio que procura», porque coloca o ónus sobre as pessoas e porque é difícil fornecer explicações significativas de modelos complexos; apontaram para outras ferramentas, como as avaliações de impacto. Wachter, Mittelstadt e Russell (2018) propuseram explicações contrafactuais — declarações sobre o que teria de ser diferente para se obter um resultado diferente — como forma de informar as pessoas sem revelar o modelo. O acórdão do TJUE de 2025 pode ser interpretado como adotando uma versão desta ideia.

Método e fontes

O estudo baseia-se em textos jurídicos primários (RGPD, UK Data (Use and Access) Act 2025, Regulamento da IA, com as alterações introduzidas, Convenção do Conselho da Europa, Memorando OMB M‑25‑21, legislação do Colorado, regulamentos da Califórnia), nos comunicados de imprensa oficiais do TJUE relativos a SCHUFA e Dun & Bradstreet Austria e em estudos académicos revistos por pares. A evidência sobre a prática provém dos estudos de caso da análise comparativa da aplicação automatizada das regras de elegibilidade a prestações sociais da Polity Atlas e dos seus estudos sobre o escândalo dos subsídios de acolhimento de crianças nos Países Baixos e o Robodebt.

Limitações. Os acórdãos do TJUE são resumidos com base nos comunicados de imprensa do próprio Tribunal, que os descreve como não oficiais; para mais pormenores, devem consultar-se os textos integrais. Vários regimes são recentes ou ainda não são plenamente aplicáveis, pelo que existem poucas evidências dos seus efeitos. Os sítios Web do Conselho da Europa não estavam acessíveis quando este estudo foi verificado, pelo que os artigos da Convenção foram consultados no texto autêntico em inglês publicado na base de dados de tratados do Governo neerlandês; o estado atual das ratificações não é indicado aqui.

Constatação 1: direito da UE em matéria de proteção de dados após SCHUFA e Dun & Bradstreet

O quadro de base: artigos 22.º e 15.º do RGPD

O artigo 22.º, n.º 1, do RGPD confere a uma pessoa «o direito de não ficar sujeita a uma decisão baseada exclusivamente no tratamento automatizado, incluindo a definição de perfis, que produza efeitos jurídicos que lhe digam respeito ou que a afete significativamente de forma similar». Existem exceções para contratos, consentimento explícito e decisões autorizadas pelo direito da União ou dos Estados-Membros que estabeleçam garantias adequadas. Quando se aplicam as exceções relativas a contratos ou ao consentimento, o artigo 22.º, n.º 3, exige «pelo menos o direito de obter intervenção humana por parte do responsável pelo tratamento, de expressar o seu ponto de vista e de contestar a decisão». O artigo 15.º, n.º 1, alínea h), confere o direito de acesso a «informações significativas sobre a lógica envolvida» nessas decisões.

SCHUFA (C‑634/21), 7 de dezembro de 2023

A agência de crédito alemã SCHUFA produzia pontuações utilizadas pelos bancos. O Tribunal considerou que a pontuação «deve ser considerada uma “decisão individual automatizada” proibida, em princípio, pelo RGPD, na medida em que os clientes da SCHUFA, como os bancos, lhe atribuem um papel determinante na concessão de crédito». A sua importância é estrutural: o direito aplica-se à entidade que produz a pontuação decisiva, e não apenas à entidade que toma formalmente a decisão. Para o setor público, isto sugere que uma pontuação de risco que, na prática, determine se um pedido é investigado ou recusado pode, por si só, estar abrangida pelo artigo 22.º, mesmo que um funcionário assine a decisão.

Dun & Bradstreet Austria (C‑203/22), 27 de fevereiro de 2025

Um operador de telecomunicações móveis recusou um contrato a um cliente — com uma mensalidade de €10 — devido a uma avaliação de crédito automatizada da Dun & Bradstreet. Um tribunal austríaco já tinha concluído que a empresa não fornecera «informações significativas sobre a lógica envolvida». Em resposta a um pedido de decisão prejudicial sobre a aplicação da lei, o Tribunal decidiu que:

• o responsável pelo tratamento deve «descrever o procedimento e os princípios efetivamente aplicados de forma a que o titular dos dados possa compreender quais dos seus dados pessoais foram utilizados e de que forma foram utilizados»;
• «poderá, em particular, ser adequado informar o titular dos dados em que medida uma variação nos dados pessoais tidos em conta teria conduzido a um resultado diferente» — uma explicação de tipo contrafactual;
• «a mera comunicação de um algoritmo não constitui uma explicação suficientemente concisa e inteligível»;
• quando o responsável pelo tratamento alegar que a informação contém dados de terceiros ou segredos comerciais, deve fornecê-la à autoridade de controlo competente ou ao tribunal, que ponderará os interesses; é incompatível com o Regulamento uma norma nacional que exclua, por regra, o acesso sempre que estejam envolvidos segredos comerciais.

A própria manchete do Tribunal foi que «a explicação fornecida deve permitir ao titular dos dados compreender e contestar a decisão automatizada». A explicação é, assim, definida pela sua função na contestação.

Constatação 2: o Regulamento da IA da UE

Artigo 86.º: um direito à explicação para decisões de alto risco

O artigo 86.º, n.º 1, do Regulamento da IA confere a «qualquer pessoa afetada sujeita a uma decisão tomada pelo responsável pela implantação com base no resultado de um sistema de IA de risco elevado enumerado no anexo III», exceto os sistemas abrangidos pelo ponto 2 desse anexo (infraestruturas críticas), e que produza efeitos jurídicos ou a afete de forma igualmente significativa, de uma maneira que considere prejudicial para a sua saúde, segurança ou direitos fundamentais, o direito de obter «explicações claras e pertinentes sobre o papel do sistema de IA no procedimento de tomada de decisão e os principais elementos da decisão tomada». O artigo 86.º, n.º 3, estabelece que o artigo se aplica «apenas na medida em que o direito referido no n.º 1 não esteja previsto de outra forma no direito da União» — assim, quando o RGPD já prevê uma explicação, é o RGPD que rege.

Calendário após o Omnibus Digital

A data geral de aplicação do Regulamento da IA é 2 de agosto de 2026. No entanto, o Regulamento (UE) 2026/1744 (o Omnibus Digital sobre IA) alterou o artigo 113.º, de modo que o capítulo III, secções 1–3 — as principais obrigações relativas aos sistemas de risco elevado — se aplica a partir de 2 de dezembro de 2027 aos sistemas do anexo III e a partir de 2 de agosto de 2028 aos sistemas abrangidos pelo anexo I. Como o artigo 86.º é definido por referência aos sistemas de IA de risco elevado do anexo III, a sua aplicação prática antes de o regime de risco elevado entrar em vigor é incerta; a forma como as autoridades e os tribunais tratarão o período transitório é uma questão em aberto.

Outras vias previstas no Regulamento da IA

O Regulamento também permite que qualquer pessoa apresente uma reclamação junto de uma autoridade de fiscalização do mercado, exige que os responsáveis pela implantação de sistemas de risco elevado os utilizem sob supervisão humana e exige que os responsáveis pela implantação, no âmbito do direito público, de determinados sistemas do anexo III realizem uma avaliação de impacto sobre os direitos fundamentais. Trata-se, na sua maioria, de deveres ex ante; o artigo 86.º constitui a principal via de recurso individual.

Constatação 3: a Convenção-Quadro do Conselho da Europa

A Convenção-Quadro sobre Inteligência Artificial e Direitos Humanos, Democracia e Estado de Direito (CETS n.º 225) foi aberta à assinatura em 5 de setembro de 2024, em Vilnius. O capítulo IV trata das vias de recurso. O artigo 14.º exige que cada parte, «na medida em que as vias de recurso sejam exigidas pelas suas obrigações internacionais e sejam compatíveis com o seu ordenamento jurídico interno», assegure «vias de recurso acessíveis e eficazes» para violações dos direitos humanos resultantes de sistemas de IA, incluindo medidas para documentar informações relevantes sobre sistemas que possam afetar significativamente os direitos humanos e, quando apropriado, disponibilizá-las às pessoas afetadas; para assegurar que essas informações sejam «suficientes para que as pessoas afetadas possam contestar a(s) decisão(ões)» tomadas pelo sistema ou substancialmente informadas por este; e «uma possibilidade efetiva de as pessoas em causa apresentarem uma reclamação às autoridades competentes». O artigo 15.º exige garantias processuais eficazes quando um sistema de IA «afete significativamente o gozo dos direitos humanos» e solicita às partes que «procurem assegurar» que as pessoas sejam informadas de que estão a interagir com um sistema de IA. As obrigações são formuladas em termos gerais, deixando às partes margem de discricionariedade quanto à sua implementação, e vinculam apenas as partes: nos termos do artigo 30.º, n.º 3, a Convenção entra em vigor três meses após a ratificação por cinco signatários, incluindo pelo menos três Estados-Membros do Conselho da Europa.

Constatação 4: o Reino Unido após 2025

A Lei de Dados (Utilização e Acesso) de 2025, que recebeu a sanção real em 19 de junho de 2025, substituiu o artigo 22.º do RGPD do Reino Unido pelos novos artigos 22A–22D. A mudança de abordagem é significativa:

• uma decisão é «baseada exclusivamente em tratamento automatizado se não houver envolvimento humano significativo na tomada da decisão» e é «significativa» se produzir um efeito jurídico ou um efeito igualmente significativo;
• decisões significativas exclusivamente automatizadas são restringidas sobretudo quando se baseiam em dados de categorias especiais — permitidas apenas mediante consentimento explícito, ou quando a decisão é necessária para um contrato ou exigida ou autorizada por lei e se aplica a condição de interesse público substancial do Artigo 9(2)(g) — ou na nova base dos «interesses legítimos reconhecidos», em vez de serem proibidas em princípio;
• quando tais decisões são tomadas, os responsáveis pelo tratamento devem prever salvaguardas que «forneçam ao titular dos dados informações sobre as decisões», «permitam ao titular dos dados apresentar observações», «permitam ao titular dos dados obter intervenção humana» e «permitam ao titular dos dados contestar tais decisões»;
• o Secretário de Estado pode definir por regulamento o que constitui envolvimento humano significativo e efeitos igualmente significativos.

O Reino Unido passou, assim, de um modelo de proibição com exceções para um modelo de autorização com salvaguardas, mantendo as quatro salvaguardas essenciais.

Constatação 5: os Estados Unidos

Não existe um direito federal geral à explicação ou ao recurso de decisões automatizadas; em vez disso, há um mosaico de regras:

• Agências federais. O Memorando OMB M‑25‑21 (3 April 2025), que revogou e substituiu o M‑24‑10, exige que as agências apliquem práticas mínimas de gestão de riscos à «IA de alto impacto» no prazo de 365 days, incluindo «garantir que as pessoas afetadas por decisões habilitadas por IA tenham acesso a uma revisão humana em tempo útil e a oportunidade de recorrer de quaisquer impactos negativos, quando apropriado». Os Chief AI Officers das agências podem dispensar as práticas mínimas, sendo as dispensas acompanhadas, comunicadas e resumidas publicamente.
• Colorado. O SB24‑205, aprovado em 17 May 2024, exige que os responsáveis pela implementação de sistemas de IA de alto risco que tomem ou influenciem substancialmente decisões consequenciais notifiquem os consumidores, lhes permitam corrigir dados pessoais incorretos e lhes proporcionem «a oportunidade de recorrer de uma decisão consequencial desfavorável, por meio de revisão humana, se tecnicamente viável». O SB25B‑004, sancionado em 28 August 2025, prorrogou a data de entrada em vigor desses requisitos para 30 June 2026. Em May 2026, a legislatura mudou de rumo: o SB26‑189, sancionado em 14 May 2026, revoga e promulga novamente as disposições de 2024 como uma lei sobre «tecnologia de tomada de decisões automatizada» utilizada para influenciar materialmente decisões consequenciais, com obrigações a partir de 1 January 2027. Os responsáveis pela implementação devem notificar no ponto de interação e, no prazo de 30 days após um resultado desfavorável, fornecer uma descrição em linguagem simples do papel da tecnologia; os consumidores podem solicitar os seus dados, a correção de dados factualmente incorretos e uma «revisão humana significativa e reapreciação»; a aplicação da lei cabe ao procurador-geral, sem criação de um novo direito privado de ação.
• Califórnia. Os regulamentos da Agência de Proteção da Privacidade da Califórnia, aprovados em 22 September 2025 e em vigor a partir de 1 January 2026, com datas de cumprimento faseadas, implementam os direitos dos consumidores de aceder a informações sobre a utilização, pelas empresas, de tecnologia de tomada de decisões automatizada e de optar por não a ela se sujeitarem.
• Cidade de Nova Iorque. A Lei Local 144 de 2021 proíbe os empregadores de utilizar ferramentas automatizadas de decisão em matéria de emprego, a menos que estas tenham sido objeto de uma auditoria de enviesamento no prazo de um ano, os resultados da auditoria sejam públicos e os candidatos recebam uma notificação — um modelo de auditoria e notificação, sem direito individual de recurso.

Comparação

Conclusão 6: o que funciona na prática

As vias sistémicas superam as individuais

Nos casos mais bem documentados, as intervenções decisivas foram coletivas ou institucionais:

• Litigância estratégica. No caso SyRI, uma coligação de organizações da sociedade civil obteve uma decisão judicial segundo a qual a legislação violava o artigo 8.º da CEDH. O tribunal considerou que, sem acesso ao modelo de risco, era «difícil compreender como uma pessoa titular dos dados poderia defender-se» — tratando a transparência como condição prévia para a contestação individual.
• Ações coletivas. A ação coletiva de Robodebt resultou em acordos de pelo menos 1,8 mil milhões de dólares (2021) e 548,5 milhões de dólares (aprovado em 2026).
• Reguladores. A autoridade neerlandesa de proteção de dados considerou ilícitos os indicadores de risco baseados na nacionalidade e multou a administração tributária.
• Inquéritos. O inquérito parlamentar neerlandês e a Comissão Real da Austrália impuseram a responsabilização política.

Os recursos individuais foram importantes sobretudo como sinais. No Michigan, os advogados notaram um aumento dos recursos por fraude bem-sucedidos antes de descobrirem que o MiDAS emitia conclusões sem revisão humana. Na Sérvia, a Amnistia documentou o caso de uma mulher que conseguiu a reintegração no segundo recurso, com assistência jurídica gratuita — após meses sem rendimento.

A revisão humana falha sem informação, tempo e autoridade

Os responsáveis pela revisão dos subsídios de assistência à infância neerlandeses não foram informados do motivo pelo qual um pedido tinha recebido uma classificação de alto risco. Assistentes sociais sérvios disseram aos requerentes que «o novo sistema de Belgrado» tinha decidido. Evidências experimentais dos Países Baixos (Alon-Barkat e Busuioc, 2023) não encontraram um enviesamento geral em favor da automatização, mas identificaram uma tendência para seguir recomendações compatíveis com estereótipos de grupo, ausente entre os funcionários públicos testados pouco depois do escândalo dos subsídios de assistência à infância. Ben Green (2022) argumenta que as exigências de supervisão humana podem criar uma falsa sensação de segurança e legitimar sistemas defeituosos, e propõe que, em vez disso, as agências justifiquem o uso de algoritmos e os submetam à supervisão institucional.

As explicações são úteis quando permitem agir

O padrão do TJUE em Dun & Bradstreet — que dados foram utilizados, como foram utilizados e que alteração teria mudado o resultado — é o tipo de explicação que permite a uma pessoa corrigir dados (como nos casos sérvios de rendimentos registados incorretamente ou de automóveis abatidos) ou contestar um método (como a média usada no Robodebt). Descrições genéricas do «algoritmo» não o permitem.

O que as evidências não demonstram

• Ainda há poucas evidências sobre os efeitos dos novos regimes. O artigo 86.º, os artigos 22A–22D do Reino Unido e o direito à revisão humana do Colorado são demasiado recentes para que existam dados sobre os resultados.
• Não demonstram que os direitos individuais sejam inúteis. São contributos necessários para soluções sistémicas; as coligações de litigância e os reguladores baseiam-se frequentemente em reclamações individuais.
• Não demonstram que seja sempre possível fornecer explicações. Para alguns modelos complexos, a possibilidade técnica de explicar fielmente resultados individuais continua a ser contestada; o padrão do TJUE contorna esta questão ao centrar-se nos dados e princípios efetivamente aplicados.
• Não estabelecem com que frequência os responsáveis pela revisão contrariam os sistemas. Poucos organismos públicos divulgam taxas de decisões revistas ou taxas de sucesso dos recursos relativos a decisões automatizadas.

Implicações para a conceção institucional

As evidências sustentam melhor uma conceção em camadas do que qualquer direito isolado:

1. Notificação de que foi utilizado um sistema automatizado, no momento da decisão.
2. Fundamentação que permita agir: os dados utilizados, como foram utilizados e o que alteraria o resultado — o padrão de Dun & Bradstreet —, cabendo a uma autoridade independente, e não ao responsável pelo tratamento, resolver os litígios relativos a segredos comerciais.
3. Revisão humana efetiva: responsáveis pela revisão com acesso às razões do sistema, tempo para investigar e poder explícito para o contrariar; divulgação das taxas de decisões revistas.
4. Recurso independente que suspenda a cobrança ou as sanções enquanto estiver pendente, com assistência jurídica para requerentes de baixos rendimentos.
5. Mecanismos de acionamento sistémico: estatísticas agregadas dos recursos comunicadas a um regulador ou provedor de justiça, poder para suspender um sistema e acesso a meios de reparação coletiva.
6. Registos e aprovação jurídica prévia à implantação, para que a legalidade de um método seja avaliada antes de ser aplicado a milhares de pessoas.

Questões em aberto

• Como aplicarão os tribunais nacionais o teste do «papel determinante» de SCHUFA às pontuações de risco do setor público que, formalmente, apenas selecionam casos para revisão?
• Desenvolverão as autoridades de supervisão procedimentos práticos para ponderar os segredos comerciais face aos direitos de acesso, conforme exige Dun & Bradstreet?
• Como será aplicado o artigo 86 antes de dezembro de 2027, e as orientações da Comissão esclarecerão a sua relação com o RGPD?
• O que implicará a mudança do Reino Unido para um modelo de autorização com salvaguardas: aumentará o número de decisões exclusivamente automatizadas, e será definida de forma estrita a «intervenção humana significativa»?
• As derrogações federais dos EUA às práticas mínimas serão usadas de forma limitada ou rotineira, e os estados convergirão para o modelo de revisão humana do Colorado?

Fontes

1. Parlamento Europeu e Conselho (2016). Regulation (EU) 2016/679 (General Data Protection Regulation), artigos 15 e 22.
2. Tribunal de Justiça da União Europeia (2023). Press release No 186/23: SCHUFA Holding (Scoring), C‑634/21, 7 de dezembro de 2023.
3. Tribunal de Justiça da União Europeia (2025). Press release No 22/25: Dun & Bradstreet Austria, C‑203/22, 27 de fevereiro de 2025.
4. Parlamento Europeu e Conselho (2024). Regulation (EU) 2024/1689 (Artificial Intelligence Act), artigo 86.
5. Parlamento Europeu e Conselho (2026). Regulation (EU) 2026/1744 (Digital Omnibus on AI).
6. Conselho da Europa (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS No. 225).
7. Parlamento do Reino Unido (2025). Data (Use and Access) Act 2025, section 80.
8. Office of Management and Budget (2025). Memorandum M‑25‑21: Accelerating Federal Use of AI through Innovation, Governance, and Public Trust.
9. Assembleia Geral do Colorado (2024). SB24‑205, Consumer Protections for Artificial Intelligence.
10. Assembleia Geral do Colorado (2025). SB25B‑004, Increase Transparency for Algorithmic Systems.
11. Agência de Proteção da Privacidade da Califórnia (2025). CCPA Updates, Cybersecurity Audits, Risk Assessments, ADMT and Insurance Regulations.
12. Departamento de Proteção do Consumidor e dos Trabalhadores de Nova Iorque. Automated Employment Decision Tools (Local Law 144 of 2021).
13. OCDE (2026). Digital Government Outlook 2026, caixa 4.7.
14. Wachter, S., Mittelstadt, B. e Floridi, L. (2017). Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law 7(2): 76–99.
15. Edwards, L. e Veale, M. (2017). Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For. Duke Law & Technology Review 16(1): 18–84.
16. Wachter, S., Mittelstadt, B. e Russell, C. (2018). Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR. Harvard Journal of Law & Technology 31(2).
17. Rechtbank Den Haag (2020). SyRI judgment, ECLI:NL:RBDHA:2020:1878.
18. Alon-Barkat, S. e Busuioc, M. (2023). Human–AI Interactions in Public Sector Decision Making. JPART 33(1): 153–169.
19. Green, B. (2022). The flaws of policies requiring human oversight of government algorithms. Computer Law & Security Review 45.
20. Amnistia Internacional (2023). Trapped by automation, EUR 70/7443/2023.
21. Charette, R. N. (2018). Michigan's MiDAS Unemployment System. IEEE Spectrum.
22. Assembleia Geral do Colorado (2026). SB26‑189, Automated Decision-Making Technology.
23. Conselho da Europa (2024). Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law — texto autêntico em inglês, conforme publicado na base de dados de tratados do Governo neerlandês.