A tendência de as pessoas confiarem excessivamente em recomendações automatizadas, mesmo quando estão erradas.
Em mais detalhe
Ele compromete a supervisão humana das decisões de IA. Treinamento, desenho de interfaces e a exigência de que os revisores justifiquem sua concordância são propostos como contramedidas.