Este artigo discute os mecanismos por meio dos quais os sistemas de IA modulam a compreensão que temos de nós mesmos, e como isso coopera para uma confiança desmedida em suas capacidades.
Resumo
Há crescente confiança em sistemas algorítmicos, particularmente aqueles baseados em Inteligência Artificial (IA), cujo modo de operação denominamos cálculo. Eles influenciam e substituem tomadores de decisão humanos em domínios cada vez mais sensíveis. Isso ocorre a despeito de profundas divergências no modo como o juízo humano e o cálculo operam, e de persistentes desafios à tentativa de superá-las. Neste artigo, defendemos que essa confiança é desmedida e decorre parcialmente de uma falha em perceber o fenômeno da colonização do juízo pelo cálculo: o que aparece como uma crescente acurácia na simulação do juízo é, em boa medida, fruto de uma crescente influência do cálculo no modo como o juízo opera, delimitando seus contextos de operação e incitando a adoção de suas trajetórias inferenciais. Isso se mostra em habilidades cognitivas fundamentais, como a de determinar fatores relevantes em quaisquer contextos, inclusive os de deliberação moral.
Autores
- Carlos Barth
- Elton Vitoriano Ribeiro
Idioma
Português
DOI
https://doi.org/10.1590/0100-512X2025n16209chb