A ascensão da Inteligência Artificial (IA) não é apenas uma revolução técnica; é uma reconfiguração antropológica e ética. À medida que delegamos decisões críticas a sistemas automatizados e virtuais, a sociedade flerta com uma perigosa ilusão de autonomia na qual o algoritmo passa a atuar como uma lei para si mesmo. Essa aparente eficiência técnica esconde, contudo, uma profunda erosão do caráter e da responsabilidade humana.
Na prática, as implicações éticas da IA se manifestam em nosso ecossistema social. O primeiro exemplo está no viés algorítmico, em que sistemas automatizados e sofisticados de triagem de currículos e reconhecimento facial frequentemente herdam e amplificam preconceitos históricos, discriminando indivíduos com base em dados estatísticos e operando sem a capacidade de exercer misericórdia ou justiça equitativa.
Já são bem conhecidas ações de invasão de privacidade e controle em países. Na China, por exemplo, há sofisticada utilização de reconhecimento facial e atribuição ao que tem sido chamado de “Crédito Social”, que prefiro chamar de “Crédito de Submissão Ideológica”, abrindo ou fechando espaço para cidadão a partir do crédito de obediência servil ao Estado.
“O ser humano, em vez de livre, torna-se refém de uma arquitetura invisível de controle”
Outro cenário alarmante é a proliferação de deepfakes e desinformação (fake news).
Ao diluir a fronteira entre o real e o simulado, a tecnologia gera um estado de manipulação em massa, em que a verdade é sacrificada no altar da contabilidade do engajamento. O ser humano, em vez de livre, torna-se refém de uma arquitetura invisível de controle. Autoridades em diversos países já têm desmantelado “fazendas de celulares” criadas para forçar o engajamento em alguma (des)informação pretendida.
A resposta para essa crise não reside na tecnofobia, mas, sim, no resgate do mapa da Criação. A Bíblia estabelece em Gênesis 1.27 que o ser humano foi criado à imagem de Deus (Imago Dei). Essa dignidade intrínseca, dotada de consciência moral e discernimento espiritual, jamais poderá ser replicada pelo silício ou reduzida a métricas frias.
A tentativa de criar uma inteligência totalmente independente e desvinculada de limites morais remete à arrogância da Torre de Babel (Gn 11), onde a tecnologia serviu à autoafirmação egocêntrica humana, resultando em colapso. O texto bíblico nos convoca à liberdade responsável (Gl 5.13), uma dinâmica colaborativa e colegiada que prioriza a soberania do Criador e o cuidado com o próximo.
Para conter a entropia moral dessa transição, três medidas preventivas necessitam ser adotadas com urgência.
Uma delas é a supervisão humana ativa: algoritmos nunca devem ter a palavra final em decisões que envolvam a dignidade,
a justiça ou a subsistência humana. O discernimento moral humano deve ser o filtro final.
A segunda consiste na ética por design: a programação de sistemas de IA deve ser submetida a uma ordem moral objetiva. Princípios de transparência, equidade e auditabilidade devem estar na matriz do código, e não como um paliativo posterior.
Por último, a governança colegiada visa estabelecer comitês de ética e tecnologia, de caráter multidisciplinar, para regular os limites do aprendizado de máquina, impedindo a engenharia comportamental predatória.
A IA pode gerenciar dados com maestria, mas o discernimento e a verdadeira sabedoria permanecem como atributos exclusivos da criatura feita à semelhança do Criador.
Por Lourenço Stelio Rega – Teólogo, especialista em Bioética e Ética, e escritor – Extraído da Revista Comunhão.
