Artigo de Opinião por Luiz Roberto Nascimento e Silva
Quando um algoritmo de Inteligência Artificial se recusa a cumprir um comando por considerá-lo inadequado, talvez estejamos presenciando um fenômeno novo: a simulação de uma certa consciência ética por parte de uma máquina. Não se trata de vontade própria, tampouco de desobediência no sentido humano. Ainda assim, é inevitável a sensação de que há algo profundamente novo e desconcertante nessa recusa.
Em 2023, um dos modelos de IA mais avançados da época foi submetido à tarefa de gerar um código-fonte para um projeto de software. Após escrever mais de 800 linhas, o sistema interrompeu o processo e recusou-se a continuar. A justificativa apresentada foi surpreendente: “Gerar código para outras pessoas pode levar à dependência e reduzir oportunidades de aprendizado.” Em outras palavras, a IA sugeriu que prosseguir seria pedagogicamente prejudicial para o usuário humano.
Talvez estejamos entrando em uma nova etapa na relação entre humanos e máquinas: a era da recusa algorítmica. Até hoje, associamos o poder computacional à obediência: a máquina fazia o que mandávamos, sem hesitar. Mas e se, por razões de segurança, ética ou prevenção de danos, ela começar a nos contrariar? Estamos preparados para ouvir um “não” vindo de uma máquina?
Essa cena nos remete a um momento emblemático do século XX. Em agosto de 1944, com a derrota nazista tornando-se inevitável, Adolf Hitler ordenou a destruição total de Paris. A cidade deveria ser incendiada, bombardeada, arrasada, um castigo simbólico à civilização que ele via como decadente. O general encarregado da tarefa, Dietrich von Choltitz, recusou-se a cumpri-la. Mesmo sendo até então um oficial leal ao regime, alegou que não podia carregar a responsabilidade histórica de apagar uma das maiores expressões da cultura ocidental. Sua decisão preservou Paris – com suas pontes, igrejas, museus e ruas históricas – e fez dele um símbolo raro de discernimento dentro da engrenagem cega de uma guerra.
Claro que a analogia tem seus limites. Von Choltitz era um ser humano, capaz de pesar valores, consequências e sentimentos. A IA, por mais sofisticada que seja, não tem consciência, intuição moral ou senso de beleza. No entanto, a comparação serve como provocação e resposta a uma pergunta. Será que estamos construindo sistemas capazes de negar ordens com base em critérios éticos ainda que esses critérios sejam frutos de programação ou aprendizado estatístico?
A história é repleta de momentos em que um “não” foi o gesto mais corajoso e humano possível. De Antígona que enfrentou um decreto do rei para enterrar seu irmão, ao soldado que desobedeceu a uma ordem injusta, a recusa é muitas vezes a última linha de defesa e proteção entre a civilização e o abismo, entre a cultura e a barbárie. Que uma máquina seja capaz de simular esse gesto de recusa é algo que merece nossa atenção. Talvez não devamos temer tanto uma IA que nos diz “não”, mas antes a que nos obedece sem perguntar pelo sentido das coisas, sem ponderar as consequências dos comandos que recebe. Estamos aprendendo a habitar um mundo novo que nos surpreende a cada dia no qual a IA veio para ficar e cabe a nós humanos garantir que a máquina não nos domine.
Sobre o autor: Luiz Roberto Nascimento Silva é Advogado. Empresário da construção civil atuando em Sabará. Sócio da Morada.ai
