O empresário Elon Musk declarou recentemente que, em até cinco anos, a inteligência artificial ultrapassará a capacidade humana. Por enquanto, prevalece a impressão de que dominamos a tecnologia e de que ela só pode fazer aquilo que o homem programa, pautando-se por relações lógicas, matemáticas e físicas. Trata-se, afinal, de um sistema projetado para processar, com extrema rapidez, soluções que a mente humana tem dificuldade de alcançar.

O dado que mais impressiona — e que justifica a observação de Musk — é o ritmo vertiginoso dessa evolução. Não nos referimos apenas ao aumento do poder computacional, mas a uma mudança qualitativa: quando a computação deixa de ser mera ferramenta de cálculo para se tornar um agente decisório autônomo, a discussão ultrapassa a engenharia e alcança a dimensão ético-existencial.

Essa aceleração não se restringe apenas ao aumento do poder de processamento computacional, mas indica uma mudança qualitativa na própria forma como a tecnologia interfere na realidade. Quando a computação deixa de ser uma mera ferramenta de cálculo para se tornar um agente decisório autônomo, a discussão ultrapassa a engenharia e alcança a dimensão ético-existencial do próprio ser humano.  

Em sua encíclica “Magnifica humanitas”, o Papa Leão XIV já apontou a importância e os riscos da transformação social pela tecnologia. Ele demonstrou que esses sistemas evoluem continuamente. A inteligência artificial é mais rápida no trabalho, não faz greves nem gera encargos sociais. Seus alertas éticos mostram que corremos riscos gravíssimos se não houver cautela, pois a substituição da mão de obra humana pela eficiência produtiva da máquina pode gerar impac tos sociais irreparáveis. Configura-se, assim, um dilema em que o lucro econômico imediato e a eficiência algorítmica atropelam a dignidade do trabalho e a coesão social.

No momento em que alcançarmos integrações também de natureza química — na mesma velocidade em que hoje ocorrem as de natureza digital —, haverá ainda mais motivos para preocupação. Afinal, a aceleração com que a inteligência artificial ganha terreno, conquista novos campos e consolida estruturas é impressionante.

Trata-se do ponto em que a tecnologia deixa de interagir apenas com circuitos de silício para se conectar diretamente com a biologia e com os processos neuroquímicos do cérebro humano. Ao atingirmos integrações de natureza química – na mesma velocidade em que hoje ocorrem as de ordem digital —, essa fronteira híbrida, embora promissora para a medicina e a biotecnologia, abrirá precedentes inéditos sobre o controle do comportamento e a manipulação da própria consciência. É por ess a razão que os alertas sobre a velocidade com que a inteligência artificial ganha terreno e consolida estruturas se tornam tão urgentes.

Vale a pena recordar que o escritor e filósofo Umberto Eco, no final do século passado — quando a inteligência artificial consistia apenas em computadores mais rápidos na solução de determinados problemas —, já dizia que essa celeridade tornaria o homem descartável no futuro.
A discussão, portanto, ultrapassa os limites da tecnologia: o problema não está apenas no que as máquinas serão capazes de fazer, mas no que deixaremos de exigir do ser humano. Se a eficiência e a rapidez passarem a ser critérios suficientes para determinar o valor de uma atividade, corremos o risco de medir o homem pelos mesmos parâmetros que utilizamos para avaliar uma máquina.

O trabalho, entretanto, não representa apenas uma forma de produzir riqueza. Ele também participa da construção da identidade, da autonomia e do sentimento de pertencimento do indivíduo à sociedade. A substituição crescente do trabalho humano pela tecnologia, portanto, pode produzir consequências que vão muito além da economia: poderá atingir a própria percepção que o homem tem de sua utilidade e de seu lugar no mundo.

Por outro lado, em suas diretrizes éticas, o Papa Leão XIV, em sua encíclica,  alerta que corremos riscos gravíssimos de ordem social se não houver cautela. Afinal, a substituição da mão de obra humana pela eficiência produtiva da inteligência artificial pode gerar grandes e irreparáveis impactos na vida humana.

Essa transformação alcança também atividades intelectuais que sempre dependeram do discernimento humano. No Direito, por exemplo, a inteligência artificial já pode realizar, em segundos, pesquisas e cruzamentos de informações que exigiriam horas de trabalho. Mas a decisão jurídica não se resume à localização da norma ou do precedente mais adequado. Interpretar, ponderar valores, avaliar circunstâncias concretas e assumir a responsabilidade pelas consequências de uma decisão são atividades que não podem ser reduzidas à velocidade de processamento de uma máquina. Quanto maior for a capacidade da inteligência artificial, portanto, maior será a necessidade de preservar a responsabilidade humana sobre aquilo que não pode ser decidido apenas pela eficiência.

Precisamos decidir quais limites jurídicos, econômicos e éticos serão impostos à inteligência artificial antes que a capacidade tecnológica determine, por si mesma, o nosso papel na sociedade. A previsão de Elon Musk – vinda de quem enriqueceu ao explorar o avanço tecnológico — deve servir como um alarme definitivo. Se não nos prepararmos  para impor balizas à automação, arriscamo-nos a caminhar para cenários de profunda desumanização, onde a ficção retratada em produções como no filme “O Exterminador do Futuro” deixará de ser um aviso distante para se tornar a nossa realidade.

Ives Gandra da Silva Martins é professor emérito das universidades Mackenzie, Unip, Unifieo, UniFMU, do Ciee/O Estado de S. Paulo, das Escolas de Comando e Estado-Maior do Exército (Eceme), Superior de Guerra (ESG) e da Magistratura do Tribunal Regional Federal da 1ª Região (TRF-1), professor honorário das Universidades Austral (Argentina), San Martin de Porres (Peru) e Vasili Goldis (Romênia), doutor honoris causa das Universidades de Craiova (Romênia) e das PUCs PR e RS, catedrático da Universidade do Minho (Portugal), presidente do Conselho Superior de Direito da Fecomercio-SP, ex-presidente da Academia Paulis ta de Letras (APL) e do Instituto dos Advogados de São Paulo (Iasp).