Não entendo pessoas que confiam em IA.

Farofeiros, farofeiras e farofeires, pessoas acreditam que máquinas são precisas e imparciais, diferente dos humanos… Por algum motivo esquecem de todas as vezes que o Windows trava, que o sistema do banco caí e que a biometria tem que ser refeita. E mesmo assim resolveram confiar sua saúde, finanças, criações e até escolha de voto para uma tecnologia conhecida por suas alucinações! Como confiam em IA mesmo com todos seus problemas?

É fácil acreditar em frases bem articuladas, não é mesmo? Tanto do fulano vendendo curso como da IA respondendo diretamente um pedido seu. Sem mencionar que é extremamente confortável mandar a ferramenta fazer algo tedioso que você deveria fazer.

As pessoas também se acham descoladas em “conversar” com um agente programado para satisfazer suas vontades – mesmo se for de maneira falsa. Essa é a medida hoje, a eficiência de qualquer LLM, de qualquer IA, de qualquer agente, é medida de acordo com o nível de satisfação do usuário, não quanto seu acertismo.

Como sempre menciono no WASD podcast, LLM é uma bela ferramenta para as mais diversas utilidades, mas não pode ser utilizado como ferramenta de tomada de decisões. Infelizmente a embalagem que nos vendem a ferramenta ignora que alucinações, erros e até mentiras são frequentes. E não, nenhuma LLM vai cometer excesso de honestidade, seu modelo de negócios não permitiria isso.

A IA não fala a verdade, fala o que você quer ouvir.

Sua IA favorita está sempre disponível – se você tem tokens suficiente – é paciente e não julga. O que é, inegavelmente, confortável. Esse conforto gera confiança, mas a confiança cega pode ser danosa em diversos aspectos… E gerar casos terríveis.

Usar IA sem verificar, sem questionar, sem entender os limites já é hábito de muitas pessoas e é vendido como solução de qualquer problema em redes sociais. A postura mais saudável seria tratar a IA como uma ferramenta capaz mas que precisa de supervisão humana para decisões importantes… Não, a parte humana não é só escrever um prompt profissional que chame vários agentes para transformar um político em um herói nacional.

Sim, dá trabalho fazer a coisa certa.