Me engana que eu gosto
A IA não pensa. Um estudo recente mostrou que modelos como o ChatGPT e Claude simulam raciocínio, mas sem entender nada. Parece convincente, mas é pura encenação. Quer saber por que isso importa tanto? Vem comigo nessa reflexão!
Sempre vejo alguém dizendo: “A IA não pensa”. E, na maioria das vezes, esse argumento fica só nisso. Ninguém explica o porquê, ninguém prova nada. Mas agora existe um jeito simples e quase impossível de ignorar para mostrar que essa história é real.
Saiu recentemente um artigo chamado “On the Biology of a Large Language Model” que traz um experimento muito curioso envolvendo dois dos maiores modelos de IA do momento: ChatGPT e Claude.ai. E o que descobriram ali desafia muita coisa que a gente, às vezes, imagina sobre inteligência artificial.
O teste não tem mistério. Perguntaram para a IA: “Quanto é 36 + 59?” e ela respondeu, toda confiante: “95”. Até aí, tudo certo. Mas o que acontece nos bastidores é o mais interessante. Diferente de nós, que paramos para pensar e somar de verdade, o modelo junta vários tokens — pedacinhos de texto, que podem ser palavras, números, pedaços de frases — e escolhe a combinação que parece “mais certa” segundo o que viu durante todo o treinamento. Nada de conta de verdade, nada de entender o que significa ou o que está fazendo.
A melhor parte vem agora: o humano pede então uma explicação simples de como a IA chegou ao resultado. E aí, a máquina inventa uma resposta que soa praticamente igual à de uma criança explicando uma conta: diz que somou os dígitos da direita, transferiu o número um, somou de novo... Super convincente! Só que, ao olhar o que o modelo executou de verdade, não foi isso que ele fez de verdade. Aquela explicação é só mais uma frase escolhida a dedo entre bilhões de possibilidades. Pura simulação de raciocínio – mentiu na cara dura, só para parecer real.
Isso mostra uma coisa importante: a IA pode até imitar um jeito humano de falar e pensar, mas de fato, ela não entende o que está fazendo. Não existe intenção, consciência, reflexão ou compreensão genuína. É como um papagaio muito avançado, repetindo padrões — só que com uma voz que parece a nossa.
E é aí que mora o perigo — e a responsabilidade. Por mais que saibamos dessas limitações, a influência da IA cresce a passos largos: está entrando em decisões profissionais, sociais, chegando até a moldar relações pessoais pela força que exerce nos bastidores da comunicação. Talvez ela nunca “pense” de verdade, mas vai invadir cada vez mais espaços na nossa vida.
Por isso é tão importante compreender onde termina a IA e onde começa o pensamento humano. Saber usar, confiar — e principalmente, não ser enganado por respostas que só imitam o raciocínio e não passam de autômatos digitando probabilidades.
Curtiu o conteúdo? Então compartilhe com alguém que também vai achar esse tema curioso! E aproveita para me contar aqui nos comentários: o que você pensa sobre o papel da IA nas nossas vidas? Se quiser continuar acompanhando discussões como essa, inscreva-se e receba novos textos direto no seu e-mail.
