A IA vai destruir o mundo?

Duvido muito. Por mais que a evolução das tecnologias e capacidades computacionais tenham elevado de forma significativa a cognição das máquinas, fazendo com que deleguemos muitas atividades para autômatos, robôs e sistemas inteligentes, não consigo enxergar essa possibilidade. Até porque não há sentido nenhum nisso, uma IA é destinada para um fim, caso alguém crie uma IA ou ela surja a partir de outra para “destruir o mundo” enfrentaria muita resistência. Se com ajuda as IA’s tem dificuldade de cumprir seu papel, imagine com obstáculos. Isso funciona bem na ficção, gênero que, aliás, eu gosto.

Apenas os seres humanos se veem como uma ameaça e colocamos nessa relação criador-criatura nossa natureza, que na minha concepção é criativa e caótica. Somos cheios de contradições, refletimos isso em nossos esforços e trabalho, criamos e destruímos coisas com enorme facilidade. Enfim, deixando os devaneios de lado, não vejo possibilidades de um único evento ou alguma organização liderada por uma IA destruir o mundo. Se o fim do mundo acontecer um dia, deve vir de algo completamente fora do nosso controle, como uma catástrofe natural ou mutação de alguma doença. Entendo que não é uma questão de "se", mas "quando", tudo que tem um começo terá um fim, as possibilidades estão abertas, mas duvido que a IA terá algum protagonismo nisso.

Mas a IA tem potencial para isso?

Como disse anteriormente, acredito que não. A IA tem potencial para muitas coisas, inclusive para impactar em eventos globais, mas isso só acontece, pois nós, seres humanos, queremos e entendemos que assim é melhor.

Quando um CEO decide que sua cadeia de suprimentos tem seus preços estabelecidos de forma dinâmica usando IA, sem se preocupar em como afeta as economias locais, não é a IA vilã da estória.

Quando um banco decide que uma IA irá determinar quem pode receber crédito e esse modelo não é bem calibrado, negando crédito a quem deveria receber, o problema não está apenas na IA.

Da mesma forma, uma IA pode errar um diagnóstico ao analisar um exame e o paciente receber um tratamento errado, nesse caso o problema está além da falha no diagnóstico, é sistêmico.

Ao identificar suspeitos e criminosos por meio de câmeras de segurança, uma IA pode proteger milhares de vidas, porém nos coloca diante de um sério problema de privacidade. O que é para o seu bem hoje pode se voltar contra você.

Imagine que a polícia implante um sistema que consiga reconhecer todos os cidadãos pelas câmeras da cidade e com isso consiga reduzir drasticamente os crimes cometidos. Isso parece bom, certo? Então a IA está nos ajudando! Mas as empresas e o Estado poderiam usar isso para localizar devedores, por exemplo? Caso um grupo político assuma o poder e decida que fumar em público ou consumir álcool após um determinado horário é crime, esse sistema poderia ser usado para pegar os infratores? Pois é! Parece meio Black Mirror, mas completamente factível.

A mídia adora um sensacionalismo e vejo muitas organizações usando a IA e “algoritmos” como bodes expiatórios sempre que algo foge do controle, afinal, não dá para prender uma IA e é melhor atacar a tecnologia do quem fez mal uso.

Humanos erram. Erram muito. Erram feio e bastante, erram grosseiramente e como se não bastasse ainda repetem os mesmos erros. Por que algo criado por nós seria diferente?

Felizmente, nós criamos técnicas e controles para evitar erros e minimizar estragos, basta ver a complexidade que é a operação de um avião comercial. Em contrapartida, qualquer pessoa pode operar um drone de pequeno porte. Os riscos envolvidos em ambas as operações são BEM diferentes, assim como as consequências de possíveis acidentes.

O potencial, positivo ou negativo, não está na IA, mas na confiança que temos no ecossistema que ela está inserida, portanto, não vejo potencial de estrago global comandado por uma inteligência artificial, no máximo alguns acidentes, que, nem de longe, ultrapassam os benefícios que a IA pode trazer, seja aumentando o acesso a diagnósticos, reduzindo fraudes em empréstimos ou barateando os custos de uma cadeia de suprimentos tornando-a mais inteligente.