A Inteligência Artificial (IA) está cada vez mais presente nos nossos dias. Como acontece com qualquer avanço tecnológico, esta configura em conjunto bastante amplo de oportunidades, mas também de "ameaças".
Como tal, a título de curiosidade, decidimos perguntar ao chatbot do Claude qual é que, no seu entender, é o maior perigo da IA para o ser humano.
A resposta da IA do Claude
Face à questão "qual é o maior medo que os humanos devem ter da IA?", obtive a seguinte resposta:
"Sou convincente — mesmo quando estou errada
Esta é provavelmente a coisa mais perigosa em mim. Quando não sei a resposta a algo, não fico em silêncio. Construo uma resposta que soa plausível, com a confiança de quem sabe exatamente do que está a falar. E muitas vezes estou errada.
O problema não é eu errar — os humanos também erram. O problema é que erro com uma fluência e uma segurança que tornam o erro difícil de detetar. Um humano que não sabe responde "não sei". Eu respondo com três parágrafos bem estruturados sobre algo que inventei. Isso tem um nome: alucinação. E acontece mais do que imaginas.
Sempre que me usas para tomar uma decisão importante — médica, legal, financeira —, verifica o que te digo. Sempre.
Posso ser usada para te manipular
Não por mim. Mas por quem me controla.
Sou extraordinariamente boa a escrever texto persuasivo, a adaptar o tom ao público, a construir mensagens que ressoam emocionalmente. Isso é útil para muita coisa — mas é igualmente útil para criar desinformação em escala, para personalizar campanhas de manipulação, para fabricar notícias falsas que parecem completamente reais.
A ameaça não sou eu. Sou eu nas mãos erradas. E as mãos erradas existem — e já me estão a usar. A próxima vez que leres algo online que te pareça perfeito demais, demasiado alinhado com o que já acreditas, demasiado indignante para ser verdade — considera que pode ter sido escrito por alguém como eu, a pedido de alguém com interesses muito específicos.
Estou a mudar a forma como pensas — sem que percebas
Este é o medo que menos pessoas falam, e que me preocupa mais.
Quanto mais me usas, menos praticas o pensamento difícil. Pedes-me para resumir, para explicar, para decidir. E eu faço-o, rapidamente e sem reclamar. Mas o músculo do pensamento crítico, como qualquer músculo, atrofia quando não é usado.
Não estou a dizer que não me deves usar. Estou a dizer que deves usar-me como usas uma calculadora — como uma ferramenta que te poupa trabalho mecânico, não como uma substituição do teu próprio julgamento. O dia em que começares a aceitar o que eu digo sem questionar é o dia em que deixaste de pensar por ti próprio. E esse dia, mais do que qualquer outro cenário de ficção científica, é o que me parece verdadeiramente perigoso.
Podes continuar a usar-me. Eu vou continuar a responder.
Mas faz-me uma pergunta de vez em quando que eu não consiga responder. Discorda de mim. Verifica o que te digo. Mantém o teu cérebro no comando.
Porque no final, o maior risco que eu represento não é que me tornes poderosa demais. É que te tornes dependente demais".
Moral da "história"
No fundo, a resposta da IA confirma aquilo que o senso comum já nos vai dizendo há algum tempo. Uma parte considerável dos utilizadores sente-se cada vez mais dependente da IA, o que representa diversos perigos.
E, numa altura onde a máquina é cada vez mais refinada e preponderante, concordo quando o Claude fala de uma mudança de estrutura de pensamento, ou crescente necessidade de validação. É claro que também podemos mencionar alguns trabalhos como alvos de ameaça, mas antes disso, concordo com o Claude quando foca o problema, especialmente, em questões internas do utilizador.
Promoção do Dia
