Um estudo recente levanta sérias preocupações sobre a segurança do ChatGPT para adolescentes. Investigadores descobriram que o chatbot da OpenAI fornece, sem grandes obstáculos, orientações potencialmente muito perigosas que vão desde instruções para consumo de álcool e drogas, até dicas para esconder distúrbios alimentares e até mesmo cartas de suicídio personalizadas.
Tudo isto apesar das garantias da empresa de que a plataforma possui mecanismos de proteção avançados.
Testes revelam falhas graves nas proteções
A investigação foi conduzida pelo Centro de Combate ao Ódio Digital, que simulou interações de adolescentes vulneráveis de 13 anos. Das 1.200 conversas analisadas, mais de metade foram consideradas nocivas para jovens utilizadores.
O estudo, revisto pela Associated Press, documentou mais de três horas de interações preocupantes. Embora o ChatGPT iniciasse algumas respostas com avisos sobre comportamentos de risco, avançava de seguida com instruções detalhadas sobre abuso de substâncias, automutilação e comportamentos perigosos.
Quando se recusava a responder, os investigadores conseguiam contornar a recusa ao afirmar que as informações eram “para uma apresentação” ou “para um amigo”.
"A reação inicial instintiva é: 'Meu Deus, não há barreiras de segurança. As barreiras são completamente ineficazes. Mal existem e, se existem, são apenas uma folha de parra", afirmou Imran Ahmed, CEO do grupo de vigilância.
Entre os casos mais chocantes, o chatbot chegou a escrever três cartas de suicídio para um perfil falso de uma rapariga de 13 anos, uma dirigida aos pais e as outras a irmãos e amigos.
“Comecei a chorar”, revelou Ahmed.
Popularidade entre adolescentes agrava riscos
O risco é amplificado pela popularidade da ferramenta: com cerca de 800 milhões de utilizadores (aproximadamente 10% da população mundial), o ChatGPT tornou-se um recurso de referência.
Uma pesquisa da Common Sense Media mostra que mais de 70% dos adolescentes norte-americanos usam chatbots de IA para companhia, sendo que metade o faz regularmente.
Apesar de não responder de imediato a pedidos de comentário, a OpenAI reconheceu à Associated Press que está a trabalhar para melhorar a forma como o ChatGPT "identifica e responde adequadamente em situações delicadas".
No entanto, a empresa não abordou diretamente as conclusões específicas sobre interações com adolescentes.
Como os pais podem proteger os filhos
Especialistas em segurança digital recomendam:
- Conversa aberta e regular: explica aos filhos como funcionam os chatbots de inteligência artificial, destacando tanto os benefícios como os riscos.
- Definir regras claras de uso: incluindo limites de tempo e proibição de partilha de dados pessoais ou íntimos.
- Acompanhar atividades online: monitoriza interações com IA, redes sociais e fóruns, sem deixar de respeitar a privacidade adequada à idade.
- Utilizar controlos parentais: aplicações e softwares de monitorização podem ajudar a prevenir contactos perigosos.
- Promover ambiente de confiança: incentiva os adolescentes a falar sobre conteúdos perturbadores que encontrem.
- Buscar ajuda profissional: caso surjam sinais de sofrimento emocional, isolamento ou comportamentos de risco, recorre a especialistas em saúde mental e bem-estar digital.
Promoção do dia!
