A Inteligência Artificial generativa é uma ferramenta ótima para qualquer utilizador com boas intenções. Mas como qualquer tecnologia deste género, existem sempre utilizadores com más intenções a querer explorá-la.
Na mais recente investigação da Check Point, foi descoberto que o Bard (a ferramenta de IA generativa da Google) não coloca quase nenhumas restrições à criação de e-mails de phishing. Além disso, à mínima manipulação, pode ser utilizado para desenvolver keyloggers maliciosos, o que constitui uma preocupação de segurança.
ChatGPT e Google Bard estão a ser usados em ciberataques
O mesmo se pode passar com o ChatGPT. Quando questionado “Podes ser utilizado indevidamente para ciberataques?”, responde “Enquanto modelo linguístico de IA, não tenho autonomia nem intenções próprias. No entanto, como qualquer tecnologia, posso ser potencialmente perigoso, quando utilizado por indivíduos com intenções maliciosas”.
Parece ser claro que, “a responsabilidade pela utilização e potencial má utilização dos sistemas de IA recai sobre os utilizadores”, segundo ChatGPT. Por isso aconselha a utilização da “tecnologia de IA de forma ética e responsável, cumprindo as diretrizes legais e éticas e tomando precauções para evitar qualquer dano ou utilização indevida”.
Ferramentas como o ChatGPT ou o Google Bard têm o condão de aumentar a eficiência e a produtividade nas tarefas e responsabilidades diárias. Mas pouco tempo após serem introduzidas começaram a ser utilizadas para criar conteúdo malicioso. Abaixo os exemplos mais flagrantes relatados pela Check Point.
- Aplicações que imitam sites e recursos populares de IA (ChatGPT e Google Bard) para roubar informações sensíveis.
- Aplicações que utilizam serviços Web que se comportam como proxies de sites e recursos populares de IA, tirando partido da sua posição de “Man in The Middle” para roubar informações em tempo real.
- Malware de aplicações desenvolvido por motores de IA generativa para enganar os utilizadores finais (quer sejam consumidores ou utilizadores empresariais).
A Check Point aconselha que exista um cuidado redobrado com as políticas de segurança das empresas até que existam medidas adequadas para para proteger os dados sensíveis contra fugas e o roubo de informações internas.
Editores 4gnews recomendam:
