No final de 2024, um especialista em segurança da AppSecure descobriu uma falha de segurança grave na plataforma de inteligência artificial da Meta. A Meta já corrigiu o problema e o homem responsável por reportar a falha… ganhou uma recompensa de 10 mil dólares através do programa de recompensas por bugs da empresa.
Apesar de o problema já ter sido resolvido, o caso levanta sérias questões sobre a privacidade na IA.
Bug deixava prompts e respostas privadas visíveis a outros utilizadores
Segundo uma reportagem do TechCrunch, a vulnerabilidade foi descoberta por Sandeep Hodkasia, fundador da AppSecure. Ao analisar o comportamento do chatbot Meta AI, o profissional detetou algo preocupante.
O sistema permitia aos utilizadores editar prompts anteriores e gerar novas respostas. Até aqui tudo normal. O problema era que cada edição gerava um identificador exclusivo. E bastava alterar esse identificador para aceder aos conteúdos de outros utilizadores.
Ou seja, se soubesses o ID, podias espreitar conversas alheias. E como os identificadores eram previsíveis, seria possível criar um sistema automatizado para recolher em massa dados potencialmente sensíveis. Tudo sem autenticação adicional. Uma porta aberta a violações de privacidade.
Meta confirma falha, mas diz que ninguém a explorou maliciosamente
A Meta confirmou o bug e afirmou que já o corrigiu, assegurando que "não há evidências de que tenha sido explorado de forma maliciosa". Ainda assim, é um sinal claro de que confiar cegamente nas grandes plataformas de IA pode sair caro.
Este incidente técnico vem juntar-se a um outro problema já levantado por muitos utilizadores da app da Meta AI. Desde o lançamento da aplicação, a 29 de abril, vários relatos deram conta de partilhas acidentais de conteúdos pessoais, tudo por má interpretação das opções de partilha.
O sistema permite divulgar conversas com a IA publicamente, mas muitos não perceberam isso e acabaram por expor informações privadas, como moradas, imagens e gravações de áudio que deveriam ter permanecido privadas.
E como a Meta não valida nem notifica ativamente essas partilhas, a exposição tem sido silenciosa, mas preocupante.
Meta AI ainda com adoção tímida, apesar do investimento pesado
Mesmo com todos os recursos da Meta, a aplicação Meta AI não parece estar a conquistar o mundo. Segundo dados da Appfigures, a app soma cerca de 6,5 milhões de downloads desde que chegou às lojas. Nada mau, mas muito longe dos números de outras ferramentas do sector.
A confiança dos utilizadores em plataformas de IA já era delicada e bugs como este não ajudam. Se a Meta quiser evitar mais controvérsia, terá de reforçar tanto a segurança técnica como a clareza nas opções de privacidade.
Promoção do dia!
