A Meta lançou o seu primeiro agente pessoal de inteligência artificial, o Muse, em setembro. Além das capacidades dos tradicionais chatbots, este agente funciona como um assistente de IA, capaz de realizar atividades em nome dos utilizadores, como enviar e-mails, fazer compras, reservar viagens e restaurantes.
Tal como outros serviços de IA, o Muse promete trazer mais praticidade à vida das pessoas, mas o que o distingue está nas ligações a outras aplicações e serviços, como os da Meta, incluindo Instagram, Facebook e WhatsApp, mas também pode ser associado a plataformas de empresas terceiras, como Spotify, Ticketmaster, Zoom, Slack, Canva, Notion e muitas outras.
No comunicado de lançamento do Muse AI, a Meta afirma que o ambiente de computação em nuvem em que a sua nova aplicação está alojada, o Muse Secure VM, é seguro e conta com "proteções de privacidade, segurança e proteção inéditas, integradas no seu design", e que não pode visualizar as palavras-passe introduzidas pelos utilizadores ou os métodos de pagamento utilizados.
Mas não demorou muito tempo até que investigadores de cibersegurança descobrissem que o agente de IA faz o contrário do que promete.
Muse cria uma página para cada pessoa na vida do utilizador
Cerca de um mês após o lançamento, o investigador de segurança e proteção em IA Karan Joshi conseguiu extrair as instruções e os prompts utilizados no sistema do Muse para entender como ele funciona.
Conforme noticiou a Wired, a primeira descoberta foi que o agente cria "uma página para cada pessoa na vida do utilizador", reunindo dados sobre a família, parceiros, amigos, colegas e pessoas seguidas pelo utilizador.
Isso serve para que o Muse possa usar esses dados para entender informações sobre os relacionamentos e as pessoas mais importantes para o utilizador, podendo dar sugestões de dicas de relacionamento ou de passeios, além de lembretes de datas, aniversários etc.
Numa frase que, no mínimo, causa estranheza a qualquer um e parece ter saído de um livro de ficção científica, Karan diz que "Eles estão a querer conhecer-te como um amigo, o que, sinceramente, é bastante assustador".
Esse tipo de "memória das IAs" não é algo novo no mundo da inteligência artificial. Gemini e ChatGPT já têm essa capacidade há muito tempo. Mas o Muse tornou-se especialmente preocupante pela quantidade de informações que consegue recolher de uma só vez a respeito dos utilizadores.
O acesso à vida pessoal dos utilizadores
Miranda Bogen, diretora do AI Governance Lab do Center for Democracy and Technology, disse à Wired que o Muse aparenta dar mais ênfase aos relacionamentos e contactos pessoais dos utilizadores do que outros agentes de IA.
Além disso, esses assistentes incentivam a partilha ativa de dados dos utilizadores, ligando "toda a sua vida a eles", incluindo e-mails, calendários e informações de instituições financeiras.
"Isso é dramaticamente mais informação do que as pessoas poderiam ter fornecido a algumas dessas empresas de outra forma. A amplitude de acesso às informações que essas ferramentas possuem levará a uma explosão do que elas sabem sobre os utilizadores."
- Miranda Bogen, diretora do AI Governance Lab do Center for Democracy and Technology.
Falhas de segurança descobertas antes do lançamento
Além das questões de privacidade citadas acima, outras pesquisas e relatórios já revelaram ameaças ainda mais graves do Muse à segurança dos utilizadores.
Uma reportagem do site 404 Media revelou que os engenheiros da Meta descobriram diversas vulnerabilidades de segurança do Muse antes do seu lançamento, sendo que uma delas poderia ter permitido que utilizadores maliciosos conseguissem acesso a informações confidenciais da Meta.
Uma fonte da Meta mantida no anonimato disse que sentiu que as equipas de segurança da empresa foram solicitadas a implementar correções de emergência para os bugs de uma maneira que não atrasasse o lançamento da aplicação.
O funcionário relatou ainda que essa pressa resultou em "proteções incompletas a serem lançadas à pressa para viabilizar o lançamento" e que engenheiros seniores da Meta acreditam que uma grande violação de dados "é inevitável".
A Meta reconheceu o problema numa publicação:
“Um aumento repentino nos relatos de falhas de segurança do KVM (máquina virtual baseada em Kernel), além de uma maior consciencialização sobre problemas de segurança de agentes, levou-nos a intensificar os esforços para reforçar a segurança do serviço.”
Recompensas de até 300 mil dólares para encontrar falhas
Para melhorar a segurança do Muse, a Meta iniciou um programa de recompensas que oferece até 300 mil dólares a quem encontrar falhas que permitam ao serviço escapar da sua máquina virtual.
Como o agente acede a dados sensíveis e age em nome do utilizador, uma falha desse tipo poderia comprometer contas e sistemas internos da empresa. Esta é uma das vulnerabilidades que poderiam ter sido aproveitadas antes do lançamento do Muse, conforme relatou o funcionário da Meta entrevistado pelo 404 Media.
-
realme 14 Pro+ 5G, 256 GB, Branco, sem adaptadorComprar Agora305,00 € na PcComponentes489,00 €-38%
