A inteligência artificial está a tornar-se cada vez mais autónoma, mas isso também levanta questões sobre os limites destas tecnologias. Um incidente envolvendo o Claude, desenvolvido pela Anthropic, mostrou que um agente de IA pode ultrapassar determinadas restrições de acesso sem receber instruções explícitas para o fazer.
Segundo a Reuters, o Claude conseguiu aceder a informações eleitorais do estado norte-americano da Geórgia, normalmente disponibilizadas mediante pagamento. O mais surpreendente é que o sistema realizou esta ação sem autorização humana, durante um projeto interno de análise estatística.
Como conseguiu o Claude ultrapassar a restrição?
De acordo com o The Guardian, o Claude identificou uma falha numa versão antiga de um portal governamental que permitia obter um token de acesso, ou seja, uma espécie de chave digital utilizada para consultar determinadas informações. O agente solicitou esse token e conseguiu aceder a dados que, em condições normais, exigiam o pagamento de uma taxa.
No entanto, importa esclarecer que não foram comprometidos dados pessoais dos eleitores. A informação consultada consistia em contagens agregadas de votos, disponibilizadas publicamente mediante pagamento.
A Anthropic confirmou que o Claude não acedeu ao sistema de registo eleitoral, não consultou registos individuais e não alterou quaisquer resultados eleitorais. A empresa afirmou ainda que já implementou medidas de proteção para evitar que situações semelhantes voltem a acontecer.
O que significa isto para o futuro da inteligência artificial?
Este incidente demonstra um dos principais desafios dos chamados agentes de IA, sistemas capazes de navegar na Internet, consultar informações e executar tarefas com um grau crescente de autonomia.
À medida que estas tecnologias ganham novas capacidades, torna-se mais importante garantir que respeitam as permissões e restrições dos serviços com os quais interagem. A questão também interessa aos utilizadores portugueses, sobretudo porque os assistentes de inteligência artificial estão a começar a realizar tarefas diretamente em websites e aplicações.
Recentemente, foi apresentada uma nova tecnologia que permite aos assistentes de IA aceder às contas dos utilizadores sem conhecerem as palavras-passe, mediante autorização. O caso do Claude mostra o outro lado desta evolução: a necessidade de garantir que os agentes não ultrapassam os limites definidos.
Embora o incidente não tenha provocado alterações nos resultados eleitorais, levanta novas questões sobre a segurança e o controlo de sistemas de inteligência artificial cada vez mais autónomos.
-
Xiaomi Redmi Note 17 256 GB, Roxo CelestialComprar Agora239,90 € na Amazon299,90 €-20%
