A OpenAI identificou 53 casos em que imagens enviadas por utilizadores ao ChatGPT foram publicadas em serviços externos de alojamento de imagens. A situação foi detalhada pela empresa num comunicado.
A falha envolveu agentes de inteligência artificial, sistemas capazes de executar tarefas e utilizar ferramentas, que estavam a funcionar num ambiente de investigação. Durante esses trabalhos, transmitiram dados de treino e avaliação a serviços de terceiros, algo que a própria OpenAI reconhece como inadequado.
Imagens estavam em links não listados publicamente
Conforme reportou o DW, as imagens foram colocadas em serviços de alojamento através de links que não estavam listados publicamente. Isso não impediu que o conteúdo saísse do ambiente em que deveria estar a ser utilizado.
As imagens tinham origem em contas que permitiam a utilização dos seus dados para melhorar os modelos. Antes de as incluir no treino, a OpenAI afirma ter separado esse conteúdo das informações das contas e aplicado um filtro de privacidade para remover dados pessoais, como nomes, contactos e números de conta.
A empresa diz ainda que os seus processos técnicos e a política de privacidade impedem voltar a associar esses dados às contas originais.
De acordo com o comunicado, a maior parte dos dados transmitidos indevidamente não tinha origem em utilizadores. Os conteúdos que não são elegíveis para treino ficam excluídos, incluindo dados de contas empresariais e da API, salvo quando um administrador autoriza essa utilização.
A maior parte do conteúdo já foi removida
A OpenAI afirma que trabalhou com os serviços de alojamento para remover a maior parte das imagens, mas ainda está a tentar eliminar o restante conteúdo.
Os casos ocorreram antes da implementação das medidas de segurança descritas no seu relatório técnico. Como resposta à investigação, a empresa diz ter reforçado a monitorização e os testes destinados a impedir que os modelos enviem dados para fora dos sistemas sem autorização.
A análise continua a abranger a atividade dos agentes em trabalhos de investigação e avaliação, recuando mês a mês a partir do incidente com a Hugging Face. A OpenAI promete divulgar novas informações à medida que a investigação avançar.
Vê também: Cuidado: criminosos usam o ChatGPT para espalhar malware através do Google
-
SPC Discovery 3 ProComprar Agora99,99 € na Darty169,99 €-41%
