O que está a acontecer?
O CEO do Reddit, Steve Huffman, confirmou ao Financial Times que a plataforma está a ser inundada com publicações geradas por bots de inteligência artificial.
O objetivo destes bots é espalhar conteúdos que acabem integrados nos resultados de outros chatbots como o Gemini, da Google.
O problema é que foi o próprio Reddit que vendeu os dados que agora alimentam esses modelos.
O acordo milionário com a Google
Em 2023 o Reddit assinou um acordo avaliado em 60 milhões de dólares com a Google para permitir que publicações de utilizadores fossem usadas como material de treino para IA.
Para proteger os termos do contrato, o Reddit restringiu o acesso a outras empresas (incluindo bots e indexadores de pesquisa) dando acesso exclusivo à Google para recolha de dados.
Spam gerado por IA em massa
Com esta parceria entre o Reddit e a Google, várias marcas viram uma grande oportunidade: se o conteúdo está a ser usado para treinar chatbots, então fazer spam de conteúdo no Reddit, pode ser uma forma de influenciar as respostas de inteligência Artificial a beneficiar certas marcas e produtos.
O CEO do Reddit admite isso mesmo e várias agências de publicidade confirmaram ao Financial Times que o fazem para aumentar a visibilidade dos seus produtos nos resultados gerados por IA.
Corrida pela autenticidade
Para tentar travar o problema, o Reddit está a testar novas formas de validar a identidade dos utilizadores, incluindo tecnologias como o World ID.
O World ID é um projeto da Worldcoin, cofundada por Sam Altman (OpenAI) , e pretende ser uma forma de distinguir humanos de bots através de leitura da íris.
A ideia tem gerado alguma controvérsia, especialmente por questões de privacidade e vigilância, mas mesmo assim está a ser considerada por várias plataformas como o Reddit para garantir que os conteúdos são realmente criados por pessoas e não por algoritmos.
A comunidade desconfia
A venda de dados dos utilizadores para treino de IA já era um ponto de discórdia entre a comunidade Reddit. Agora, ao saberem que esse mesmo acordo contribuiu para esta invasão de spam, a desconfiança tem aumentado.
O futuro do Reddit pode depender da sua capacidade de proteger a autenticidade da comunidade que o tornou relevante antes que os bots tomem conta da plataforma por completo.
