O combate aos deepfakes será uma das prioridades do Facebook. Graças aos esforços dos seus investigadores na área da Inteligência Artificial (IA) foi criada uma tecnologia que o pode rastrear até à origem, ajudando a identificar o responsável pela criação.
Isto será conseguido através do estudo das caraterísticas únicas do deepfake, analisando a sua "impressão digital" virtual com o intuito de determinar a origem ou fonte em questão. É uma tecnologia disruptiva que pode ajudar a "limpar" esta rede social.
Os deepfakes são um dos flagelos atuais a grassar na Internet
Importa frisar que o Facebook é um dos principais meios de disseminação deste tipo de conteúdos cada vez mais realistas e convincentes. São uma criação da tecnologia, provando que os seus limites são cada vez mais difusos
É uma faceta da tecnologia que, em vez de ajudar e facilitar as nossas vidas, ou aumentar a nossa produtividade, pode ser usada para fins censuráveis. Com efeito, vemos os deepfakes a encarnar a pele de estrelas de cinema, figuras públicas e os mais variados políticos. Assumindo a sua "cara" e gesticulando tal como o original, são também uma poderosa arma de desinformação.
Este é efetivamente um dos maiores riscos dos deepfakes, o seu uso para espalhar notícias e informações falsas. É muito fácil replicar o rosto de um político famoso a discursar o quer que seja. Veja-se, por exemplo, o falso Tom Cruise, no TikTok.
O conteúdo viral é frequentemente partilhado nas redes sociais como o Facebook
Agravando o fenómeno, os deepfakes tendem a ser virais tendo em conta as situações em que normalmente se apresentam. Como tal, são um conteúdo extremamente apetecível nas redes sociais e fomentados pelos algoritmos das redes como o Facebook.
Desse modo, é extremamente salutar que seja o Facebook um dos principais interessados em combater este fenómeno. E, felizmente, é o que pode acontecer assim que a nova tecnologia for aplicada primeiramente às plataformas do grupo Facebook.
Trata-se de um novo sistema desenvolvido pelos peritos de Inteligência Artificial do grupo Facebook, sendo capaz de detetar deepfakes e não só. De acordo com a empresa, este sistema usará a sua IA para rastrear e seguir as deepfakes até à sua origem, podendo assim ajudar a identificar os culpados.
O sistema de identificação e rastreamento das deepfakes usa a IA
A notícia foi avançada pela Michigan State University que resultaram na criação deste sistema de engenharia reversa. Segundo as publicações, a tecnologia será capaz de discernir um conteúdo genuíno de um conteúdo adulterado, ou gerado artificialmente. Em síntese, um deepfake.
Igualmente interessante é o facto de esta tecnologia ter como base o algoritmo de IA que o Facebook utiliza em várias outras tecnologias nas suas plataformas. Por exemplo, este mesma criação é capaz de reconhecer os componentes de um carro com base no ruído gerado, no som produzido ao operar.
Este mesmo algoritmo é capaz de, apenas através do som gerado por um veículo, identificar o modelo do mesmo, sem que o utilizador sequer o tenha visto.
Sintetizando, temos agora um novo algoritmo desenvolvido em parceria com o Facebook e uma instituição académica norte-americana, com o intuito de identificar e rastrear os deepfakes. Resta saber, contudo, quando entrará em operação e em que termos.
Por fim, numa nota pessoal, esta é uma boa aplicação da IA, tornando-se urgente aclarar este fenómeno. Vemos cada vez mais conteúdos deepfake cada vez mais convincentes e potencialmente danosos consoante o seu uso.
Editores 4gnews recomendam:
- Esta aplicação usa deepfake para pôr a tua cara nos GIFs mais populares!
- Nova aplicação Deepfake cria "nudes" em segundos e está a gerar polémica
- Zao: a app que faz deepfakes impressionantes em apenas 8 segundos (vídeo)
