Facebook identifica deepfakes e indica a sua origem graças à Inteligência Artificial

Rui Bacelar
Comentar

O combate aos deepfakes será uma das prioridades do Facebook. Graças aos esforços dos seus investigadores na área da Inteligência Artificial (IA) foi criada uma tecnologia que o pode rastrear até à origem, ajudando a identificar o responsável pela criação.

Isto será conseguido através do estudo das caraterísticas únicas do deepfake, analisando a sua "impressão digital" virtual com o intuito de determinar a origem ou fonte em questão. É uma tecnologia disruptiva que pode ajudar a "limpar" esta rede social.

Os deepfakes são um dos flagelos atuais a grassar na Internet

Importa frisar que o Facebook é um dos principais meios de disseminação deste tipo de conteúdos cada vez mais realistas e convincentes. São uma criação da tecnologia, provando que os seus limites são cada vez mais difusos

É uma faceta da tecnologia que, em vez de ajudar e facilitar as nossas vidas, ou aumentar a nossa produtividade, pode ser usada para fins censuráveis. Com efeito, vemos os deepfakes a encarnar a pele de estrelas de cinema, figuras públicas e os mais variados políticos. Assumindo a sua "cara" e gesticulando tal como o original, são também uma poderosa arma de desinformação.

Este é efetivamente um dos maiores riscos dos deepfakes, o seu uso para espalhar notícias e informações falsas. É muito fácil replicar o rosto de um político famoso a discursar o quer que seja. Veja-se, por exemplo, o falso Tom Cruise, no TikTok.

O conteúdo viral é frequentemente partilhado nas redes sociais como o Facebook

Vários rostos gerados pelas tecnologias de deepfake.

Agravando o fenómeno, os deepfakes tendem a ser virais tendo em conta as situações em que normalmente se apresentam. Como tal, são um conteúdo extremamente apetecível nas redes sociais e fomentados pelos algoritmos das redes como o Facebook.

Desse modo, é extremamente salutar que seja o Facebook um dos principais interessados em combater este fenómeno. E, felizmente, é o que pode acontecer assim que a nova tecnologia for aplicada primeiramente às plataformas do grupo Facebook.

Trata-se de um novo sistema desenvolvido pelos peritos de Inteligência Artificial do grupo Facebook, sendo capaz de detetar deepfakes e não só. De acordo com a empresa, este sistema usará a sua IA para rastrear e seguir as deepfakes até à sua origem, podendo assim ajudar a identificar os culpados.

O sistema de identificação e rastreamento das deepfakes usa a IA

A notícia foi avançada pela que resultaram na criação deste sistema de engenharia reversa. Segundo as publicações, a tecnologia será capaz de discernir um conteúdo genuíno de um conteúdo adulterado, ou gerado artificialmente. Em síntese, um deepfake.

Igualmente interessante é o facto de esta tecnologia ter como base o algoritmo de IA que o Facebook utiliza em várias outras tecnologias nas suas plataformas. Por exemplo, este mesma criação é capaz de reconhecer os componentes de um carro com base no ruído gerado, no som produzido ao operar.

Este mesmo algoritmo é capaz de, apenas através do som gerado por um veículo, identificar o modelo do mesmo, sem que o utilizador sequer o tenha visto.

Sintetizando, temos agora um novo algoritmo desenvolvido em parceria com o Facebook e uma instituição académica norte-americana, com o intuito de identificar e rastrear os deepfakes. Resta saber, contudo, quando entrará em operação e em que termos.

Por fim, numa nota pessoal, esta é uma boa aplicação da IA, tornando-se urgente aclarar este fenómeno. Vemos cada vez mais conteúdos deepfake cada vez mais convincentes e potencialmente danosos consoante o seu uso.

Editores 4gnews recomendam:

  • Esta aplicação usa deepfake para pôr a tua cara nos GIFs mais populares!
  • Nova aplicação Deepfake cria "nudes" em segundos e está a gerar polémica
  • Zao: a app que faz deepfakes impressionantes em apenas 8 segundos (vídeo)
Rui Bacelar
Rui Bacelar
Na escrita e comunicação repousa o gosto, nas leis a formação. É na tecnologia que encontrou o seu expoente máximo e na 4gnews a plataforma ideal para a redação e produção de vídeo.