A Inteligência Artificial (IA) é capaz de conseguir coisas verdadeiramente inacreditáveis. O problema é que, em muitos casos, os seus resultados podem depender de quem usa as suas ferramentas. Recentemente, um professor nos Estados Unidos (EUA) foi preso por usar clonagem de voz através de IA.
De acordo com o The Verge, o professor em questão lecionava Educação Física. Ao que tudo indica, o próprio tentou incriminar o diretor da escola com recursos de IA. As autoridades detetaram o crime e prenderam o docente.
Supostamente, a escola secundária em questão situa-se na zona de Baltimore nos EUA. Alguns elementos do estabelecimento de ensino referem que correram, nas redes sociais, supostos áudios do diretor a fazer comentários racistas e antissemitas.
Ainda que a voz fosse muito semelhante à do diretor, alguns fatores levantaram suspeitas. Como referiram alguns especialistas da polícia, o áudio apresenta um “tom monótono, sons de fundo excecionalmente limpos e falta de sons respiratórios ou pausas consistentes”.
O professor detido chama-se Dazhon Darien e terá, alegadamente, usado os computadores da escolha “para aceder a ferramentas OpenAI e serviços Microsoft Bing Chat”, como indica a NBC News.
O professor estaria, alegadamente, revoltado com o mau uso de fundos escolares
Ainda assim, não se sabe oficialmente qual é que terá sido a plataforma utilizada por Darien. De qualquer forma, o professor de Educação Física foi preso no aeroporto, esta quinta-feira, 25 de abril
“Acredita-se que Darien, que era Diretor Atlético na Pikesville High School, fez a gravação para retaliar o potencial mau uso dos fundos escolares. Ele foi libertado após pagar fiança e enfrenta acusações que incluem roubo (pelo problema com os fundos escolares), perturbação do funcionamento de uma escola, retaliação contra uma testemunha e perseguição” - refere a polícia (via The Verge).
Nos últimos tempos, o interesse por clonagem de voz a partir de IA tem crescido significativamente. Os sistemas evoluem cada vez mais e isso faz com que aumente o ímpeto de experimentar esse tipo de recursos.
Recentemente, foram polémicas as chamadas que se fizeram passar por Joe Biden
Sobre o uso ilícito deste tipo de áudios, existem algumas histórias que ficaram conhecidas recentemente. Desde já, quando duas empresas do Texas terão feito uma chamada falsa a fingirem ser o presidente norte-americano Joe Biden.
Com base na mesma fonte de informação, estas teriam ligado a convencer a população a não votar. Recorde-se que a Comissão Federal de Comunicações proibiu as chamadas automáticas de IA em fevereiro.
As histórias polémicas foram-se somando e a verdade é que a OpenAI não foi indiferente a isso mesmo. Tanto é que, em março, a empresa de IA decidiu suspender o uso público do Voice Engine: a plataforma que transforma texto em voz.
Com o intuito de mitigar ao máximo os efeitos negativos causados pela IA, os EUA têm-se debruçado sobre alguns projetos de lei nesse sentido. O objetivo é impedir que o rosto, a voz ou o nome de indivíduos deixem de ser usados indevidamente.
