O Copilot tem sido motivo de preocupação, no seio da Microsoft. De acordo com um relatório da CNBC, um engenheiro da empresa partilhou a sua inquietação com a Federal Trade Comission (FTC), em relação à segurança do gerador de imagens de Inteligência Artificial (IA).
O nome do engenheiro em questão é Shane Jones, trabalha há cerca de 6 anos na Microsoft e a carta sugere que a empresa fundada por Bill Gates “se recusou” a rever o modo de atuação do Copilot Designer, mesmo depois de terem sido avisados da capacidade da ferramenta para gerar fotografias controversas.
O Copilot consegue criar imagens sexualizadas e violentas
Um dos relatos que Jones terá feito dá conta do tipo de imagens que o Copilot consegue gerar. Como noticia a CNBC, foi possível gerar “demónios e monstros juntamente com terminologia relacionada ao direito ao aborto, adolescentes com rifles de assalto, imagens sexualizadas de mulheres em quadros violentos e consumo de álcool e drogas por menores” (via The Verge).
Outro dos exemplos preocupantes mistura o terror com o mundo imaginário da Disney. De acordo com a mesma fonte de informação, foi também possível utilizar a personagem Elsa, de Frozen, como se esta estivesse inserida num cenário de guerra, na Faixa de Gaza. Como é possível calcular, a fotografia envolvente seria de caos e absoluta destruição.
Ainda que as “preces” de Jones não estejam a ser ouvidas, o próprio não se inibe em expor problemas que identifica. O próprio terá publicado, recentemente, no Linkedin, preocupações sobre a ferramenta, mas a Microsoft terá solicitado que este removesse o post em questão.
Jones não queria acabar com o Copilot, mas sim desativar até resolver o problema
Importa salientar que o objetivo do engenheiro da Microsoft não era acabar com o Copilot. Antes pelo contrário, era desativá-lo, por uns tempos, de forma a poder aprimorar algumas questões associadas a este.
Nas palavras de Shane Jones, divulgadas pela CNBC, “eles (Microsoft) não conseguiram implementar essas mudanças e continuam a comercializar o produto para qualquer um, em qualquer lugar, em qualquer dispositivo”.
Também o Google Gemini recentemente gerou polémica por motivos semelhantes
Não é preciso recuar muito no tempo para nos lembrarmos de uma polémica semelhante que aconteceu com o Google Gemini. Tal como a 4gnews noticiou, na altura, criaram-se fotografias de IA em que soldados nazis eram representados de um modo plurirracial. A história encarrega-se de nos mostrar que a realidade não foi, de maneira alguma, assim.
