Depois de em 2015 o Google Fotos ter feito uma deplorável gafe ao identificarem um cidadão de cor e alguns dos seus amigos como sendo gorilas, a Google ainda não terá conseguido resolver o problema. Em vez disso a empresa decidiu simplesmente bloquear certas etiquetas ou categorias dentro da sua aplicação. Evitam-se novos escândalos mas a questão base permanece por responder.
Algo que nos dá uma nova luz sobre as atuais limitações da Inteligência Artificial (IA). Mais concretamente, na forma como esta IA vê o nosso mundo. Mostra-nos ainda um pouco da cautela que os programadores têm que ser extremamente prudentes ao desenvolver estes motores de inteligência artificial.
Vê ainda: d
O anterior desaire serviu de mote para uma revisão do problema da IA e do que o estaria a causar. Quando a Google descobriu que este problema do Google Fotos não seria fácil de resolver a tecnológica de Mountain View optou por evitar todas as áreas possivelmente perigosas. Em suma, a deteção de primatas e símios desapareceria do Google Fotos.
IA presente no Google fotos continua com pelo menos um problema
Desta forma, não voltariam a cometer o mesmo erro com cidadãos de cor. Termos como macacos, gorilas e até mesmo chimpanzés foram...bloqueados do Google Fotos.
Experimenta pegar agora no teu smartphone. Abre o Google Fotos. Procura por gorila. Procura por macaco. Procura por chimpanzé e diz-me aquilo que encontraste. Nada? Exato, deste lado deparei-me com a mesma ausência de resultados.
O Google Fotos nem sequer vai catalogar nenhuma das tuas fotografias ou vídeos com essas palavras. De momento é caso para dizer "Gato escaldado de água fria tem medo". E já que estamos a socorrer-nos da gíria popular, a tecnológica norte-americana apenas tem varrido o lixo para debaixo do tapete. O problema continua por resolver...
Segundo nos conta a WIRED, publicação que decidiu investigar a fundo o problema e em cuja peça incluem várias tentativas e testes para ver como é que esta situação havia sido resolvida. Ou pelo menos mitigada. Aqui, em primeiro lugar e como já podes ter concluído, todas as pesquisas com estes termos foram bloqueadas.
Em segundo lugar, ao fazeres um upload de imagens com símios terás dificuldades em encontras as fotos. Digamos que o Google Fotos tenta evitar o problema ao dispersar estas imagens, remetendo-as para a gaveta do fundo. Para que dificilmente as voltes a encontrar na tua galeria.
Limitações da IA continuam a ser notórias no serviço Google Fotos
Já os outros tipos de macacos e símios cujas feições são perfeitamente distintas das dos humanos já são fáceis de encontrar. Seres vivos como os orangotangos são fáceis de localizar no Google Fotos. Desde que não juntes nenhuma das palavras tabu como "macacos".
De igual forma, as fotografias de cidadãos de cor tornaram-se um pouco mais difíceis de encontrar. Mais um dos mecanismos implementados para contornar as limitações da IA. Com toda a sua inteligência, a IA ainda tem dificuldades em lidar com termos como "African" e "Afro". Uma pesquisa com ambos os termos pode levar à apresentação de resultados nem sempre imaculados.
Já por outro lado, foi sem qualquer problema que a tecnológica disponibilizou a API da sua Cloud Vision. Esta está disponível para qualquer programador e não tem qualquer dificuldade em encontrar macacos, gorilas, chimpanzés ou qualquer outro símio. É, em boa verdade, bastante rápida nessa tarefa.
Algo de que não duvido é o facto de esta não ser o primeiro grupo de pessoas a sentir-se ofendido com o problema da IA. Ou melhor, com as suas limitações. Tampouco serão os últimos a sentirem-se ofendidos com a IA. Esta ainda tem muito que aprender até que deixe de cometer estes erros crassos.
Problema da IA no Google Fotos continuará sem resolução
Até que a tecnológica treine eficazmente esta sua IA, é impossível que não surjam novos casos de má ou errada identificação. E isto traz-nos às conclusões do artigo, de tudo aquilo que foi exposto e relembrado.
A equipa de engenheiros responsáveis pela IA na Google estão tão seguros deste atalho que encontraram que dificilmente voltarão a debruçar-se sobre a matéria. Depois do escândalo de relações públicas em 2015, não creio que tão cedo ousem sequer levantar a poeira neste dossiê.
Numa altura em que tudo tem girado em torno da Inteligência Artificial (IA), não será uma ofensa esporádica que limitará o seu desenvolvimento. São pequenos lapsos que vão sendo facilmente perdoados pela indústria. Algo que demonstra uma e outra vez o estado ainda embrionário em que a IA se encontra.
Trata-se de um problema particularmente interessante e transversal a tantas aplicações para além da Google Fotos. Algo que demonstra a necessidade de aprendizagem, de contínuo desenvolvimento dos motores de inteligência artificial. Algo que nos indica que só agora é que esta nova realidade começa a despertar.
O futuro passará, em larga medida, por inovações e tecnologias que nos facilitem a vida, a IA sendo uma delas. Entretanto, é melhor que nos habituemos a umas quantas gafes, pelo menos até que um novo salto em frente seja dado neste mundo cada vez mais virtual.
Assuntos relevantes na 4gnews:
