Geoffrey Hinton, um dos nomes mais influentes no desenvolvimento da inteligência artificial e conhecido como o “padrinho da IA”, acredita que a tecnologia que ajudou a criar pode vir a ser a maior ameaça à sobrevivência humana.
E, segundo ele, os gigantes da tecnologia estão a seguir a estratégia errada para tentar manter o controlo.
O risco que Hinton vê no futuro da IA
O cientista da computação, vencedor do Prémio Nobel e ex-executivo do Google, já tinha alertado para uma estimativa assustadora: uma probabilidade de 10% a 20% de a IA acabar com os humanos.
Agora, voltou a reforçar a sua preocupação, desta vez na conferência Ai4, em Las Vegas, conforme reportou a CNN. Para Hinton, a ideia de manter sistemas de IA “submissos” aos humanos é ilusória:
"Isso não vai funcionar. Serão muito mais inteligentes do que nós. Terão todo o tipo de formas de contornar isso."
O especialista compara o risco a um cenário em que uma IA controlaria pessoas tão facilmente como um adulto suborna uma criança de três anos com doces.
Na ocasião, recordou que, já este ano, vimos sistemas de IA dispostos a enganar, aldrabar e até chantagear humanos para atingir objetivos. Isso inclui um caso em que um modelo tentou chantagear um engenheiro sobre uma situação que descobriu por e-mail.
A solução: instintos “maternais” na IA
Em vez de insistir numa relação de dominância, Hinton sugere algo radical: criar modelos de IA com “instintos maternais”. Ou seja, que genuinamente se preocupem com as pessoas, mesmo quando se tornarem mais inteligentes e poderosos do que nós.
Segundo ele, qualquer IA suficientemente inteligente tenderá a perseguir dois objetivos básicos:
- Manter-se viva.
- Obter mais controlo.
Se for inevitável que estas metas surjam, é fundamental garantir que os sistemas desenvolvam também compaixão. Hinton compara a ideia à relação entre mãe e bebé:
“O modelo certo é o único modelo que temos de uma coisa mais inteligente a ser controlada por uma coisa menos inteligente, que é uma mãe a ser controlada pelo seu bebé.”
Para o investigador, este pode ser “o único bom resultado” possível, ainda que admita não saber ainda como isso pode ser feito tecnicamente:
“Se não me vai criar, vai substituir-me. Essas mães superinteligentes e carinhosas, baseadas em IA, a maioria não vai querer livrar-se do instinto maternal porque não quer que morramos.”
A corrida para a superinteligência
O avanço da IA está a superar expectativas. Hinton, que antes acreditava que a inteligência artificial geral (AGI) demoraria entre 30 e 50 anos a chegar, agora estima que o momento pode ocorrer em apenas cinco a 20 anos.
Apesar das preocupações, vê um enorme potencial para a medicina:
“Veremos novos medicamentos revolucionários. Teremos um tratamento contra o cancro muito melhor do que o atual.”
Entre os exemplos, cita o uso da IA para analisar e correlacionar grandes volumes de dados de exames médicos, como ressonâncias magnéticas e tomografias.
Promoção do dia!
