A agência Reuters avança que a OpenAI; empresa responsável pelo ChatGPT, alcançou um avanço no campo da Inteligência Artificial que preocupou até os seus responsáveis. Em causa, um novo modelo de IA capaz de resolver problemas matemáticos.
Se há primeira vista tal pode não parecer demasiado grave, os especialistas na área não escondem a sua inquietação. Tais inquietações foram levadas por carta ao Conselho de Administração da OpenAI, tendo sido esta uma das causas para a destituição de Sam Altman.
Projeto Q* deixou os investigadores da OpenAI preocupados com o nosso futuro
A Reuters esclarece que esta informação chegou à sua possa através de uma fonte anónima. Esse anonimato verifica-se perante o dever de sigilo entre a pessoa que lhe levou esta história e a empresa OpenAI:
Segundo a fonte, investigadores do projeto Q* (lê-se Q-Star) enviaram uma carta ao Conselho de Administração da OpenAI a expressar a sua preocupação com a sua recente descoberta. Segundo os próprios, este avanço pode mesmo ameaçar a existência humana.
Ainda que o teor da carta não seja conhecido publicamente, é avançado que o Q* conseguiu resolver tarefas economicamente valiosas. Um passo dado na direção daquilo que é conhecido como inteligência artificial geral, ou seja, um sistema capaz de superar qualquer humano.
A resolução de problemas matemáticos era algo que, pelo menos até agora, estava fora do alcance dos vários modelos de Inteligência Artificial similares ao ChatGPT. Ainda que os problemas resolvidos pelo projeto Q* sejam de nível primário, a sua resolução deixou os investigadores alerta.
Para que os modelos de IA consigam resolver problemas matemáticos, é necessário que estes possuam capacidades de raciocínio próximas ao cérebro humano. Em última instância, isto poderá levar a que modelos altamente avançados possam decidir se a extinção humana é, ou não, do seu interesse.
Tal possibilidade é efetivamente inquietante e algo que só víamos, até então, nos filmes de ficção científica. Saber que os humanos conseguiram transpor essa fantasia para a realidade levanta, uma vez mais, a discussão acerca das desvantagens da IA.
Esta carta foi um dos catalisadores para a destituição de Sam Altman de CEO da OpenAI, levando ao descontentamento de vários trabalhadores da empresa. Conforme é público, Altman foi, entretanto, readmitido no cargo de diretor-executivo e o Conselho de Administração que o demitiu foi dissolvido.
Editores 4gnews recomendam:
