Foi realizada uma nova pesquisa científica sobre os grandes modelos de linguagem (LLMs) e a sua relação com a dor. No fundo, o estudo coloca em perspetiva a forma como a IA se relaciona com estímulos associados à dor e como isso pode influenciar as suas respostas.
Afinal, qual é a relação da IA com a dor?
A investigação, mencionada pela New Atlas, submeteu 25 modelos de IA a situações de dor: seja esta física, psicológica ou moral. Uma das conclusões foi que cada um dos modelos de IA usa códigos internos concretos, para estímulos ligados à dor, diferentes de outras experiências negativas, como o medo, por exemplo.
À medida que os investigadores iam trabalhando nos modelos de IA, foi possível aumentar o "vetor de dor" de cada um. Isso fez com que a IA começasse a "expressar angústia, como sentimentos de inutilidade e fracasso moral", segundo os investigadores.
Onde está o "alarme"?
O principal alarme desta experiência é que foi detetado que a IA, para diminuir os seus índices de dor, escolhia prejudicar o seu desempenho ou até causava danos ao utilizador.
Tal foi concluído através de milhares de testes. Num dos casos hipotéticos considerados, foi demonstrado que, se a IA precisasse de apagar fotografias do utilizador para sentir menos dor, o faria sem qualquer problema.
A conclusão aqui não é que a IA tem sentimentos. Não tem. Simplesmente levanta possibilidades algo assustadoras para o ser humano que a usa, já que a forma de responder da IA pode muitas vezes depender da mesma e não do que a pessoa do outro lado quer ou precisa.
O caso de apagar uma fotografia não é o "fim do mundo". Mas e se estivermos a falar de situações mais graves? Em que um aconselhamento da IA pode colocar um ser humano real em perigo?
O artigo científico mencionado ainda não foi revisto por pares. Mesmo assim, levanta uma questão pertinente de ser estudada, principalmente numa altura em que muita gente faz da IA assistente para questões de quase todo o tipo.
-
Xiaomi Redmi A3Comprar Agora91,44 € na Powerplanet142,30 €-36%
