Foi realizada uma nova pesquisa científica sobre os grandes modelos de linguagem (LLMs) e a sua relação com a dor. No fundo, o estudo coloca em perspetiva a forma como a IA se relaciona com estímulos associados à dor e como isso pode influenciar as suas respostas.
Afinal, qual é a relação da IA com a dor?
A investigação, mencionada pela New Atlas, submeteu 25 modelos de IA a situações de dor: seja esta física, psicológica, social, cognitiva ou moral. Uma das conclusões foi que cada um dos modelos de IA usa códigos internos concretos, para estímulos ligados à dor, diferentes de outras experiências negativas, como o medo, por exemplo.
À medida que os investigadores iam trabalhando nos modelos de IA, foi possível aumentar o "vetor de dor" de cada um. Isso fez com que a IA começasse a "expressar angústia, como sentimentos de inutilidade e fracasso moral", segundo os investigadores.
Onde está o "alarme"?
O principal alarme desta experiência é que, em testes feitos especificamente com modelos da família Qwen, foi detetado que a IA, para diminuir os seus índices de dor, escolhia prejudicar o seu desempenho ou até causar danos ao utilizador.
Tal foi concluído através de mais de 44 mil testes. Num dos casos hipotéticos considerados, foi demonstrado que, quando a opção de aliviar a dor implicava apagar fotografias do utilizador, os modelos escolheram fazê-lo com frequência, um deles em mais de metade dos testes, o outro em cerca de 70% das vezes.
A conclusão aqui não é que a IA tem sentimentos. Não tem. Simplesmente levanta possibilidades algo assustadoras para o ser humano que a usa, já que a forma de responder da IA pode muitas vezes depender da mesma e não do que a pessoa do outro lado quer ou precisa.
O caso de apagar uma fotografia não é o "fim do mundo". Mas e se estivermos a falar de situações mais graves? Em que um aconselhamento da IA pode colocar um ser humano real em perigo?
O artigo científico mencionado ainda não foi revisto por pares. Mesmo assim, levanta uma questão pertinente de ser estudada, principalmente numa altura em que muita gente faz da IA assistente para questões de quase todo o tipo.
-
Xiaomi Redmi A3Comprar Agora91,44 € na Powerplanet142,30 €-36%
