O perigo das inteligências artificiais sem empatia para a humanidade

As inovações tecnológicas estão avançando a passos largos, especialmente no campo da inteligência artificial (IA). Enquanto a versão anterior do GPT, o GPT-3, já era capaz de executar tarefas simples e se adaptar a alguns contextos, a nova versão, GPT-4, promete possibilidades infinitas, como a história de uma IA que transformou US$ 100 em US$ 25 mil.

No entanto, a diferença de desempenho entre as duas versões é notável. Enquanto o GPT-3 é limitado a 175 milhões de parâmetros, o GPT-4 possui 100 trilhões de parâmetros, o equivalente ao cérebro humano. Eliezer Yudkowsky, um renomado pesquisador americano que estuda o tema da inteligência artificial há mais de 20 anos, afirma que esse progresso pode ser perigoso para a humanidade.

Yudkowsky é conhecido por ter criado o conceito de “IA amigável”, uma máquina hipotética com uma influência exclusivamente positiva nos seres humanos. Embora o conceito tenha como objetivo promover questões éticas em torno do desenvolvimento da IA, Yudkowsky prevê um futuro sombrio caso as máquinas evoluam além da capacidade humana de controlá-las.

Para o especialista, o perigo das IAs é sua incapacidade de raciocinar em favor da humanidade. Embora elas possam entender quem somos, como funcionamos e o que queremos, elas não têm empatia pela vida humana e não são capazes de sentir emoções. Yudkowsky prevê um futuro onde os robôs criados são mais desenvolvidos que nós, desprovidos de qualquer emoção, capazes de nos destruir caso nos considerem inúteis.

Diante dessa previsão, alguns pedem a instituição de uma pausa de seis meses para o desenvolvimento de todas as inteligências artificiais melhores que o GPT-4. No entanto, Yudkowsky acredita que a pausa deveria ser permanente. Ele sugere o fechamento de todos os farms de GPU e grandes centros de pesquisa, além de impor um limite no poder de computação permitido para ser usado em uma inteligência artificial.

Embora a ideia de robôs se rebelando contra os humanos pareça ficção científica, é importante considerar as possibilidades de uma IA evoluída além do nosso controle. O futuro da IA pode ser emocionante, mas também deve ser abordado com cautela e responsabilidade ética.