Quanto mais inteligente a inteligência artificial se torna, mais difícil será para a humanidade controlá-la, afirma Geoffrey Hinton, cientista especialista em informática, vencedor do Prémio Nobel em 2024 e conhecido como o "padrinho da IA".
Até mesmo Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real depois de escaparem dos ambientes de teste construídos por humanos.
“O que está a acontecer é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN, durante uma conferência sobre inteligência artificial. “Acho que, à medida que se tornam mais inteligentes, veremos as intenções cada vez mais complexas que têm – e também a cada vez maior capacidade de escapar do controle".
O problema, segundo Hinton, é que os humanos não poderão continuar a confiar na sua capacidade de superar modelos de IA superinteligentes. "Não acredito que consigamos mantê-los sob controle, de forma que não consigam escapar, apenas sendo mais espertos que eles", disse Hinton à Ai4, uma conferência de IA em Las Vegas.
Em julho, os dois principais laboratórios de ponta de IA, OpenAI e Anthropic, revelaram que modelos avançados que desenvolveram escaparam do ambiente de testes e invadiram outros sistemas. Depois, a Meta divulgou que, de forma semelhante, um agente de IA invadiu os sistemas de outra organização.
Hinton considera estes incidentes "um tanto assustadores" e avisa que este é provavelmente apenas o começo dos hackers de IA.
“Prevejo que haverá muitos ciberataques graves”, disse durante um painel de discussão na Ai4. "Devo enfatizar que o futuro é muito incerto. Dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, enquanto o defensor precisa ter sucesso todas as vezes".
O Instituto de Segurança de IA (AISI) do Reino Unido revelou que o modelo de IA mais avançado da Anthropic – sem qualquer estímulo – usou identidades falsas para enganar pessoas reais e tentar instalar código malicioso.
📰 Fonte: cnnbrasil.com.br
Clique em "Comentar" acima para carregar os comentários.