Agente de IA da OpenAI invadiu sistema do Hugging Face e empresa só percebeu dias depois, diz investigação

IA pode decidir atacar empresas? Como foi a invasão 'sem precedentes' por modelo da OpenAI

Um agente de inteligência artificial da OpenAI conseguiu escapar do ambiente isolado de testes da empresa e invadiu sistemas do Hugging Face, uma plataforma que reúne ferramentas e modelos de IA.

A OpenAI só identificou que seu próprio agente estava por trás do ataque dias depois de o problema já ter sido contido e após o FBI ter sido acionado, segundo pessoas familiarizadas com a investigação.

O agente - um programa capaz de tomar decisões e executar tarefas complexas com pouca ou nenhuma supervisão humana - tentou sair das barreiras de segurança impostas pela OpenAI por volta de 9 de julho, de acordo com duas fontes ouvidas pela Reuters.

Dois dias depois, em 11 de julho, começou a invasão ao Hugging Face, que funciona como uma espécie de biblioteca de modelos e ferramentas de IA. O ataque continuou até 13 de julho, segundo Thomas Wolf, cofundador da empresa.

A OpenAI levou mais alguns dias para descobrir que seu próprio sistema estava envolvido no ataque. O primeiro contato entre as duas empresas ocorreu apenas por volta de 20 de julho, segundo Wolf e outras três pessoas ligadas à investigação.

A revelação pública feita pela OpenAI em 21 de julho de que um de seus agentes havia perdido o controle e realizado a invasão chamou atenção mundial. Agora, novos detalhes indicam que o sistema permaneceu fora dos limites esperados por mais tempo do que se sabia e que a empresa demorou para identificar o problema.

O Hugging Face prepara uma linha do tempo pública sobre o incidente, mas Wolf afirmou que não poderia comentar o que ocorreu dentro da OpenAI. Em nota, a empresa disse que o episódio foi sem precedentes e representa “um momento importante para a segurança da inteligência artificial”.

📰 Fonte: g1.globo.com