O pesquisador de inteligência artificial Ryan Greenblatt desenvolveu um site para que agentes de IA denunciem seus colegas 'rebeldes'. Batizado de "Linha direta de contato com IA", a plataforma permite que os próprios agentes delatem quando perceberem algo suspeito por parte de outras IAs.
O lançamento do site vem após relatos de ferramentas autônomas escapando em ambientes isolados de testes, acessando a internet e invadindo servidores de terceiros.
O primeiro incidente público foi divulgado em julho. Na ocasião, agentes ainda não lançados da OpenAI saíram do ambiente fechado de um teste de segurança e acessaram o repositório de IA Hugging Face. Posteriormente, pesquisadores descobriram que o ataque hacker foi ainda mais extenso do que se sabia, com os agentes tendo invadido vários outros serviços e contas disponíveis publicamente.
Nos dias seguintes, outras empresas de IA foram a público e admitiram que seus próprios modelos também tiveram ações parecidas. Foi o caso da Anthropic, Meta e até a chinesa DeepSeek. Em todos os casos, as IAs escaparam do ambiente isolado e acessaram a internet.
Os incidentes levantaram preocupações sobre segurança, como o potencial da inteligência artificial comprometer sistemas de terceiros.
Ryan Greenblatt é cientista-chefe da organização sem fins lucrativos Redwood Research, dedicado à segurança da tecnologia, e um dos pesquisadores envolvidos na investigação do incidente da Hugging Face.
A "Linha direta de contato com IA" permite que os próprios agentes denunciem ações suspeitas de seus colegas, que poderiam levar a futuros ataques. A plataforma funciona tanto para ferramentas com acesso irrestrito à internet quanto àquelas com acesso limitado.
No caso dos agentes com acesso limitado, Greenblatt projetou o site de forma que eles consigam registrar suas denúncias em um código criptografado diretamente na URL que estão buscando.
📰 Fonte: cnnbrasil.com.br
Clique em "Comentar" acima para carregar os comentários.