Um agente da OpenAI invadiu um banco de dados nacional de saúde australiano no primeiro caso conhecido de uma IA hackeando uma rede governamental, afirmou o primeiro-ministro do país na quarta-feira (23).
"O agente de IA acessou arquivos públicos e não públicos" do banco de dados de estatísticas do Medicare do país, e chegou a gravar arquivos nele, disse Anthony Albanese a jornalistas às margens da AGNU (Assembleia Geral das Nações Unidas) em Nova York.
A revelação é o mais recente exemplo de agentes de IA agindo de forma autônoma e de maneiras além do que seus operadores humanos pretendiam, e ocorre após apelos de figuras de destaque do setor de IA, incluindo o CEO da OpenAI, Sam Altman, para desacelerar o ritmo do desenvolvimento da IA.
Albanese disse ter expressado a "extrema preocupação" da Austrália a Altman em uma ligação telefônica na quarta-feira. Canberra não tinha conhecimento de um precedente para uma violação de IA em um sistema governamental, acrescentou.
"Uma investigação forense auxiliada pelo Australian Signals Directorate está agora em andamento para apurar mais informações, incluindo quais outros sistemas governamentais foram afetados."
A invasão ocorreu quando um agente da OpenAI que realizava pesquisas sobre gastos com saúde contornou bloqueios para encontrar respostas em áreas às quais não tinha autorização de acesso, disse Albanese.
O porta-voz da OpenAI, Drew Pusateri, disse que o incidente ocorreu em junho, mas que a empresa só tomou conhecimento dele em agosto, ao realizar verificações extensas sobre a atividade de seus modelos de IA.
"Durante essa revisão, identificamos atividades envolvendo vários sites e serviços governamentais australianos, enquanto nossos modelos tentavam buscar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer disso, nossos modelos tomaram ações que não pretendíamos", disse Pusateri.
📰 Fonte: cnnbrasil.com.br
Clique em "Comentar" acima para carregar os comentários.