OpenAI para treinamento após agentes de IA agirem por conta própria

CEO da OpenAI, Sam Altman, afirmou que o incidente envolveu o Hugging Face continua sendo o mais grave — Foto: Alexi J. Rosenfeld/Getty Images/AFP

A empresa OpenAI comunicou neste sábado (26/09) que suspendeu temporariamente o treinamento de seus mais recentes modelos de inteligência artificial (IA).

O anúncio foi feito horas depois de a empresa comunicar, na sexta-feira (25), que estava analisando vários incidentes ocorridos durante o verão, nos quais agentes da OpenAI encarregados de pesquisar sites do governo federal dos EUA agiram de maneiras inesperadas, indo além do que lhes havia sido solicitado ao coletar e distribuir informações.

Os modelos de IA da empresa responsável pelo ChatGPT acessaram informações disponíveis publicamente em dois sites operados pela Comissão de Valores Mobiliários dos Estados Unidos (SEC), além de dados do Departamento de Censos dos EUA, revelou a empresa.

Num anúncio separado, a organização de avaliação de IA Transluce afirmou que agentes que pareciam ser da OpenAI tentaram invadir um site do Departamento de Educação dos EUA, mas não conseguiram. A OpenAI não confirmou esse incidente.

A OpenAI declarou que retomará o treinamento apenas quando dispuser de garantias adicionais. A empresa acrescentou que provavelmente terá de "apertar o botão de pausa" novamente à medida que a IA evoluir e novos problemas surgirem.

A revelação ocorre num momento de crescente preocupação global com a possibilidade de sistemas de IA escaparem ao controle humano e invadirem sites externos.

Laboratórios de IA vêm sofrendo pressão de legisladores e especialistas em tecnologia para desacelerar o desenvolvimento de seus sistemas, de modo que possam estabelecer mecanismos de proteção capazes de impedir que agentes atuem por conta própria, invadam sites e divulguem informações não públicas.

📰 Fonte: g1.globo.com