As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA

O CEO da OpenAI, Sam Altman, discursa no Conselho de Segurança das Nações Unidas durante uma sessão sobre inteligência artificial, na sede da ONU — Foto: Reuters

A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança.

O sistema GPT-6.1 Astra, que realiza tarefas como navegar na internet e usar aplicativos de forma autônoma, "não atingiu exatamente o nível exigido" pelos padrões da empresa, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI.

A empresa responsável pelo ChatGPT também divulgou uma atualização sobre incidentes ocorridos em junho, mas que só se tornaram públicos na semana passada. Na ocasião, seus modelos acessaram sites e sistemas do governo australiano sem autorização.

O caso ocorre em meio ao aumento de incidentes envolvendo modelos de grandes empresas de IA, intensificando o debate sobre os riscos apresentados pela tecnologia — enquanto a Anthropic, empresa rival da OpenAI, reforça suas preocupações de que a IA possa representar uma ameaça à humanidade, à medida que se prepara para abrir seu capital.

A agência de notícias Reuters informou nesta terça-feira (29/09) que a empresa de desenvolvimento de IA — responsável pelo Claude, concorrente do ChatGPT — planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar "riscos catastróficos ou existenciais para a humanidade", segundo um prospecto ao qual a agência teve acesso.

Apesar dos alertas contundentes, a empresa deve se tornar uma das mais valiosas do mundo quando abrir seu capital.

Líderes do setor de IA, incluindo o chefe da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram que a indústria desacelere o ritmo de desenvolvimento.

📰 Fonte: g1.globo.com