Empresas de IA são incapazes de controlar seus modelos, alerta ex-pesquisador da OpenAI

As preocupações que levaram a OpenAI, do ChatGPT, a abandonar lançamento de novo sistema de IA — Foto: Andrej Ivanov/AFP via Getty Images

As principais empresas de inteligência artificial não sabem como impedir que seus sistemas desenvolvam objetivos próprios.

O alerta foi feito nesta segunda-feira (5) por Jacob Coxon, ex-funcionário da OpenAI e da Anthropic que critica a forma como a indústria lida com a segurança da tecnologia.

No início de setembro, o pesquisador britânico explicou, em uma publicação no X, por que decidiu deixar a Anthropic.

Segundo ele, desenvolvedores de inteligência artificial (IA) acreditavam que a tecnologia poderia acabar com a humanidade "antes do fim da década".

A declaração repercutiu mundialmente. Desde então, vários funcionários e ex-funcionários das principais empresas de IA também expressaram preocupações semelhantes.

Embora a IA possa trazer "benefícios enormes" para a sociedade, "na trajetória atual, acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana", reiterou.

Ele também criticou a cultura da indústria tecnológica. Segundo Coxon, as empresas "funcionam com uma mentalidade de startup: avance rápido, quebre coisas e conserte depois".

📰 Fonte: g1.globo.com