Os modelos de IA estão evoluindo rapidamente — tão rápido que em breve poderão ser capazes de se desenvolver sozinhos, sem intervenção humana. É por isso que a Anthropic está alertando o setor de IA: é preciso criar um “pedal de freio”, ou as empresas correm o risco de perder o controle sobre suas criações.
Sistemas de IA capazes de se aperfeiçoar sozinhos, conhecidos como “autoaperfeiçoamento recursivo total”, podem trazer grandes benefícios para a ciência e a saúde, mas também representam grandes riscos para a humanidade, de acordo com uma postagem no blog escrita por Marina Favaro, líder do The Anthropic Institute, e Jack Clark, cofundador da Anthropic.
“O autoaperfeiçoamento recursivo total também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, escreveram eles. “Se os sistemas forem capazes de construir totalmente seus próprios sucessores, as formas como os protegemos, monitoramos e moldamos seu comportamento se tornam muito mais importantes.”
O setor está muito mais próximo da IA com autoaperfeiçoamento do que se esperava anteriormente, alertam eles. Portanto, as empresas de tecnologia deveriam considerar desacelerar ou pausar o desenvolvimento de IA de ponta para dar tempo aos pesquisadores de compreenderem melhor os potenciais danos sociais que a IA com autoaperfeiçoamento poderia causar.
Os pesquisadores também deveriam criar uma maneira de os humanos intervirem caso as coisas saiam do controle, afirmaram eles.
Em participação na CNN na noite de quinta-feira, Clark pediu que o setor se dotasse de um “pedal de freio”.
“Quando olho para o carro que estamos dirigindo, tudo o que tenho é um pedal de acelerador. Não tenho um pedal de freio e, certamente, em algum momento no futuro, talvez queiramos essa opção”, disse ele a Anderson Cooper em uma entrevista.
Cooper citou o exemplo de filmes de ficção científica em que a IA se rebelou para matar seres humanos e perguntou se era isso que preocupava Clark.
📰 Fonte: cnnbrasil.com.br
Clique em "Comentar" acima para carregar os comentários.