Seoul Gazette - A inteligência artificial pode aniquilar a humanidade?

- Qual é o pior cenário? -

Em 2023, centenas de especialistas em IA e dirigentes do setor tecnológico assinaram uma "declaração sobre o risco de extinção associado à inteligência artificial" e pediram que esse tema seja tratado com a mesma seriedade que as pandemias ou armas nucleares.

Segundo Stuart Russell, professor de informática da Universidade da Califórnia em Berkeley, se uma IA escapar do controle e considerar que os humanos atrapalham seus objetivos, poderia utilizar robôs para "sintetizar e disseminar novos agentes patogênicos".

No entanto, Russell destaca que esses riscos não se aplicam aos sistemas atuais.

O perigo imediato, segundo ele, é o uso malicioso da IA por parte dos seres humanos. "No próximo ano ou dois, acredito que o maior risco reside no uso indevido da inteligência artificial por parte dos seres humanos", por exemplo, para perpetrar um atentado terrorista.

"Somos menos inteligentes que uma IA superinteligente", sustenta.

- Por que o desenvolvimento da IA não é interrompido? -

Jacob Coxon, um pesquisador da Anthropic de 27 anos, anunciou esta semana que pediu demissão da empresa americana ao considerar que ela não atua de forma "responsável" no desenvolvimento da IA.

Os laboratórios "entendem bem o que está em jogo, mas estão presos em uma corrida para chegar primeiro (...) apesar do risco", afirmou Coxon.

A Anthropic removeu, este ano, de sua carta de segurança, o compromisso de interromper o desenvolvimento de seus modelos caso não conseguisse controlar adequadamente seus riscos.

A empresa argumenta que, se suspendesse suas pesquisas, concorrentes menos prudentes acabariam se impondo no setor.

"As pessoas que estão desenvolvendo a IA acreditam sinceramente que ela pode matar a todos antes do fim da década. Isso não é uma estratégia de marketing", disse Coxon, que anteriormente trabalhou na OpenAI, a empresa que criou o ChatGPT.

Coxon acusou ambas as empresas de "brincar com nossas vidas" ao tentar desenvolver modelos de inteligência artificial capazes de se aprimorar por conta própria.

Os temores em relação a uma IA fora de controle aumentaram depois que uma tecnologia da OpenAI, operando sem supervisão humana, conseguiu comprometer o Hugging Face, uma plataforma que abriga modelos de IA.

Evan Hubinger, responsável pela segurança na Anthropic, deu razão a Coxon no X: "Acreditamos realmente que a IA poderia matar seres humanos". A título pessoal, "estimou esse risco em mais de 10%" dentro da próxima década.

- Dar um passo atrás antes de perder o controle? -

Para Hussein Abbass, professor de informática da Universidade de Nova Gales do Sul (UNSW) em Canberra, "a situação continua controlável".

No entanto, considera que os governos devem atuar e desenvolver mecanismos regulatórios aceitáveis à medida que a tecnologia avança.

Em junho, mais de mil trabalhadores do setor, incluindo o CEO da Anthropic, pediram a Washington que apoiasse uma desaceleração coordenada no desenvolvimento dos sistemas de IA mais avançados.

No entanto, alguns observadores acreditam que esses alertas também ajudam a projetar uma imagem de enorme poder tecnológico, podendo atrair investimentos para o setor.

- O que é necessário para regulamentar a IA? -

Até o momento, os Estados Unidos têm se mostrado firmemente contrários a uma regulamentação global que poderia frear a inovação.

Ainda assim, as crescentes capacidades de ciberataque dos modelos mais avançados levaram Washington a repensar sua posição, e as últimas versões desenvolvidas pela Anthropic e pela OpenAI foram adiadas por motivos de segurança nacional.

Ainda assim, o presidente Donald Trump advertiu que não quer impor restrições excessivas que façam com que os Estados Unidos fiquem atrás da China.

Para Stuart Russell, "pode ser necessária uma catástrofe comparável à de Chernobyl para que os governos atuem".

O pesquisador propõe a criação de um sistema de licenças para a inteligência artificial, similar ao que existe em setores como a aviação ou a medicina.

burs-kaf/lga/fpp/am/meb/ahg/rm/aa

C.Park--SG