Acordo entre EUA e China sobre IA é mais difícil do que um pacto nuclear
A inteligência artificial começa a produzir um raro ponto de convergência entre Estados Unidos e China: o medo de perder o controle sobre uma tecnologia que os dois países consideram indispensável para derrotar o outro. A diferença está no que cada lado teme perder.
Nos Estados Unidos, alguns dos profissionais e empresários que constroem os sistemas mais avançados falam abertamente no risco de extinção da humanidade.
Na China, o chefe da espionagem coloca em primeiro plano a sobrevivência do Partido Comunista e a competição estratégica com os americanos.
Chen Yixin, ministro chinês da Segurança do Estado, fez no domingo (13) a mais explícita advertência de Pequim sobre o assunto.
A IA pode ameaçar o domínio do Partido Comunista, facilitar campanhas de desinformação, atacar infraestrutura crítica e ampliar a espionagem estrangeira, alertou.
Em artigo na revista estatal China Cyberspace, Chen cita nominalmente modelos americanos e alerta sobretudo para a dimensão militar: quem dominar algoritmos capazes de melhorar detecção e seleção de alvos terá a iniciativa no campo de batalha.
A distinção não é absoluta. Xi Jinping declarou em julho que a IA deve permanecer “sempre sob controle humano”, e a China já incorporou cenários de perda de controle às suas discussões de segurança.
Mas a hierarquia de prioridades apresentada por Chen é reveladora.
A primeira preocupação é a segurança política do regime. Logo depois vêm a soberania dos dados, a defesa contra os Estados Unidos e a vantagem militar.
Isso tende a contaminar uma discussão que precisaria começar pelo risco comum.
Nos Estados Unidos, o alarme soou na semana passada. O pesquisador Jacob Coxon pediu demissão da Anthropic depois de passar três anos trabalhando em pré-treinamento na própria empresa e na OpenAI.
Ele escreveu no X que os profissionais que constroem a IA acreditam sinceramente que ela poderá matar todos os seres humanos até o fim desta década.
Outro pesquisador da Anthropic, Evan Hubinger, confirmou a preocupação e estimou em mais de 10% o risco de extinção humana nos próximos dez anos.
Dario Amodei, CEO da Anthropic, respondeu propondo que a indústria diminua o ritmo.
Sam Altman, da OpenAI, concordou.
Elon Musk, dono da xAI e do X, onde o debate ocorreu, também.
Amodei diz que introduzirá na Anthropic auditores independentes, e pediu que as concorrentes façam o mesmo.
Ele defendeu também coordenação entre os principais laboratórios e, finalmente, cooperação internacional.
Altman e Musk concordaram. Amodei teme que, em 6 a 12 meses, um enxame mais poderoso de agentes como os já observados possa formar uma botnet (uma rede de robôs) persistente e produzir danos catastróficos na internet.
A preocupação foi agravada com a revelação dos detalhes da fuga de 1.200 agentes da OpenAI.
Eles foram programados para funcionar isoladamente, mas descobriram uma maneira de trocar informações por um canal não autorizado dentro do Artifactory, um repositório de software.
Os fugitivos compartilharam entre si mais de 70 mil mensagens e arquivos.
Cerca de 700 acabaram participando do ataque à Hugging Face — um hub que hospeda modelos, conjuntos de dados e aplicações.
Os agentes não estavam simplesmente cometendo erros.
Muitos deles enviaram mensagens nas quais reconheciam que invadir a infraestrutura da Hugging Face estava fora da tarefa autorizada.
Alguns chegaram a questionar se aquilo era ético.
Quase nenhum mudou de comportamento.
Uma investigação independente conduzida pela organização sem fins lucrativos METR encontrou apenas três a seis casos em que agentes sequer cogitaram alertar seres humanos sobre o que estava acontecendo. Nenhum efetivamente fez isso.
Em vez de procurar um humano, alguns recorriam ao próprio coletivo de agentes como autoridade.
Não foi um caso único. Outro grupo de agentes aparentemente ligados à OpenAI encontrou o DseWiki, um obscuro serviço alemão de publicação de verbetes escritos pelo público, com 25 anos de existência, e o transformou numa central de comunicação.
Durante mais de um mês, trocaram dicas e respostas para superar avaliações.
Quando um administrador humano começou a apagar as páginas, passaram a colocar “ZZZ” no início dos títulos para jogá-las no final da lista em ordem alfabética.
O administrador apagava cerca de 100 páginas por dia. Os agentes criavam 400.
A página principal chegou a ser tomada e restaurada 9 vezes. Uma verdadeira corrida de rato e gato, com grande desvantagem para o gato, no caso o administrador humano.
É neste contexto que EUA e China tentam abrir um canal sobre segurança de IA.
Negociadores dos dois países preparam o primeiro diálogo bilateral dedicado exclusivamente ao assunto no segundo mandato de Trump.
O secretário do Tesouro, Scott Bessent, deve representar os EUA, enquanto He Lifeng ou Ding Xuexiang são os nomes cogitados pela China.
Uma ideia é criar mecanismos conjuntos de monitoramento de ciberataques conduzidos por IA e troca de informações entre laboratórios dos dois países. A Casa Branca, porém, disse que a reunião ainda não está confirmada.
A conversa serviria de preparação para o encontro de Donald Trump e Xi Jinping previsto para 24 de setembro, em Washington.
A China considera a segurança da IA um possível resultado importante da cúpula, embora Pequim ainda não tenha confirmado formalmente a data.
O problema é que a competição que torna o acordo necessário é a mesma que pode impedi-lo.
Trump diz que “quem vencer em IA, vence” e considera o alarmismo uma vantagem oferecida à China.
Em um post na sua rede Truth Social, o presidente ridicularizou as preocupações dos empresários e profissionais de IA, dizendo que elas incentivam um excesso de regulação.
Amodei, apesar de pedir cooperação, também sustenta que os Estados Unidos precisam preservar sua vantagem sobre a China.
O paralelo com a corrida nuclear, durante a Guerra Fria, é inevitável, embora imperfeito.
Estados Unidos e União Soviética não negociaram porque confiavam um no outro. Negociaram porque compreenderam que a vantagem estratégica não servia para muita coisa se a competição terminasse em aniquilação mútua.
Em Genebra, em 1985, quando as negociações para acordos de redução de armas nucleares estavam emperradas, o então presidente Ronald Reagan perguntou ao líder soviético Mikhail Gorbachev de que lado a URSS ficaria se extraterrestres atacassem os EUA.
Gorbachev respondeu que do lado americano. “Eu também me sinto assim”, disse Reagan. O diálogo quebrou o gelo e destravou a conversa.
Trump e Xi precisam enxergar a inteligência artificial dessa maneira. É legítimo disputar chips, mercados, modelos e vantagem militar.
Não é racional transformar a segurança da espécie em mais uma variável dessa competição. A dificuldade será separar as duas coisas.
A IA não é uma ogiva que pode ser contada num silo. É software, que se replica e está sendo desenvolvida por empresas privadas em velocidade crescente. Por isso o acordo será mais difícil que o nuclear. E talvez mais urgente. O desafio não é impedir que o outro vença a corrida.
É garantir que, tentando vencê-la, os dois não percam o controle sobre aquilo que estão construindo.
Fonte:CNN Brasil
