EUA e China discutem segurança em IA com modelo nuclear

Especialistas apontam riscos de sistemas de inteligência artificial em operações nucleares

Pesquisadores de instituições renomadas dos Estados Unidos e da China apresentaram recomendações inéditas sobre como aplicar protocolos de segurança em IA semelhantes aos utilizados no setor nuclear. Segundo os especialistas que participam de diálogos oficiais entre os dois países, sistemas autônomos de inteligência artificial que acessem redes de comando nuclear ou lancem operações militares digitais poderiam deixar governos como Washington e Pequim com apenas alguns minutos para avaliar se o ataque foi responsabilidade da outra nação.

As preocupações aumentam à medida que a tecnologia se torna mais poderosa e autônoma, criando cenários onde máquinas podem agir mais rápido que a capacidade de resposta humana. Este cenário exigiu que especialistas em segurança propusessem medidas preventivas robustas para evitar interpretações equivocadas de operações digitais.

Propostas concretas para controle de sistemas autônomos

As recomendações elaboradas por pesquisadores como Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade de Fudan, incluem três pilares principais. O primeiro estabelece limites rígidos sobre quem pode iniciar operações digitais em sistemas nucleares – apenas seres humanos deveriam deter essa autoridade, evitando que máquinas funcionem de forma completamente autônoma nessas operações críticas.

O segundo pilar propõe uma definição comum entre os dois países sobre o que significa "controle humano significativo". Essa padronização impediria que ambas as nações usassem a mesma terminologia para justificar diferentes níveis de autonomia em seus sistemas de IA. Jiang também recomendou proteções específicas para infraestruturas essenciais como energia, finanças e saúde, setores igualmente vulneráveis a ataques digitais.

A terceira medida sugere o estabelecimento de uma linha direta militar exclusiva entre Estados Unidos e China para lidar com incidentes envolvendo IA autônoma. Esta comunicação direta permitiria que um governo informasse rapidamente ao outro sobre operações incomuns de IA, esclarecendo se foram acidentais, não autorizadas ou ainda sob investigação, antes que fossem interpretadas como ações estatais deliberadas.

O desafio da velocidade em operações digitais

Um dos principais desafios identificados pelos pesquisadores refere-se à velocidade. Enquanto seres humanos precisam de tempo para analisar situações e tomar decisões, sistemas de defesa cibernética funcionam em milissegundos. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, e o outro lado poderia interpretar essa reação como um ataque, desencadeando represálias antes de compreender o que realmente ocorreu.

Chen Yixin, ministro da Segurança do Estado chinês, reconheceu recentemente que a inteligência artificial "transforma fundamentalmente a forma da luta militar". A tecnologia deixou de ocupar um papel secundário no campo de batalha, passando a ser central nas operações, conforme evidenciado por ataques dirigidos por IA nas operações dos EUA e Israel contra o Irã.

Consenso teórico entre potências nucleares

As propostas se baseiam em um princípio anteriormente endossado pelo então presidente Joe Biden e pelo presidente chinês Xi Jinping em novembro de 2024: o controle humano deve prevalecer nas decisões sobre uso de armas nucleares. Este ponto de convergência representa um importante acordo de princípios, apesar dos sinais de que ambos os países vêm integrando inteligência artificial de forma progressivamente profunda em sistemas nucleares e relacionados à energia nuclear.

Pesquisadores como Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificaram este princípio como um ponto de convergência significativo entre as duas potências, mesmo diante da integração crescente de IA em infraestruturas nucleares sensíveis.

Ceticismo quanto à implementação prática

Nem todos os especialistas acreditam que as medidas propostas funcionarão conforme o esperado. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questiona a utilidade de uma linha direta dedicada, citando o precedente do "incidente do balão espião" em fevereiro de 2023, quando autoridades chinesas recusaram-se a atender ligações de homólogos norte-americanos.

Além disso, a hierarquia rígida da burocracia chinesa impede que oficiais de baixo escalão tomem iniciativas em interações com representantes americanos. Segundo Freeman, nenhum oficial no sistema chinês se comunica com os Estados Unidos até que a alta liderança, em consulta com atores relevantes dentro do partido-Estado, tenha decidido sobre uma resposta, processo que pode levar dias ou mais.

Posições oficiais e preocupações estratégicas

Embora nenhum dos dois governos tenha endossado publicamente as propostas, a China vem incorporando significativamente a IA em sua estrutura de controle de armas. A IA tornou-se uma área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores chinês, responsável também por questões nucleares, não proliferação e mísseis.

Shen Jian, embaixador da China para assuntos de desarmamento, declarou em reunião da ONU em Genebra que a IA militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada de conflitos. Ele reafirmou que armas devem permanecer sob controle humano, posição que se alinha com as propostas dos especialistas.

Washington, por sua vez, não possui um órgão único equivalente dedicado exclusivamente ao controle de armas relacionado à IA. A política de segurança nacional americana é distribuída entre o Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências, refletindo a complexidade institucional do governo americano.

Pressões econômicas versus segurança internacional

Ambos os governos mantêm cautela em relação a medidas que possam desacelerar seu desenvolvimento tecnológico. O presidente Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos dos controles tecnológicos dos EUA como tentativas de preservar a liderança americana na inovação.

As recomendações foram publicadas antes de negociações oficiais sobre IA e de uma reunião marcada para 24 de setembro em Washington entre Trump e Xi Jinping, sinalizando que a questão da segurança em IA permanece como tema prioritário na agenda bilateral das duas potências nucleares.