O avanço desenfreado de armamentos e sistemas autônomos acendeu um alerta urgente entre potências globais: a velocidade das máquinas pode provocar uma guerra nuclear por engano. Diante do risco de que algoritmos deflagrem ofensivas militares sem tempo hábil para a tomada de decisão humana, pesquisadores de segurança dos Estados Unidos e da China defendem que o setor de inteligência artificial adote salvaguardas semelhantes aos rigorosos tratados do setor atômico.
Travas de segurança e supervisão humana obrigatória
Em meio à preparação para um encontro presencial em Washington entre o presidente norte-americano, Donald Trump, e o líder chinês, Xi Jinping, analistas de ambos os lados apresentaram um pacote de propostas para conter riscos catastróficos. O documento foi elaborado por Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, integrantes do fórum bilateral mantido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.
A premissa central é estabelecer que apenas seres humanos tenham o poder de autorizar ataques cibernéticos contra infraestruturas estratégicas ou cadeias de comando e comunicação nuclear. Sem esse freio, um algoritmo defeituoso ou alvo de sabotagem digital poderia executar ações imprevistas, forçando uma retaliação imediata da outra potência antes mesmo que se compreenda a origem do incidente.
Além de proteger setores civis essenciais — como saúde, energia e o sistema financeiro —, Jiang defendeu que Washington e Pequim definam formalmente o conceito de “controle humano significativo”. A meta é consolidar um entendimento compartilhado em novembro de 2024 entre Xi e o então presidente Joe Biden, que determinava a exclusividade humana nas decisões nucleares. Para Lora Saalman, pesquisadora sênior associada do Instituto Internacional de Pesquisa para a Paz de Estocolmo, essa convergência é vital, especialmente porque os dois países intensificam o uso de IA em redes atômicas.
Decisões em segundos e o canal militar direto
O ministro da Segurança do Estado da China, Chen Yixin, afirmou recentemente em um canal governamental que a IA “transforma fundamentalmente a forma da luta militar”. Na visão do ministro, os modelos computacionais deixaram a retaguarda operacional para assumir o protagonismo nas frentes de batalha contemporâneas.
Como softwares de defesa podem reagir a atividades suspeitas em frações de segundo, um ciclo automático de escalada pode se tornar irreversível. Para mitigar esse perigo, os especialistas sugeriram a criação de uma linha direta militar exclusiva para ocorrências ligadas a algoritmos, permitindo avisar o outro lado sobre falhas técnicas ou investigações em curso antes que a manobra seja tratada como agressão premeditada.
Resistência burocrática aos canais de crise
Apesar da proposta técnica, canais de emergência enfrentam barreiras diplomáticas históricas. Carla Freeman, especialista da Escola de Estudos Internacionais Avançados da Johns Hopkins, ressalta a lentidão decisória da estrutura chinesa, relembrando episódios de comunicação interrompida, como a crise do balão em 2023.
Segundo a pesquisadora, o modelo centralizado em Pequim limita intervenções ágeis: “Ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança, em consulta com os atores relevantes dentro do partido-Estado chinês, tenha decidido sobre uma resposta, o que pode levar dias, se não mais”.
O impasse diplomático da corrida tecnológica
Embora nenhuma das capitais tenha encampado oficialmente as diretrizes do diálogo acadêmico, os modelos de gestão diferem substancialmente. Do lado chinês, a governança militar da IA está centralizada no Departamento de Controle de Armas do Ministério das Relações Exteriores, chefiado pelo embaixador Shen Jian, que defende na ONU o controle humano contra erros de cálculo.
Já os Estados Unidos distribuem essa política entre o Pentágono, o Conselho de Segurança Nacional da Casa Branca e o Departamento de Estado. Em comum, as duas nações mantêm forte desconfiança mútua: Donald Trump adverte que limitações amplas podem dar vantagem estratégica à China, ao passo que o governo chinês enxerga barreiras ocidentais como uma tentativa de barrar sua ascensão e assegurar a hegemonia tecnológica norte-americana.
