Comitê de Desarmamento e Segurança Internacional (DISEC)
Algoritmos de Morte: Armas Autônomas e a Desumanização da Guerra
Algoritmos de Morte: Armas Autônomas e a Desumanização da Guerra
Quando uma máquina passa a decidir quem vive e quem morre, ainda estamos falando de guerra — ou já entramos em uma nova era de desumanização organizada da violência?
Ao longo da história, a guerra sempre acompanhou a evolução da tecnologia. Da pólvora aos drones, cada inovação transformou não apenas a capacidade destrutiva dos Estados, mas também a distância moral entre o combatente e o alvo. No século XXI, essa distância ameaça atingir um ponto sem precedentes com o avanço das armas autônomas letais: sistemas capazes de identificar, selecionar e atacar alvos com graus variados de intervenção humana. Embora muitas potências militares apresentem essas tecnologias como instrumentos de precisão, eficiência e redução de baixas próprias, o debate internacional revela um dilema muito mais profundo. Quando algoritmos entram na cadeia de decisão letal, não está em jogo apenas a modernização dos arsenais, mas a transferência de julgamentos éticos, jurídicos e humanos para sistemas computacionais treinados a partir de dados, padrões e probabilidades.
A preocupação com armas autônomas não surgiu do nada. Ela é fruto de uma trajetória histórica em que a automação militar se expandiu gradualmente, primeiro com sistemas defensivos automáticos, depois com drones de operação remota e, mais recentemente, com plataformas capazes de agir com autonomia crescente em ambientes complexos. Hoje, o temor não se limita a cenários futuristas. Já existem sistemas com capacidade de operar com intervenção humana reduzida, e episódios recentes em conflitos contemporâneos reacenderam o debate sobre o uso de inteligência artificial, reconhecimento facial, vigilância algorítmica e seleção automatizada de alvos. Nesse contexto, a fronteira entre apoio tecnológico e delegação efetiva da decisão de matar torna-se cada vez mais tênue. O problema central não é apenas técnico, mas normativo: o Direito Internacional Humanitário foi construído com base em princípios como distinção, proporcionalidade e precaução. Pode um algoritmo, treinado em contextos imperfeitos e sujeito a vieses, realmente interpretar essas exigências com responsabilidade?
As implicações deste debate são amplas e profundamente inquietantes. Entre elas estão o risco de erros de identificação, a reprodução de vieses algorítmicos contra populações específicas, a opacidade dos sistemas de decisão automatizada, a dificuldade de atribuir responsabilidade jurídica por ataques ilegais e a possibilidade de uma corrida armamentista em torno da autonomia letal. Também preocupa a proliferação dessas armas para Estados com baixa capacidade regulatória, grupos armados não estatais ou mercados paralelos de tecnologia militar. Ao mesmo tempo, defensores dessas ferramentas argumentam que elas podem reduzir falhas humanas, agir com maior precisão e diminuir custos operacionais, o que obriga a comunidade internacional a enfrentar não apenas temores éticos, mas disputas estratégicas reais entre segurança, poder e inovação.
Neste comitê, espera-se que os delegados debatam se a comunidade internacional deve limitar, regular ou proibir o desenvolvimento e o uso de armas autônomas letais. Será necessário discutir conceitos como controle humano significativo, mecanismos de responsabilização, transparência algorítmica, regimes de verificação internacional e os limites éticos da inteligência artificial aplicada ao campo militar. Mais do que avaliar uma inovação bélica, os delegados terão de decidir até onde o mundo está disposto a automatizar a violência.
O que está em jogo neste debate não é apenas o futuro da guerra, mas o futuro da própria responsabilidade humana diante dela. Se matar pode se tornar uma função delegável a máquinas, então talvez o maior perigo não seja apenas a sofisticação das armas, mas a erosão moral de quem escolheu construí-las.
Ao longo da história, a guerra sempre acompanhou a evolução da tecnologia. Da pólvora aos drones, cada inovação transformou não apenas a capacidade destrutiva dos Estados, mas também a distância moral entre o combatente e o alvo. No século XXI, essa distância ameaça atingir um ponto sem precedentes com o avanço das armas autônomas letais: sistemas capazes de identificar, selecionar e atacar alvos com graus variados de intervenção humana. Embora muitas potências militares apresentem essas tecnologias como instrumentos de precisão, eficiência e redução de baixas próprias, o debate internacional revela um dilema muito mais profundo. Quando algoritmos entram na cadeia de decisão letal, não está em jogo apenas a modernização dos arsenais, mas a transferência de julgamentos éticos, jurídicos e humanos para sistemas computacionais treinados a partir de dados, padrões e probabilidades.
A preocupação com armas autônomas não surgiu do nada. Ela é fruto de uma trajetória histórica em que a automação militar se expandiu gradualmente, primeiro com sistemas defensivos automáticos, depois com drones de operação remota e, mais recentemente, com plataformas capazes de agir com autonomia crescente em ambientes complexos. Hoje, o temor não se limita a cenários futuristas. Já existem sistemas com capacidade de operar com intervenção humana reduzida, e episódios recentes em conflitos contemporâneos reacenderam o debate sobre o uso de inteligência artificial, reconhecimento facial, vigilância algorítmica e seleção automatizada de alvos. Nesse contexto, a fronteira entre apoio tecnológico e delegação efetiva da decisão de matar torna-se cada vez mais tênue. O problema central não é apenas técnico, mas normativo: o Direito Internacional Humanitário foi construído com base em princípios como distinção, proporcionalidade e precaução. Pode um algoritmo, treinado em contextos imperfeitos e sujeito a vieses, realmente interpretar essas exigências com responsabilidade?
As implicações deste debate são amplas e profundamente inquietantes. Entre elas estão o risco de erros de identificação, a reprodução de vieses algorítmicos contra populações específicas, a opacidade dos sistemas de decisão automatizada, a dificuldade de atribuir responsabilidade jurídica por ataques ilegais e a possibilidade de uma corrida armamentista em torno da autonomia letal. Também preocupa a proliferação dessas armas para Estados com baixa capacidade regulatória, grupos armados não estatais ou mercados paralelos de tecnologia militar. Ao mesmo tempo, defensores dessas ferramentas argumentam que elas podem reduzir falhas humanas, agir com maior precisão e diminuir custos operacionais, o que obriga a comunidade internacional a enfrentar não apenas temores éticos, mas disputas estratégicas reais entre segurança, poder e inovação.
Neste comitê, espera-se que os delegados debatam se a comunidade internacional deve limitar, regular ou proibir o desenvolvimento e o uso de armas autônomas letais. Será necessário discutir conceitos como controle humano significativo, mecanismos de responsabilização, transparência algorítmica, regimes de verificação internacional e os limites éticos da inteligência artificial aplicada ao campo militar. Mais do que avaliar uma inovação bélica, os delegados terão de decidir até onde o mundo está disposto a automatizar a violência.
O que está em jogo neste debate não é apenas o futuro da guerra, mas o futuro da própria responsabilidade humana diante dela. Se matar pode se tornar uma função delegável a máquinas, então talvez o maior perigo não seja apenas a sofisticação das armas, mas a erosão moral de quem escolheu construí-las.
Representações disponíveis:
- Canadá
- Comunidade da Austrália
- Confederação Suíça
- Emirados Árabes Unidos
- Estado da Palestina
- Estado de Israel
- Estado do Brunei Darussalam
- Estado do Kuwait
- Estado do Qatar
- Estado Independente de Papua-Nova Guiné
- Estado Independente de Samoa
- Estados Federados da Micronésia
- Estados Unidos da América
- Estados Unidos Mexicanos
- Federação da Rússia
- Irlanda
- Japão
- Malásia
- Mongólia
- Nova Zelândia
- Reino da Arábia Saudita
- Reino da Bélgica
- Reino da Dinamarca
- Reino da Noruega
- Reino da Suécia
- Reino da Tailândia
- Reino de Espanha
- Reino de Marrocos
- Reino do Butão
- Reino do Camboja
- Reino Hachemita da Jordânia
- Reino Unido da Grã-Bretanha e Irlanda do Norte
- República Árabe do Egito
- República Árabe Síria
- República Argelina Democrática e Popular
- República Argentina
- República da África do Sul
- República da Albânia
- República da Áustria
- República da Colômbia
- República da Coreia
- República da Costa do Marfim
- República da Finlândia
- República da Índia
- República da Indonésia
- República da Namíbia
- República da Polônia
- República da Turquia
- República da União de Myanmar
- República da Zâmbia
- República das Fiji
- República das Filipinas
- República das Maldivas
- República de Angola
- República de Madagascar
- República de Moçambique
- República de Ruanda
- República de Singapura
- República de Uganda
- República Democrática de Timor-Leste
- República Democrática do Congo
- República Democrática Federal da Etiópia
- República Democrática Federal do Nepal
- República Democrática Popular do Laos
- República do Cazaquistão
- República do Chade
- República do Gana
- República do Iêmen
- República do Iraque
- República do Quênia
- República do Senegal
- República do Sudão
- República do Sudão do Sul
- República do Tajiquistão
- República do Uzbequistão
- República Dominicana
- República dos Camarões
- República Federal da Alemanha
- República Federal da Nigéria
- República Federal da Somália
- República Francesa
- República Helênica
- República Islâmica do Afeganistão
- República Islâmica do Irã
- República Islâmica do Paquistão
- República Italiana
- República Libanesa
- República Popular da China
- República Popular de Bangladesh
- República Popular Democrática da Coreia
- República Portuguesa
- República Quirguiz
- República Socialista Democrática do Sri Lanka
- República Socialista do Vietnã
- República Tcheca
- República Tunisina
- República Unida da Tanzânia
- Sultanato de Omã
- Turcomenistão
- Ucrânia