A perseguição autônoma de humanos por máquinas é uma linha moral que não deve ser ultrapassada, defendem as Nações Unidas e o Comitê Internacional da Cruz Vermelha.
O início de negociações sobre um instrumento juridicamente vinculante sobre o tema até 2026 é a sugestão feita aos líderes mundiais em mensagem do secretário-geral da ONU e do diretor da Cruz Vermelha.
Prioridade humanitária
Os representantes pedem urgência em abordar o que chamam de “prioridade humanitária”, ao exigir proibições e restrições específicas sobre tais sistemas. A meta é “proteger as gerações do presente e do futuro dos efeitos” do uso destes meios.
Os chefes das duas organizações apontam benefícios em “impor limites internacionais claros” para a utilização dessas armas, lembrando que elas selecionam os alvos e aplicam força sem intervenção humana. Esta intervenção coloca “graves preocupações humanitárias, jurídicas, éticas e de segurança”.
Com um potencial desenvolvimento e proliferação, a possibilidade é que seja alterada de forma significativa a forma como as guerras são travadas. Isso pode contribuir para a instabilidade global e aumento das tensões internacionais.
Envolvimento em conflitos
Com a atual abordagem da “percepção de menor risco” de utilização destes meios por forças militares e civis, o alerta é que a situação aumente a violência de uma forma impensada.
Os signatários do documento pedem ação urgente para preservar o controle humano sobre o uso da força, apontando que se mantenha a influência humana em decisões de vida e morte.
Para os dois representantes, as máquinas com poder e critérios para tirar vidas, sem envolvimento humano, deveriam ser proibidas pelo direito internacional.
Bem da humanidade
Eles apontam ainda o aumento da preocupação com a alta disponibilidade e acessibilidade de tecnologias sofisticadas, novas e emergentes, como as de robótica e inteligência artificial, que poderiam ser integradas em armas autônomas.
O documento menciona a apreensão de cientistas e líderes industriais responsáveis por tais avanços tecnológicos que têm soado o alarme. A proposta é que as novas tecnologias sejam aproveitadas para o bem da humanidade, enfrentando primeiro os riscos mais urgentes e evitando consequências irreparáveis.
Para eles, deve ser proibido o uso de sistemas de armas autônomos que funcionam sem previsão de seus efeitos. Eles mencionam o perigo de permitir que armas autônomas sejam controladas por algoritmos de aprendizagem automática, por ser um software imprevisível.
Direito internacional e ética
Os autores da carta querem restrições claras para todos os outros tipos de armas autônomas, para garantir o cumprimento do direito internacional e a aceitabilidade ética. A ideia é “limitar onde, quando e durante quanto tempo” estas seriam usadas.
Outra área que merece atenção refere-se aos tipos de alvos a atingir e a dimensão da força utilizada, bem como assegurar a capacidade de supervisão humana eficaz e de intervenção e desativação em tempo útil.
A ONU acolhe há mais de uma década debates sobre o tema para a adoção de proibições e restrições. As sessões acontecem em entidades como Assembleia Geral, Conselho dos Direitos Humanos e Convenção sobre Certas Armas Convencionais.
Fonte: ONU News – Imagem: Unsplash/Ian Usher
