A jovem Tetiana Bubinets, de 19 anos, tentava salvar sua vida quando foi tragicamente atingida. No mês passado, um drone russo, semelhante a um aeromodelo, mergulhou sobre Zaporíjia, uma cidade no sudeste da Ucrânia, e colidiu com um muro enquanto se dirigia a um posto de gasolina. A explosão resultou na morte de Bubinets, estudante universitária, e mais duas pessoas.
Essas mortes fazem parte do trágico balanço de civis ucranianos falecidos em ataques aéreos russos, mas o contexto em que ocorreram adiciona um elemento alarmante. O drone que causou as fatalidades operava por meio de um sistema experimental de inteligência artificial, e não por controle humano, afirmaram especialistas e autoridades militares que investigaram os destroços do ataque na região.
Os operadores humanos programaram o drone para seguir em direção a um posto de gasolina, mas, ao se aproximar, ele tomou a iniciativa de escolher o alvo específico, possivelmente tanques de propano, utilizando seu treinamento para reconhecê-los e atacá-los. Este episódio representa um desenvolvimento preocupante na condução da guerra na Ucrânia, sinalizando um futuro onde máquinas autônomas possam decidir sobre vida ou morte.
“Isso representa um risco para o mundo todo,” alertou o coronel Serhii Minaiev, comandante das defesas aéreas locais. Ele citou estratagemas que refletem o enredo do filme “O Exterminador do Futuro”, destacando o potencial das máquinas para decidirem ataques sem intervenção humana.
A análise técnica dos destroços identificou que os drones continham minicomputadores de um fabricante renomado, que são responsáveis pelas decisões de ataque. A presença desses módulos e a ausência de antenas em certas unidades levaram as autoridades ucranianas a concluir que as armas eram guiadas por um sistema de IA autônomo, um aspecto confirmado por investigações subsequentes.
Esses sistemas autônomos podem ser treinados com grandes bancos de dados de imagens para reconhecer objetos como “tanks”, “veículos militares” ou “civis”. Os drones que selecionam alvos sozinhos utilizam câmeras que oferecem uma precisão superior à capacidade humana.
Entretanto, críticos dessas tecnologias levantam preocupações sobre a falta de supervisão humana, destacando que isso pode resultar em erros trágicos ou em violações do direito internacional, incluindo a incapacidade de distinguir civis inocentes de combatentes.
O ataque ao posto de gasolina em 6 de julho seria o primeiro documento de morte civil atribuída a um drone russo com esse tipo de tecnologia. Autores de tais investigações alegam que a Rússia está desenvolvendo e testando sistemas autônomos de IA em situações de combate.
Enquanto tanto a Ucrânia quanto a Rússia testam IA em drones, no caso dos ucranianos, essas tecnologias têm sido empregadas apenas em fases finais de ataques, com o controle humano ainda presente. Em contrapartida, as armas autônomas omitem completamente o humano da escolha do alvo.
Recentemente, o chip da Nvidia encontrado nos drones não estava criptografado, permitindo que investigadores ucranianos acessassem as imagens carregadas no módulo, identificando os alvos previstos, como tanques de propano.
Em Zaporíjia, a guerra tem intensificado o uso de drones, tornando os operadores humanos alvos. Drones autônomos, por sua vez, não possuem essa vulnerabilidade e podem ser mais precisos na execução de ataques.
As autoridades de defesa local acusam a Rússia de mirar em alvos civis durante os testes dos drones autônomos, mas os motivos por trás da escolha desses alvos permanecem obscuros. Um especialista em drones mencionou que o aparelho que causou as mortes era um equipamento previamente programado e treinado em ambientes virtuais.
Enquanto os sistemas de IA tradicionais seguem instruções lineares, a IA autônoma aprende a partir de padrões em vastos conjuntos de dados, permitindo-lhe reagir a situações inesperadas – uma característica que gera preocupação em relação à previsibilidade de suas ações.
Grupos de defesa dos direitos humanos criticam veementemente o uso de armas autônomas, argumentando que elas deixam a interpretação do direito de guerra a máquinas. Por outro lado, alguns especialistas defendem que, no futuro, sistemas de IA podem tornar as armas mais seguras, pois têm a capacidade de tomar decisões antes do ataque.
Alguns drones guiados por IA testados pela Rússia não detonaram durante o impacto, e autoridades ucranianas apresentaram evidências de dois desses dispositivos. A Nvidia confirmou que os módulos visualizados nas investigações são minicomputadores acessíveis a desenvolvedores e estudantes.
Por sua parte, a Ucrânia também experimentou sistemas autônomos. O ex-ministro da Defesa afirmou que tais dispositivos foram testados em solo ocupado, sem causar mortes de civis. Moradores de Zaporíjia, ansiosos com a possibilidade de drones armados sobrevoando suas casas, relataram que a situação já estava severamente alterada por ataques aéreos.
Diante dessa crescente ameaça, a resposta inclui a utilização de drones interceptores operados por equipes humanas e redes antidrones que cobrem extensas áreas. A estratégia de camuflagem também está em uso, visando enganar os sistemas de reconhecimento dos drones autônomos.
Momentos antes do ataque em 6 de julho, testemunhas relataram que um grupo de pessoas buscou abrigo em um prédio ao ouvir explosões. Bubinets, que era uma estudante de contabilidade, foi encontrada gravemente ferida e não resistiu aos ferimentos, sendo declarada morta em um hospital, junto com outras duas vítimas que sucumbiram aos ferimentos posteriormente.
O comandante Minaiev enfatizou que os adversários estão constantemente refinando suas tecnologias, sublinhando que, embora a IA apresente capacidades impressionantes, ainda possui limitações.
