.
“Sedento de saber o que Deus sabe,
Judá León deuse a permutacións
de letras e a complexas variacións
e ao fin pronunciou o Nome que é a Clave,
a Porta, o Eco, o Hóspede e o Palacio,
sobre un boneco que con torpes mans
labrou, para ensinarlle os arcanos
das Letras, do Tempo e do Espazo.
O simulacro alzou as somnolentas
pálpebras e viu formas e cores
que non entendeu, perdidos en rumores
e ensaiou medorentos movementos.
Gradualmente viuse (como nós)
aprisionado nesta rede sonora
de Antes, Despois, Onte, Mentres, Agora,
Dereita, Esquerda, Eu, Ti, Aqueles, Outros”.
“Poema do Gólem, recollido no libro “O outro, o mesmo” (1964)
Este fragmento fai referencia á lenda do Gólem segundo a cal, alá polo tramo final do século XVII, o gran sabio e místico xudeu, o rabino Judá Loew Ben Bezalel (1512-1609), coñecido como MaHaRaL, o Cabalista, insuflou vida a unha figura de arxila con forma humana. Tras escribir na súa fronte un esconxuro, o poderoso ser artificial destinado á protección da comunidade xudía de Praga adquiriu a capacidade de actuar de maneira autónoma.
Esta bela historia reproduce un impulso que permaneceu latente no xénero humano, talvez dende a noite dos tempos: o “xogar a ser Deus”. O Xénese (1,27) reza: “Deus creou ao home á súa imaxe, a imaxe de Deus creouno, home e muller creounos”. Ese proceder, adaptado ás capacidades de cada época, impulsou aos homes para crear organismos -mecánicos iso si- feitos precisamente ao seu xeito.
Orixes
Na antigüidade xa se exploraban estas vías. Así, por citar só dous exemplos, en torno ao ano 1.300 ane o Escriba Real Amenhotep, fillo de Hapu, fixo construír unha efixie do rei etíope Memon que emitía sons cando era iluminada polos raios solares; no 500 ane o chinés King-o seu Tse fabricou con madeira e bambú, unha pega rabilonga capaz de voar e un cabalo que podía saltar.
Leonardo da Vinci, en torno ao ano 1495, proxectou, aínda que non existe certeza de que chegase a ser construído, un complexo autómata en forma de cabaleiro cuberto coa súa armadura capaz de realizar diversos movementos como virar a cabeza, levantarse ou sentar.
Os deseños deste proxecto foron recuperados en 1950 e no ano 2002 Mark Rosheim, enxeñeiro da Axencia Espacial Estadounidense (NASA) materializou o deseño comprobando empiricamente que funcionaba á perfección.
Talvez non fose froito da causalidade que o ilustre florentino elixise para o seu proxecto un cabaleiro con armadura -un soldado- dotado dun mecanismo para que actuase a plena vontade do seu dono, isto é, como un “escravo”.
“Escravo” precisamente é unha das acepcións, xunto á de “labor forzado” ou “servidume” etimoloxicamente atribuídas á expresión eslava robota da que deriva finalmente “robot”. O seu uso ten a súa orixe na peza teatral de 1920 “R.Ou.R. (Rossumovi Univerzální Roboti) / R.Ou.R. (Robots Universais Rossum)” de Karel Čapek coa colaboración do seu irmán Josef.
Nesta obra, Harry Domin, administrador da fábrica Rossum, produce en masa autómatas destinados a liberar ao xénero humano das molestias derivadas da súa necesaria actividade laboral para que os humanos puidesen dedicarse a unha permanente ociosidade. Como reza o famoso aforismo italiano, ao dolce far niente. Ademais de asumir estes labores, a factoría de Domin tamén producía humanoides orientados a cuestións menos tranquilizantes: as tarefas militares. Aínda que no terreo da ficción distópica (ou talvez profética?) Rossumovi Univerzální Roboti estaba a fabricar “robots-soldado”.
Desenvolvemento durante o período das dúas guerras mundiais
A pesar de que inicialmente tiñan unha forma que en nada se asemellaba á humana, a comezos do século XX, na guerra, que segundo o mandatario estadounidense Woodrow Wilson, íase librar “para acabar con todas as guerras”, a Primeira Guerra Mundial, empezáronse a deseñar dispositivos automotrices controlados a distancia e dotados de carga explosiva.
Un deles foi o torpedo terrestre Schneider Crocodile de fabricación francesa equipado cunha carga de 40 quilogramos de explosivos.
Con algo máis de carga útil, entre sesenta e cen quilos, estaba dotada a creación alemá Leichter Ladungsträger Goliath, controlado a distancia por un cable de 650 metros de lonxitude. Tamén coñecidos como “tanques escaravello” polo seu pequeno tamaño demostraron gran efectividade durante a Segunda Guerra Mundial en tarefas de demolición e de ataque contra carros de combate convencionais.
A URSS tamén desenvolveu un modelo de carro de combate chamado Teletank. Controlado a distancia desde un radio de entre 500 e 1.500 metros contaba con lanzachamas, metralladoras e bombas de entre 200 e 700 quilos. Estes vehículos entraron en servizo por primeira vez na “Guerra de Inverno” (1939-1940) soviético-finesa e posteriormente na Segunda Guerra Mundial.
En 1944 Estados Unidos puxo en marcha os programas Afrodita e Anvil orientados a reforzar a supremacía aérea que mantiñan sobre a Alemaña nazi. Consistían no emprego de bombardeiros B-17, B-24 e PBY4-1 desposuídos do seu equipamento e cargados de explosivos os cales, guiados desde un “avión ama de cría” serían lanzados contra os seus obxectivos.
Desta maneira, as Forzas Armadas estadounidenses recuperaban un deseño de finais da Primeira Guerra Mundial chamado Kettering Bug en honra a Charles F. Kettering supervisor do proxecto xunto a Orville Wright. Tratábase dun biplano propulsado por un motor de catro cilindros e corenta cabalos equipado cunha bomba que estaba previsto que podía alcanzar obxectivos nun radio de 75 quilómetros. Aínda que a guerra finalizou sen que entrasen en servizo foi o primeiro modelo de UAV (Unmanned aerial Vehicle-. vehículo aéreo non tripulado) en funcionamento , actualmente coñecidos de maneira popular como drons.
O especialista en Historia Militar Steven Zaloga sitúa as orixes desta expresión, que etimoloxicamente pode entenderse como “abázcaro” ou “zunido”, en 1935. Naquel ano o almirante dos Estados Unidos William H. Standley foi testemuña dunhas manobras da Armada británica na que se empregaron antigos biplanos De Havilland equipados con control remoto e que eran usados como obxectivo aéreo para as prácticas de unidades de artillería. Estes aparellos recibían o nome de Queen Bee (Abella Raíña). Cando o Almirante Standley regresou ao seu país encargou ao Comandante Delmer Fahrney o desenvolvemento de aparellos similares que en recordo á “abella reina” recibiron o nome de drone.
Os drons dos programas Afrodita e Anvil unha vez cargados de explosivos despegaban cunha tripulación convencional a cal abandonaba a aeronave con paracaídas sendo transferido o control da mesma a un “avión ama de cría”. A primeira misión deste tipo executouse o 4 de agosto de 1944. Tanto esta como as 18 subseguintes, foron un fracaso.
Nunha destas misións, que tivo lugar o 12 de agosto de 1944, perdeu a vida o tenente Joseph P. Kennedy Jr., irmán do que posteriormente sería o trixésimo quinto presidente dos Estados Unidos, John Fitzgerald Kennedy.
Desenvolvemento na segunda metade do século XX
Na década de 1960 empregouse o drone modelo 147 Lightning Bug que despegaba desde un avión en voo e que era destinado a funcións de recoñecemento. Estivo en servizo fundamentalmente no sueste asiático entre os anos 1962 e 1975.
No ano 1979 púxose en marcha programa Lockheed MGM-105 Aquila. Cunha dotación orzamentaria inicial de 560 millóns de dólares destinados a fabricar 780 unidades, o proxecto foi cancelado cando apenas se produciron algúns prototipos e o gasto superara os 1.000 millóns de dólares.
Na Guerra do Golfo de 1991 a Mariña dos Estados Unidos empregou de maneira satisfactoria o drone AAI RQ-2 Pioneer de produción israelí para identificar obxectivos inimigos. Nunha destas misións, un drone Pioneer sobrevoou un grupo de militares iraquís os cales, temendo ser obxecto dun bombardeo axitaron sabas brancas e mesmo camisetas interiores dese mesma cor. Tratouse do primeiro caso de capitulación ante un sistema aéreo non tripulado. A primeira rendición de humanos ante unha máquina.
Coa integración en 1995 do sistema de posicionamento global, o GPS, chegou o que un oficial da Forza Aérea dos EE. UU. denominou como o “momento máxico” na historia dos drons. Sistemas como o Northrop Grumman RQ-4 Global Hawk e o General Atomics RQ-1 Predator foron utilizados durante a intervención da OTAN en Kosova no ano 1999 fundamentalmente en tarefas de recoñecemento.
Desenvolvemento no século XXI
No ano 2.000 a Forza Aérea de Estados Unidos conseguiu de maneira satisfactoria equipar drons con mísiles o que supuxo un salto cualitativo no emprego destes sistemas. Segundo o Bureau of Investigative Journalism no primeiros quince anos da “guerra global contra o terror” foron despregados polo menos en sete países. Durante o mandato de Barack Obama, galardoado “preventivamente” co Premio Nobel da Paz, executáronse dez veces mais misións con este tipo de sistemas que durante toda a presidencia de George W. Bush.
O Comando Conxunto de Operacións Especiais do Pentágono e a CIA efectuaron centenares de ataques en países como Somalia, Iemen ou Paquistán a pesar de non estar oficialmente en guerra con ningún deles. Estados Unidos, xunto con Israel e o Reino Unido eran os únicos países que posuían drons armados. Entre ese ano e 2019 outros dezaoito estados dotáronse con este tipo de sistemas.
Aínda que estes dispositivos supuxeron un salto cualitativo no desenvolvemento e posterior emprego da tecnoloxía para cuestións bélicas, especialmente no uso da forza armada e a pesar de gozar dun elevado nivel de automatización non son sistemas autónomos, dependen do control humano para a toma de decisións. Humana é a súa supervisión e tamén o control directo fundamentalmente para a determinación de obxectivos e o emprego da forza letal.
Unha vez materializado e pasado polo cribo da tecnoloxía actual o autómata en forma de cabaleiro cuberto de armadura proxectado por Leonardo dá Vinci, o seguinte paso é o desenvolvemento dun escenario no que sexa factible sacar o factor humano da ecuación.
Trátase de “crear un ser autómata e sen pensamento” que unicamente dependese do seu creador para iniciar ou deter a súa actividade como o Gólem de Praga cando o seu manipulador introducía ou quitaba da súa boca unha “máxica cifra numérica”. Trátase en fin de transitar de sistemas automatizados a sistemas autónomos.
Segundo o directiva número 3000.09 do Departamento de Defensa de Estado Unidos de data 21 de novembro de 2012, un “Sistema de Armas Autónomo (Autonomous Weapon System/WAS en inglés) é “Un sistema de armas que, unha vez activado, pode seleccionar e atacar obxectivos sen máis intervención dun operador humano. Isto inclúe sistemas de armas autónomas supervisadas por humanos que están deseñados para permitir que os operadores humanos anulen a operación do sistema de armas, pero pode seleccionar e atacar obxectivos sen máis intervención humana despois da activación”.
O entón presidente do Comité Internacional da Cruz Vermella (CICR), Jakob Kellenberger, expresaba publicamente a súa preocupación por estes sistemas nunha conferencia impartida en San Remo, Italia, en setembro de 2011: “O despregamento de tales sistemas reflectiría unha cambio de paradigma e un importante cambio cualitativo na condución das hostilidades”. Jakob Kellenberger tamén exteriorizou as dúbidas que lle xeraba que ese tipo de sistemas fosen capaces de incorporar Intelixencia Artificial (IA) á vez que aplicar o Dereito Internacional Humanitario. Sobre esta posibilidade afirmou: “O seu desenvolvemento representa un desafío de programación monumental que ben pode resultar imposible”.
Ademais, a eventual posta en servizo destes sistemas comporta un aumento da inestabilidade. Nada novo por outra banda xa que co escenario de fondo da Guerra Fría e a proliferación armamentística- naquela ocasión de dispositivos nucleares- a Oficina de Avaliación de Tecnoloxía (Office of Technology Assessment -OTA-) de Estados Unidos, destacaba alá polo ano 1985: “A estabilidade da carreira armamentista implica o efecto dos despregamentos planificados no alcance e ritmo da carreira de armamentos… Se é probable que un despregamento nun lado dea lugar a un despregamento en resposta no outro lado, o que á súa vez probablemente induza un nivel aínda maior de despregamento no primeiro lado, o despregamento do primeiro lado podería ser visto como ‘desestabilizador’ da competencia armamentista”.
En 2013, o Consello de Dereitos Humanos da Asemblea Xeral das Nacións Unidas (AXNU) exteriorizaba a súa preocupación polo desenvolvemento dos sistemas de armas autónomas definidas como “robots autónomos letais” os cales “se se agregan aos arsenais dos Estados, engadirían unha nova dimensión a ese distanciamento, xa que os propios robots poderían adoptar as decisións relativas á selección dos obxectivos. Ademais de estar fisicamente distanciados da acción cinética, o ser humano estaría tamén máis afastado das decisións de matar e da súa execución”.
O Consello de Dereitos Humanos da AXNU destacaba que os gobernos con capacidades para producir ese tipo de sistemas declararan oficialmente que “non se prevé o seu emprego en conflitos armados ou outras situacións”. Aínda que, lembraba que “os aeroplanos e avións non tripulados empezáronse a utilizar en conflitos armados unicamente con fins de vixilancia, e descartouse o seu emprego con fins ofensivos polas consecuencias negativas que comportaría”.
Constataba xa por aquel entón, o Consello de Dereitos Humanos da Asemblea Xeral das Nacións Unidas -pese ao segredo que por razóns de seguridade acompaña ao desenvolvemento deste tipo de tecnoloxía- a existencia e o uso de “sistemas robóticos con diversos graos de autonomía e poder letal” por parte dalgúns estados sinalando os seguintes:
“O sistema Phalanx dos Estados Unidos para cruceiros da clase Aegis, que detecta, rastrexa e responde automaticamente os ataques desde o aire, por exemplo os realizados con mísiles antibuque e aeronaves.”
O sistema de defensa contra ataques con foguetes, artillería e morteiros (C-RAM), dos Estados Unidos, que permite interceptar automaticamente foguetes e proxectís de artillería e de morteiro.
O Harpy, de Israel, que é un sistema de armas autónomo, do tipo “dispara e desenténdete”, deseñado para detectar, interceptar e destruír transmisores de radar.
O Taranis, un prototipo de avión de combate non tripulado con motor de reacción, do Reino Unido, que permite buscar, identificar e localizar en forma autónoma a inimigos, pero só pode atacar un obxectivo cando o autorice o xefe da misión. Tamén pode defenderse contra o ataque de avións inimigos.
O Northrop Grumman X-47B, que é un prototipo de avión de caza non tripulado, fabricado por encargo da Mariña dos Estados Unidos, con capacidade para despegar e aterrar en portaavións e navegar de forma autónoma.
Os robots de vixiancia e seguridade Samsung SGR-A1, despregados na zona desmilitarizada entre a República Popular Democrática de Corea e a República de Corea, que permiten detectar obxectivos mediante sensores de raios infravermellos. Aínda que actualmente son manexados por persoas, teñen un “modo automático””.
A pesar da advertencia do Consello de Dereitos Humanos sobre o perigo destes sistemas, a resposta dos estados con capacidade de influencia nestas cuestións, por ter capacidade de desenvolvelos e producilos, non foi máis aló de meras declaracións formais.
Estados Unidos por exemplo alegou que a súa política xa contemplaba que o control do persoal militar sobre este tipo de sistemas de armamento e que unha lexislación prematura podería comportar un freo á investigación sobre intelixencia artificial.
Unha posición crítica co desenvolvemento destes sistemas armamentísticos foi feita pública mediante a difusión o 08 de xullo de 2015 dun documento en forma de carta aberta coincidindo coa celebración do IJCAI (International Joint Conferences on Artificial Intelligence) un simposio de ámbito internacional. O documento, subscrito por expertos internacionais en robótica e Intelixencia Artificial describe a estas armas como “a terceira revolución na guerra, despois da pólvora e as armas nucleares” incidindo en que “o despregamento de tales sistemas é (…) factible en anos, non en décadas”.
Tamén se advertía no documento do perigo latente na posibilidade de que, de continuar transitando pola vía de desenvolver e poñer en servizo estes dispositivos “….unha carreira armamentista mundial é practicamente inevitable, e o punto final desta traxectoria tecnolóxica é obvio: as armas autónomas converteranse nos Kalashnikov do mañá. A diferenza das armas nucleares, non requiren materias primas custosas ou difíciles de obter, polo que se volverán ubicuas e baratas para que todas as potencias militares importantes prodúzanas en masa. Só será cuestión de tempo ata que aparezan no mercado negro e en mans de terroristas, ditadores que desexen controlar mellor á súa poboación, caudillos que desexen perpetrar limpezas étnicas, etc”.
Antonio Guterres, Secretario xeral das Organización das Nacións Unidas abundou nesta cuestión nunhas declaracións dirixidas ao Grupo de Expertos Gobernamentais en marzo de 2019. Guterres pronunciouse sen ambaxes sobre os sistemas autónomos de armas dos que dixo “…son politicamente inaceptables, moralmente repugnantes e deberían estar prohibidas polo dereito internacional”
En xaneiro de 2021, a Comisión de Seguridade Nacional sobre Intelixencia Artificial designada polo Goberno de EE.UU, e dirixida por Eric Schmidt ,ex CEO de Google, defendeu nun panel de expertos o emprego da Intelixencia Artificial en tarefas de recompilación de intelixencia e para auxiliar na preparación das forzas armadas [de Estados Unidos] para “percibir e comprender, decidir e executar de forma máis rápida e eficiente”.
As conclusións do panel recollen “A promesa da IA, que unha máquina pode percibir, decidir e actuar máis rapidamente, nunha contorna máis complexa, con máis precisión que un ser humano, representa unha vantaxe competitiva en calquera campo. Será empregado con fins militares, por gobernos e grupos non estatais”.
Instaban por iso o goberno federal estadounidense a “adoptar a Intelixencia Artificial para cambiar a forma en que defendemos a Estados Unidos, disuadir aos adversarios, usar a intelixencia para darlle sentido ao mundo e loitar e gañar guerras”.
Pouco antes, o xeneral John Murray suxeriu no transcurso dun seminario en liña que o control humano total en sistemas de defensa baseados na intelixencia artificial podería non ser sempre posible. Murray facía esas declaracións en calidade de responsable do US Army Futures Command , sección das Forzas Armadas de Estados Unidos creada no ano 1973 e que conta con 26.000 empregados distribuídos por todo o mundo para “disuadir e, cando sexa necesario, derrotar aos adversarios actuais e futuros”
O xeneral Murray puxo como exemplo un posible ataque executado cun enxame de pequenos drons o cal, para ser neutralizado, requiriría unha resposta máis rápida que a que podería poñer en marcha un sistema controlado por humanos: “”Cando te defendes dun enxame de drons, é posible que se requira que un humano tome esa primeira decisión, pero non estou seguro de que ningún humano poida seguir o ritmo” afirmou o militar estadounidense.
Sobre estes sistemas, segundo un informe da ONU, en marzo de 2020, no contexto do conflito civil inducido no que está sumido Libia aconteceu un ataque contra persoas “por vehículos aéreos de combate non tripulados ou sistemas de armas autónomos letais como o STM Kargu-2″.O primeiro destas características do que hai constancia.
En relación a estas cuestións, a Axencia de Proxectos de Investigación Avanzada de Defensa de Estados Unidos (DARPA) concedeu unha subvención ao Instituto de Intelixencia Artificial da Universidade de Buffalo (EE.UU) dun montante total de 316.000 dólares para o estudo dos reflexos e movementos oculares de videoxogadores para mellorar a resposta a un hipotético ataque desas características. O obxectivo final do proxecto é o desenvolvemento dunha Intelixencia Artificial para dotar a un continxente de 250 robots terrestres e aéreos coa capacidade de “navegar de forma autónoma en contornas impredicibles”.
As Forzas Armadas de EE.UU. non son as únicas que están inmersas en proxectos para integrar os avances obtidos mediante o desenvolvemento da Intelixencia Artificial nos seus exércitos. Países como Irán, Reino Unido, Israel, Corea do Sur, Brasil ou Australia están aumentando esforzos neste sentido. China pola súa banda articulou no ano 2017 a súa estratexia de Intelixencia Artificial militar e Rusia espera que para o ano 2024 a súa IA “mellorase significativamente as súas posicións neste campo” e para o 2030 alcanzar “roles de liderado en certas áreas relacionadas coa IA”.
Un recoñecido experto en IA e antigo integrante de Terceiro Batallón de Rangers do Exército dos Estados Unidos Paul Scharre, autor de “Army of None: Autonomous Weapons and the Future of War” (2018) sinalaba en 2019: “A tecnoloxía de intelixencia artificial non está a ser impulsada polos militares, está a ser impulsada polas principais empresas tecnolóxicas fose do sector comercial”.
As empresas máis relevantes nese campo a nivel mundial son as estadounidenses Northrup Grumman Corporation, Boeing, a israelí Elbit System Ltd. e outras catro radicadas en territorio europeo: Kongsberg Gruppen (Noruega), Saab AB (Suecia), QinetiQ (Reino Unido) e Thales Group (Francia).
Stuart J. Russell, profesor de informática na Universidade de Berkeley en California EE.UU. destacou que, desde o punto de vista tecnolóxico, o desenvolvemento desas armas entrañaría menos dificultade que a produción de vehículos autónomos. En sentido similar, Toby Walsh, profesor de Intelixencia Artificial na Universidade de Nova Gales do Sur (Australia) apuntaba xa no ano 2019 que o acceso a estas tecnoloxías estaba “moito máis preto”.
O 21 de outubro de 2022 tivo lugar un fito histórico na Asemblea Xeral das Nacións Unidas. Por primeira vez na historia, un total de 70 Estados uníronse para emitir unha declaración conxunta sobre os sistemas de armas autónomas no que foi, ata a data a declaración do grupo interrexional máis grande xamais realizada durante as discusións da ONU sobre esta cuestión. Na declaración conxunta destacan os seguintes puntos:
“…a introdución de novas aplicacións tecnolóxicas, como as relacionadas coa autonomía nos sistemas de armas, tamén expón serias preocupacións desde as perspectivas humanitaria, legal, de seguridade, tecnolóxica e ética. Por tanto, vemos unha necesidade urxente de que a comunidade internacional profunde a súa comprensión e aborde estes riscos e desafíos mediante a adopción de regras e medidas apropiadas, como principios, boas prácticas, limitacións e restricións”. (…).
“…salientamos a necesidade de que os seres humanos exerzan un control, un xuízo e unha participación apropiados en relación co uso dos sistemas de armas para garantir que calquera uso cumpra co Dereito Internacional, en particular o Dereito Internacional Humanitario, e que os seres humanos permanezan responsables das decisións sobre o uso da forza”.
Epílogo
Estes sistemas de armamento letal empregan ou poden empregar o hardware que xa utilizan os drons armados coa condición de que, nestes últimos, a decisión final sobre o emprego da forza depende dun ser humano mentres que nun sistema autónomo letal correría a cargo dun algoritmo.
Un algoritmo, unha materialización da lenda da máxica combinación cabalística que insuflaba vida a aquel poderoso ser creado no ghetto de Praga, a posta en marcha dun sistema artificial de defensa que para defender pode ser empregado, paradoxalmente, como un mecanismo de ataque.
De todo iso parece transcender que a “creación do Gólem” é inevitable e as únicas dúbidas existentes soamente refírense á cuestión é quen logrará antes o “esconxuro” efectivo para poñelo ao seu servizo e, chegados a este punto quen será o primeiro en empregalo para a súa “defensa”.
BIBLIOGRAFÍA
- ALONSO LÓPEZ, Javier: “El Gólem: un hombre de barro para salvar a los judíos”, National Geographic Historia, 13 de agosto de 2019, dispoñible en https://historia.nationalgeographic.com.es/a/golem-hombre-barro-para-salvar-a-judios_14269
- ALTMANN, Jurgen y SAUER, Frank: “Autonomous Weapon Systems and Strategic Stability”, Survival, 59:5, 117-142, 17 de setembro de 2017, dispoñible en http://www.fcas-forum.eu/publications/Autonomous-Weapon-Systems-and-Strategic-Stability.pdf
- ARMY FUTURES COMMAND: “About AFC”, dispoñible en https://www.army.mil/futures#org-about
- ASAMBLEA GENERAL DE LAS NACIONES UNIDAS. Consejo de Derechos Humanos.23º período de sesiones Tema 3 de la agenda Promoción y protección de todos los derechos humanos, civiles, políticos, económicos, sociales y culturales, incluido el derecho al desarrollo: “Informe del Relator Especial sobre las ejecuciones extrajudiciales, sumarias o arbitrarias, Christof Heyns”, 09 de abril de 2013, dispoñible en https://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_sp.pdf
- ASARO, Peter: “On banning autonomous weapon systems: human rights, automation, and the dehumanization of lethal decisionmaking”, International Review of the Red Cross / Volume 94 / Issue 886 / Junio de 2012, pp 687 709, dispoñible en https://peterasaro.org/writing/Asaro%20IRRC.pdf
- BAÑOS BAJO, Pedro: “La encrucijada mundial. Un manual del mañana” Ed. ARIEL (2022) ISBN – 8432715149712
- BARTONOVA, Eva: “Robotics, a Traditional Czech Term”, Czechinvest, 03 de agosto de 2017, dispoñible en http://www.czech-research.com/robotics-traditional-czech-term/
- BORGES, Jorge Luis: “Poemas del Alma. El Golem”, dispoñible en https://www.poemas-del-alma.com/jorge-luis-borges-el-golem.htm
- BORGES, Jorge Luis: “El otro, el mismo”, Emece Editores (Argentina) 1996, ISBN 10: 9500416204 ISBN 13: 9789500416207.
- BOYNE, Walther J.: “The Remote Control Bombers”, Air Force Magazine, 01 de novembro de 2010, dispoñible en https://www.airforcemag.com/article/1110bombers/
- BUJEIRO, Verónica: “Están aquí para ayudarnos”, dispoñible en http://www.uam.mx/difusion/casadeltiempo/29_jun_2016/casa_del_tiempo_eV_num_29_35_38.pdf
- CATECISMO DE LA IGLESIA CATÓLICA, disponible en https://www.vatican.va/archive/catechism_sp/p1s2c1p6_sp.html
- CBS: “New Details On Robot That Killed Ambush Suspect”, 11 de xulio de 2016, dispoñible en https://www.cbsnews.com/texas/news/details-on-robot-that-killed-ambush-suspect/
- CHERNENKO, Elena y MARKOTKIN Nikolai: “Developing Artificial Intelligence in Russia: Objectives and Reality”, Carnegie Moscow Center, 05 de agosto de 2020, dispoñible en https://carnegie.ru/commentary/82422
- ČAPEK, Karel: “R.U.R.Robots Universales Rossum”. Libros Mablaz España (2017), ISBN 10: 8494667947ISBN 13: 9788494667947
- COX, Mathew: “To Defeat Enemy Drone Swarms, Troops May Have to Take a Back Seat to Machines, General Says”, 25 de xaneiro de 2021, disponible en https://www.military.com/daily-news/2021/01/25/defeat-enemy-drone-swarms-troops-may-have-take-back-seat-machines-general-says.html?utm_source=Sailthru&utm_medium=email&utm_campaign=EBB%2001.26.21&utm_term=Editorial%20-%20Early%20Bird%20Brief
- DEPARTMENT OF DEFENSE, UNITED STATES OF AMERICA: “Directive number 3000.09”, 21 de novembro de 2012, dispoñible en https://www.esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf
- DREIFUS, Claudia;“A conversation with…Toby Walsh, A.I. Expert, Is Racing to Stop the Killer Robots”, The New York Times,30 de julio de 2019, dispoñible en https://www.nytimes.com/2019/07/30/science/autonomous-weapons-artificial-intelligence.html
- FUTURE OF LIFE INSTITUTE: “Autonomous weapons: an open letter from ai & robotics researchers”, dispoñible en https://futureoflife.org/open-letter-autonomous-weapons/
- GOODALL, Sophie: “San Francisco police bans the use of ‘Robocop’ killer robots to fight crime after backlash”, 07 de decembro de 2022, dispoñible en https://www.mirror.co.uk/news/us-news/san-francisco-police-bans-use-28672390
- HOROWITZ, Michael C.,SCHWARTZ, Joshua A. y FUHRMANN, Matthew: “Who’s Prone to Drone? A Global Time-Series Analysis of Armed Uninhabited Aerial Vehicle Proliferation” 19 de xulio de 2019, dispoñible en https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3422313
- KESSEL, Jonah M.: “Killer Robots Aren’t Regulated. Yet”, The New York Times, 13 de decembro de 2019, dispoñible en https://www.nytimes.com/2019/12/13/technology/autonomous-weapons-video.html
- MARKET RESEARCH.COM : “Military Robots Market by Platform (Land, Marine, Airborne), Application (ISR, Search and Rescue, Combat Support, Transportation, EOD, Mine Clearance, Firefighting), Mode of Operation (Human Operated, Autonomous), and Region – Global Forecast to 2022”, diciembre de 2017, disponible en https://www.marketresearch.com/MarketsandMarkets-v3719/Military-Robots-Platform-Land-Marine-11117496/?progid=90749
- MARKET RESEARCH.COM: “About Us”, dispoñible en https://www.marketresearch.com/corporate/about
- MARKETS AND MARKETS: Military Robots Market by Type (Land, Marine, Airborne), Application, System, Deployment Method, Range, End User (Defense, Homeland Security), Mode of Operation, Propulsion and region – Global Forecast to 2025”, disponible en https://www.marketsandmarkets.com/Market-Reports/military-robots-market-245516013.html?gclid=Cj0KCQjwhr2FBhDbARIsACjwLo3OvnuUy-GVbiaG-h77myjAOTtUT-nuM3HNsdXA2TcfAFeCeiFyHp8aAk4IEALw_wcB
- MARKETS AND MARKETS: “About Us”, dispoñible en https://www.marketsandmarkets.com/AboutUs-8.html
- MC FADDEN, Christopher: “A Brief History of Military Robots Including Autonomous Systems”, 06 de novembro de 2018, dispoñible en https://interestingengineering.com/a-brief-history-of-military-robots-including-autonomous-systems
- MARTÍN VALENTÍN, Francisco: “Amen-Hotep hijo de Hapu: el pilar de Egipto”, Instituto de Estudios del Antiguo Egipto, dispoñible en https://www.institutoestudiosantiguoegipto.com/martin_valentin_Hapu.html
- MEYRINK, Gustav: “El Golem”, Biblioteca Virtual Universal, disponible en https://biblioteca.org.ar/libros/154162.pdf
- MILITARY HISTORY MATTERS: “Back to the Drawing Board – The Goliath Tracked Mine”, 12 de xulio de 2012, dispoñible en https://www.military-history.org/feature/world-war-2/back-to-the-drawing-board.htm
- MORENO CLAROS, Luís Fernando: “Adam Hochschild repasa cuatro años de matanzas”, El País, 23 de maio de 2014, dispoñible en https://elpais.com/cultura/2014/05/23/babelia/1400855453_398209.html
- NATIONAL SECURITY COMMISSION ON ARTIFICIAL INTELLIGENCE: “Draft final report. January 2021”, dispoñible en https://drive.google.com/file/d/1XT1-vygq8TNwP3I-ljMkP9_MqYh-ycAk/view
- ONG, Tong: “US Govt Panel: Don’t Ban AI-Powered Autonomous Weapons” The Defense Post, 28 de xaneiro de 2021, dispoñible en https://www.thedefensepost.com/2021/01/28/us-panel-ai-autonomous-weapons/
- ONG, Tong: “US General Suggests Human Control Over AI Not Always Possible” The Defense Post, 26 de enero de 2021, dispoñible en https://www.thedefensepost.com/2021/01/26/us-general-human-control-ai/
- OPENMIND BBVA: “Autómatas: los ancestros de los actuales robots”, 24 febreiro 2017, dispoñible en https://www.bbvaopenmind.com/tecnologia/robotica/automatas-los-ancestros-de-los-actuales-robots/
- WOODSON, Alex: “The Future of Artificial Intelligence, with Stuart J. Russell”, Carnegie Council for Ethics in International Affairs, 24 de febrero de 2020, dispoñible en https://www.carnegiecouncil.org/studio/multimedia/20200219-future-artificial-intelligence-stuart-russell
- SÁNCHEZ MARTÍN F.M., MILLÁN RODRÍGUEZ F., SALVADOR BAYARRI J., PALOU REDORTA J., RODRÍGUEZ ESCOVAR F., ESQUENA FERNÁNDEZ S., VILLAVICENCIO MAVRICH H. “Historia de la robótica: de Arquitas de Tarento al robot Da Vinci (Parte I)”, Actas Urol Esp vol.31 no.2 feb. 2007, dispoñible en https://scielo.isciii.es/scielo.php?script=sci_arttext&pid=S0210-48062007000200001
- SIENTIFIC AMERICAN: “Don’t Let Robots Pull the Trigger”, 01 de marzo de 2019, disponible en https://www.scientificamerican.com/article/dont-let-robots-pull-the-trigger/
- SCHARRE, Paul: “Army of None: Autonomous Weapons and the Future of War” W. W. Norton Company (EE.UU) ISBN: 978-0-393-35658-8
- SINGER, P.W.: “Drones Don’t Die – A History of Military Robotics”, disponible en https://www.historynet.com/drones-dont-die-a-history-of-military-robotics.htm
- SNEHESH Alex Philip: “China has become a major exporter of armed drones, Pakistan is among its 11 customers”, 23 de novembro de 2020, dispoñible en https://theprint.in/defence/china-has-become-a-major-exporter-of-armed-drones-pakistan-is-among-its-11-customers/549841/
- SRIVASTAVA, Smriti: “DARPA’s initiative to train military robots swarm using gamers’ brain”, 13 de febrero de 2020, dispoñible en https://www.analyticsinsight.net/darpas-initiative-train-military-robot-swarm-using-gamers-brain/
- STAMP, Jimmy: “Unmanned Drones Have Been Around Since World War I”, Smithsonian Magazine, 12 de febreiro de 2013, dispoñible en https://www.smithsonianmag.com/arts-culture/unmanned-drones-have-been-around-since-world-war-i-16055939/
- STOP KILLER ROBOTS: “70 states deliver joint statement on autonomous weapons systems at UN General Assembly”, dispoñible en https://www.stopkillerrobots.org/news/70-states-deliver-joint-statement-on-autonomous-weapons-systems-at-un-general-assembly/
- THE BUREAU OF INVESTIGATIVE JOURNALISM: “History of drone warfare”, dispoñible en https://www.thebureauinvestigates.com/explainers/history-of-drone-warfare
- TOP WAR: “Land torpedo Schneider Crocodile (France)”, 29 de agosto de 2017, dispoñible en https://en.topwar.ru/123648-suhoputnaya-torpeda-schneider-crocodile-franciya.html
- UN NEWS: “Autonomous weapons that kill must be banned, insists UN chief”, 25 marzo de 2019, dispoñible en https://news.un.org/en/story/2019/03/1035381
- UNITED NATIONS SECURITY COUNCIL: “ONU: “Letter dated 8 March 2021 from the Panel of Experts on Libya established pursuant to resolution 1973 (2011)addressed to the President of the Security Council”, dispoñible en https://digitallibrary.un.org/record/3905159?ln=es
- WEBER, Peter: “The rise and regulation of killer police robots”, 02 de diciembre de 2022, dispoñible en https://theweek.com/san-francisco/1018852/lethal-police-robots
- ZIMMER, Ben: “The Flight of ‘Drone’ From Bees to Planes”, The Wall Street Journal, 26 de xulio de 2013, dispoñible en https://www.wsj.com/articles/SB10001424127887324110404578625803736954968
