En Army of None, una guía de campo para el próximo mundo de guerra autónoma


El complejo industrial militar de Silicon Valley está cada vez más en la mira de los ingenieros de inteligencia artificial. Hace algunas semanas, se informó que Google se estaba retractando de un contrato del Pentágono en torno al Proyecto Maven, que utilizaría el reconocimiento de imágenes para evaluar automáticamente las fotos. A principios de este año, los investigadores de AI de todo el mundo se unieron a las peticiones que piden el boicot de cualquier investigación que pueda utilizarse en la guerra autónoma.

Para Paul Scharre, sin embargo, tales peticiones apenas tocan la profunda complejidad, los matices y la ambigüedad que harán de la evaluación de las armas autónomas una gran preocupación para los planificadores de defensa en este siglo. En Army of None, Scharre argumenta que los desafíos en torno a las definiciones de estas máquinas requerirán un enorme esfuerzo para trabajar entre naciones, y mucho menos manejar sus efectos. Es una mirada aleccionadora, reflexiva, aunque a veces prolongada, de este tema crítico.

Scharre debería saber. Un ex Ranger del ejército, se unió al Pentágono que trabaja en la Oficina del Secretario de Defensa, donde desarrolló algunas de las primeras políticas del Departamento de Defensa en materia de autonomía. Dejó en 2013, se unió al centro de estudios basado en DC Center for a New American Security, donde dirige un centro de tecnología y seguridad nacional. En resumen, ha pasado aproximadamente una década en esta tecnología emergente, y su experiencia se ve claramente en todo el libro.

El primer desafío que contradice estas peticiones sobre armas autónomas es que estos sistemas ya existen y ya están desplegados en el campo. Tecnologías como el sistema de combate Aegis, el misil antirradiación de alta velocidad (HARM) y la arpía ya incluyen funciones autónomas sofisticadas. Como escribe Scharre, "El humano que lanza la Arpía decide destruir alguna radares enemigos dentro de un área general en el espacio y el tiempo, pero la Arpía misma elige el radar específico que destruye. "El arma puede vagar durante 2,5 horas mientras determina un objetivo con sus sensores: ¿es autónomo?

Scharre utiliza repetidamente el bucle OODA del ejército (para observar, orientar, decidir y actuar) como un marco para determinar el nivel de autonomía de una máquina determinada. Los seres humanos pueden estar "en el circuito", donde determinan las acciones de la máquina, "en el circuito" donde tienen control, pero la máquina está trabajando principalmente de forma independiente, y "fuera del circuito" cuando las máquinas son completamente independientes de la decisión humana -fabricación.

El marco ayuda a despejar la confusión entre los diferentes sistemas, pero no es suficiente. Cuando las máquinas luchan contra las máquinas, por ejemplo, la velocidad de la batalla puede llegar a ser tan grande que los humanos pueden hacer más daño que intervenir. Millones de ciclos del bucle OODA podrían ser procesados ​​por un dron antes de que un humano registre lo que está sucediendo en el campo de batalla. Un humano fuera del circuito, por lo tanto, bien podría conducir a resultados más seguros. Es exactamente este tipo de paradojas lo que hace que el tema sea tan difícil de analizar.

Además de las paradojas, las limitaciones también son un gran tema en el libro. La velocidad es una, y el precio del equipo militar es otro. Los misiles tontos son baratos, y la adición de automatización se ha sumado constantemente al precio del hardware. Como señala Scharre, "los misiles modernos pueden costar más de un millón de dólares cada uno". Como cuestión práctica, los militares querrán saber que, de hecho, hay un objetivo enemigo válido en el área antes de usar un arma costosa ".

Otra restricción es simplemente cultura. El autor escribe: "Existe una resistencia cultural intensa dentro del ejército de los EE. UU. Para entregar trabajos a sistemas deshabitados". A diferencia de la automatización en la fuerza de trabajo civil, las personas en el poder quieren ubicar a los humanos de carne y hueso en las tareas más complejas. Estas limitaciones importan, porque Scharre prevé una carrera de armamentos clásica alrededor de estas armas mientras docenas de países persiguen estas máquinas.

Los seres humanos "en el circuito" pueden ser el valor predeterminado hoy, pero ¿por cuánto tiempo?

En un nivel superior, aproximadamente un tercio del libro está dedicado a la historia de la automatización, IA (generalizada) y el potencial de autonomía, temas que deberían ser familiares para cualquier lector habitual de Vende Todito. Otro tercio del libro es una meditación sobre los desafíos de la tecnología desde una perspectiva estratégica y de doble uso, así como el dudoso camino hacia una prohibición internacional.

Sin embargo, lo que encontré más valioso en el libro fue el capítulo sobre ética, alojado bastante tarde en la narración del libro. Scharre hace un excelente trabajo cubriendo el terreno de las diversas escuelas de pensamiento en torno a la ética de la guerra autónoma, y ​​cómo se cruzan y compiten. Analiza y cita extensamente a Ron Arkin, un robotista que ha dedicado mucho tiempo a pensar en la autonomía en la guerra. Arkin le dice a Scharre que "Ponemos demasiada fe en los combatientes humanos", y argumenta que las armas autónomas podrían teóricamente ser programadas para nunca cometer un crimen de guerra a diferencia de los humanos. Otros activistas, como Jody Williams, creen que solo una prohibición integral puede garantizar que tales armas nunca se desarrollen en primer lugar.

Scharre lamenta que muchas de estas conversaciones no tengan en cuenta las posiciones estratégicas de los militares. Señala que los debates internacionales sobre prohibiciones están dirigidos por ONG y no por estados nacionales, mientras que todos los ejemplos de prohibiciones exitosas han sido al revés.

Otro desafío es simplemente que el activismo contra la guerra y el activismo armamentístico antiautónomo se combinan cada vez más. Scharre escribe: "Uno de los desafíos al sopesar la ética de las armas autónomas es desentrañar qué críticas son sobre armas autónomas y cuáles son realmente acerca de la guerra". Citando a Sherman, quien marchó a través del sur de Estados Unidos en la Guerra Civil en un saqueo agresivo, el autor recuerda al lector que "la guerra es un infierno" y que los militares no eligen las armas en el vacío, sino relativamente en comparación con otras herramientas en sus arsenales y los de sus competidores.

El libro es un compendio de los diversos temas relacionados con las armas autónomas, aunque adolece un poco del clásico problema de ser demasiado extenso en algunos temas (enjambres de drones) al tiempo que ofrece información limitada sobre otros (negociaciones de control de armas). El libro también se ve empañado a veces por errores, como "nuevas reglas de interacción" que de otra manera restan valor a un texto directo y activo. Una edición más ajustada habría ayudado en ambos casos. Dada la naturaleza incipiente del tema, el libro funciona como una visión general, aunque no presenta una narración obstinada sobre dónde debería ir la autonomía y el ejército en el futuro, una brecha insatisfactoria dada la extensa y singular experiencia del autor sobre el tema.

Dicho todo esto, Army of None es una guía única para los debates, los desafíos y, sí, las oportunidades que pueden surgir de la guerra autónoma. Scharre finaliza exactamente con la nota correcta, recordándonos que, en última instancia, todas estas máquinas son propiedad de nosotros, y lo que elegimos construir está bajo nuestro control. "El mundo que estamos creando es uno que tendrá máquinas inteligentes en él, pero no es para ellos". Es un mundo para nosotros ". Debemos continuar participando, y hacer peticiones, y debatir, pero siempre con una visión del futuro que queremos realizar.



Vende Todito