El futuro de la guerra de IA automatizada

Los sistemas militares automatizados no son un elemento disuasorio, simplemente forman parte de la carrera armamentística de la IA. Puede que EEUU ni siquiera sea el líder.

Hola Proactivo

Me gustaría que escucharas un tema serio. Puede que no estés de acuerdo con lo que voy a decir. Me he dado cuenta de que no hay muchas fuentes independientes que traten este importante tema. Tengo algunas reservas y preocupaciones importantes sobre cómo está procediendo el mundo en su uso de la IA.

El ensayo de hoy será un poco diferente de mi habitual. A medida que se entrecrucen el gasto en Defensa Nacional, los conflictos geopolíticos y los avances en IA Generativa, los ejércitos se automatizarán mucho más. No hay autoridad superior a lo que estos ejércitos creen que deben o deberían hacer, o a lo que se les ordena hacer.

A mediados de 2024, las ramas del ejército estadounidense no están frenando la IA generativa tras décadas de experimentos del Departamento de Defensa con tecnología de IA más amplia, sino que, por el contrario, están aumentando significativamente en 2024 dichos experimentos y contratos privados con startups militares de IA. Sigo de cerca este espacio, porque los resultados pueden ser catastróficos.

El riesgo existencial para la especie humana no es un mito, es un área de estudio real. Elon Musk no se acuesta escuchando podcasts sobre el fin de la civilización por diversión, existe cierta probabilidad de que ocurra realmente en los próximos 150 años. Hablemos del lado oscuro de la IA en la incertidumbre geopolítica en un mundo de hegemonías, imperios en declive y superpotencias tecnológicas. No es casualidad que haya llamado a mi Boletín Supremacía de la IA.

La guerra de Ucrania e Israel utiliza tecnología de IA facilitada por empresas estadounidenses, lo que significa que la intersección de la tecnología de los aviones no tripulados, las tácticas de guerra asimétrica y la IA está evolucionando más rápido de lo que nunca habíamos previsto. Luego están los aviones de combate automatizados. Las Fuerzas Aéreas estadounidenses tienen previsto poner en servicio más de 1.000 aviones pilotados por IA, el primero de los cuales entrará en funcionamiento en 2028, y probablemente sigan por detrás de China, que no ha informado sobre su Defensa Nacional y su gasto militar.

Incluso en 2022, según el think tank con sede en Washington D.C. American Enterprise Institute (AEI), el gasto en Defensa Nacional de China estaba justo por detrás del de Estados Unidos, con 711.000 millones de $$$

En una época de marcado excepcionalismo y creciente proteccionismo estadounidense, en la que se está gestando un nuevo nacionalismo, Estados Unidos hace desfilar un caza experimental F-16 naranja y blanco lanzado con un rugido familiar que es el sello distintivo de la potencia aérea estadounidense. Pero el combate aéreo que siguió no se parecía a ningún otro: Este F-16 estaba controlado por inteligencia artificial, no por un piloto humano.

• Debido a lo delicado de este tema y de lo que voy a decir, esto tiene que ir detrás de un muro de pago.

• El auge de la IA en el ejército es un mal presagio de lo que está por venir. ¿Está EE.UU. preparado para un conflicto global a gran escala y para una demostración práctica de la carrera armamentística de la IA?

• Se recomienda discreción al lector. ⚠️☠️🚨

El Secretario de las Fuerzas Aéreas de EEUU, Frank Kendall, voló en el X-62A VISTA el 2 de mayo de 2024.

A medida que se eleve la tecnología de los enjambres de drones, tendremos un mundo en el que la disuasión de la guerra sean máquinas asesinas controladas por IA. ¿Qué podría salir mal? Mientras gente como Palmer Luckey y Eric Schmidt contribuyen a llevar a Estados Unidos a la era automatizada de la guerra, el ejército estadounidense parece completamente descarriado en su enfoque para seguir el ritmo de China.

DARPA también cree que los submarinos automatizados son una buena idea. DARPA ha desvelado por fin más detalles de su misterioso submarino robotizado Manta Ray, con nuevas e impresionantes imágenes del prototipo de vehículo submarino sin tripulación (UUV) sometido a sus primeras pruebas de mar frente a la costa del sur de California.

Recuerdo que no hace mucho tiempo los científicos y académicos protestaban contra las máquinas asesinas de IA. La amenaza de una guerra caliente ha cambiado esas melodías en Estados Unidos. Atrás quedaron los días de cautela sobre a qué podría conducir la automatización de los sistemas militares mediante IA. La ambiciosa China y EEUU bajo la Administración Biden han transformado la incertidumbre de un conflicto global en algo casi inevitable.

Los centros de datos de IA alimentados por fusión nuclear de Sam Altman con inversiones de Microsoft del futuro podrían utilizarse para automatizar guerras y acabar con vidas humanas. Podríamos ver situaciones mucho peores que lo que ha ocurrido en Gaza. Donde el apartheid ha llevado a lo que algunos llaman una especie de genocidio. ¿En qué marco ético pensaron los militares estadounidenses que esto era una buena idea? No es un elemento disuasorio del conflicto, es un síntoma de una carrera armamentística de la IA. Y China gasta más que nosotros.

DARPA también tiene un tanque eléctrico con ojos brillantes.

El ágil y rápido tanque utiliza la plataforma base Textron M5, desarrollada y utilizada anteriormente en campañas de aprendizaje del Ejército de EE.UU. para los requisitos y la adquisición de vehículos de combate robotizados. Las nuevas pruebas incluyeron una ruta autónoma, que se probó para la movilidad y la demostración, incluyendo visualizaciones de nubes de puntos de sensores.

A mediados de abril de 2024, drones lanzados por Ucrania han atacado 18 refinerías de petróleo rusas con una capacidad combinada de 3,9 millones de barriles diarios este año. ¿Qué crees que haría un conflicto global de IA automatizada a nuestras refinerías de petróleo y cadenas de suministro? Nuestro precio del petróleo está relacionado con los niveles de inflación. Si Ucrania e Israel son conflictos aislados hasta cierto punto, ¿qué ocurriría en un conflicto global total, incluso mientras Irán, Rusia y China colaboran frenéticamente para fabricar drones aún mejores de los que es capaz Estados Unidos?

Así que en un futuro próximo esto es lo que parece la guerra. Habrá robots voladores de impresión 3D que puedan construir estructuras al vuelo como hacen las abejas y las avispas para la producción de enjambres de drones a escala totalmente autónoma. Habrá interfaces cerebro-ordenador para controlarlos, al menos al principio.

Esto no es un elemento disuasorio para China, pues va por delante en el juego. Esto es lo que parece una carrera armamentística de IA entre competidores estratégicos y ejércitos nacionales que cambia para siempre el futuro de la geopolítica. China dará prioridad a la tecnología armamentística emergente, a los sistemas militares automatizados y a la tecnología espacial por encima de todo lo demás. De hecho, ya llevan tiempo haciéndolo. No es casualidad que hayan invertido más en cosas como la computación cuántica.

Israel está desplegando nuevas y sofisticadas tecnologías de inteligencia artificial a gran escala en su ofensiva en Gaza. Estados Unidos ha estado utilizando literalmente Ucrania y Gaza para experimentos militares de su tecnología de IA y drones. Lo que están descubriendo es que Rusia, en asociación con Irán y China, son ahora más formidables que antes en su forma de innovar. El hecho de que el ejército estadounidense redoble su apuesta por esta tecnología no hace sino unir más al bloque oriental. La estrategia de asuntos exteriores de EEUU está empeorando las cosas. En cierto modo, EEUU quiere afirmar su supremacía en IA antes de empezar a perder esta batalla.

EE.UU. no es en absoluto el principal promotor ahora de la guerra impulsada por la IA. ¿Cuáles podrían ser las consecuencias históricas y generales de esto? Aparecerán de repente nuevos tipos de drones suicidas aún más ágiles, más evasivos, con nuevos tipos de tecnología de campo de fuerza. El mundo no está preparado para semejante impulso de la IA implicada en los sistemas militares.

Esto no es ciencia-ficción, esto está ocurriendo hoy. Los EE.UU. están completamente descarrilados en sus innovaciones ahora. En qué se ha convertido Microsoft con OpenAI en su paranoia de que Google iba por delante en IA. ¿En qué se convertirán los EEUU en su paranoia de China con lo mismo? La IA generativa está conduciendo a la aceleración de una carrera armamentística de la IA en el frente militar, de defensa nacional, de ciberseguridad y de diplomacia exterior e injerencia extranjera. China y Francia publicaron el lunes a la hora de París una declaración conjunta sobre inteligencia artificial (IA) y gobernanza mundial durante la visita de Estado del presidente chino Xi Jinping a Francia. ¿Qué puede significar esto para Europa?

Una nueva carrera armamentística de IA está tomando forma con la tecnología de enjambre de drones

Cada año, el ejército chino es más capaz, hasta que llega a un punto crítico en el que cree que puede desafiar y despejar algunas de las bases estadounidenses de su región en el Mar de China Meridional y sus alrededores. DARPA tendrá que depender de empresas privadas y de startups militares de IA bien financiadas, sólo para mantenerse. Mientras tanto, las Fuerzas Aéreas estadounidenses no están en buena forma. Confiad en nosotros para la IA", dice el ejército estadounidense. Pero, ¿lo hacemos, podemos permitírnoslo? ¿Tenemos siquiera elección?

EE.UU. es un líder mundial cuando se trata de elaborar doctrina en materia de armamento autónomo, pero EE.UU. es uno de los principales centros donde las limitaciones éticas de la tecnología parecen inexistentes. Estados Unidos está tan preocupado por la amenaza china, ¿qué niveles de integración de la IA podrían intentar manifestar en la próxima fase del futuro del ejército? Sin embargo, todo esto era bastante previsible, y analistas como yo llevamos años advirtiéndolo.

En resumen, a medida que se intensifica su rivalidad, los planificadores militares estadounidenses y chinos se están preparando para un nuevo tipo de guerra en la que escuadrones de drones aéreos y marítimos equipados con inteligencia artificial trabajen juntos como un enjambre de abejas para arrollar al enemigo. ¿Qué daños e impactos económicos para otros países y los principales actores podría tener esto en el futuro de los conflictos geopolíticos?

El líder chino en drones DJI también tiene una diana en la espalda. Con toda seguridad, los drones de DJI se prohibirán pronto en EEUU. El Departamento del Tesoro estadounidense incluyó posteriormente a DJI en su lista del Complejo Militar-Industrial Chino debido a los informes de que sus drones se utilizan para vigilar a la minoría musulmana uigur de China, mientras que el Departamento de Defensa incluyó a DJI en su propia lista negra en 2022. Ahora, en 2024, no es ningún secreto que China ha estado apoyando económicamente a Rusia en su invasión de Ucrania, en el comercio, en la compra de petróleo y de otras formas.

Estados Unidos quiere mantener la supremacía de la IA en lo que respecta a su ejército. ¿Pero a qué precio? Incluso OpenAI colabora con el Pentágono y el complejo de Defensa Nacional. Eso significa que Microsoft no se enfrentará pronto a un escrutinio antimonopolio en su país, ya que se ha vinculado demasiado con el Pentágono en cuestiones de ciberseguridad. El capitalismo monopolista está ahora enredado con la Defensa Nacional en EEUU, cambiando la trayectoria de la nación. Cosas como "capitalismo de libre mercado" y "democracia representativa", ni siquiera significan lo que solían significar.

Los aviones de combate chinos controlados por IA llevan muchos años en desarrollo. Estados Unidos llega muy tarde a la fiesta. UU, Australia, Japón, Corea del Sur y Taiwán contra China en el Pacífico sobre bases estadounidenses parece ahora un acontecimiento militar bastante probable en un futuro no tan lejano. A medida que más naciones se ven obligadas a elegir con qué bando alinearse o cómo permanecer neutrales, un conflicto mundial parece más probable que la Guerra Fría debido al número de Naciones que tienen intereses en juego en el resultado.

La carrera por producir drones baratos que tengan el mayor impacto en las guerras de desgaste significa ahora que la IA es más importante que nunca. Incluyendo la nueva tecnología de drones, las Fuerzas Aéreas de EEUU están apostando fuerte por la IA, invirtiendo en una flota de 1.000 drones no tripulados para realizar maniobras más arriesgadas que las que son posibles con naves tripuladas, y el primero estará operativo en 2028. Los robots están llegando, y son bastante buenos en la guerra.

Pero hay un problema:

La propagación incontrolada de la tecnología de enjambre "podría provocar más inestabilidad y conflictos en todo el mundo", dijo Margarita Konaev, analista del Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. El problema es que cuando pensamos que no tenemos elección para no hacer estas cosas, vamos por un camino en el que la IA sí se convierte en una amenaza existencial, sólo que no del tipo del que hemos estado hablando mucho en la sociedad. Microsoft y OpenAI pueden lanzar cosas como un Fondo de Resiliencia Social, pero han contribuido directamente a esta situación. Están implicadas en el complejo industrial militar en torno a la IA ¡directamente!

Los Estados nación podrían competir con las tecnologías de IA en una guerra perjudicial para el orden mundial, la paz y la estabilidad, que afectará a la economía mundial y obligará a los países a elegir bando, con posibles resultados catastróficos. Esto no es hipotético, esto está ocurriendo, este es el camino que EEUU y China han decidido seguir. Ambos se sienten obligados a entrar en esa madriguera. No hay duda de que Estados Unidos quiere mantener aquí su posición como única superpotencia mundial. ¿Hasta dónde llegarán para lograr su objetivo de eliminar a China como competidor estratégico? No se trata sólo de Taiwán.

La IA supone uno de los mayores avances en la aviación militar desde la introducción del sigilo a principios de los 90, y las Fuerzas Aéreas se han inclinado agresivamente por ella. La cuestión es que los aviones de guerra no tripulados o los enjambres de drones son sólo el principio de esta era de la IA en las operaciones militares. Incluso la posibilidad de conflictos militares y escaramuzas en caliente significa que la innovación de la IA en la automatización militar se convertirá en una prioridad para los presupuestos y gastos de Defensa Nacional. En todas partes, de Rusia a Israel, de Alemania a Japón, no sólo en China o Estados Unidos.

Esto dará paso a un mundo diferente y, quizás, más peligroso. Como líderes indiscutibles en este campo, Washington y Pekín están mejor equipados para dar ejemplo poniendo límites a los usos militares de los enjambres de drones. Pero la importancia de Taiwán y la creciente oposición a China, hacen que esta posibilidad sea ahora muy escasa. No existe una verdadera "Inteligencia Artificial Responsable" en lo que se refiere a la rivalidad nacional cuando hay tanto en juego. Para China, está en juego el futuro de su economía, tras las aplastantes prohibiciones comerciales, los aranceles y la presión política de Estados Unidos y sus aliados. Con el máximo dirigente chino cortejando a Europa a principios de mayo, no puedo evitar sentir que éste es el amanecer de una nueva era.

Ha habido una marcada escalada de la tensión geopolítica con Estados Unidos cada vez más asertivo frente a China desde la Pandemia. Entonces, ¿dónde estamos hoy en 2024? Un estudio de Georgetown de 2023 sobre el gasto militar relacionado con la IA descubrió que más de un tercio de los contratos conocidos emitidos por los servicios militares estadounidenses y chinos durante ocho meses en 2020 eran para sistemas inteligentes no tripulados. Los programas de armas secretas de China tienen capacidades desconocidas. La llamativa startup de drones Anduril también ha establecido una oficina en Australia, donde firmó un contrato de 100 millones de dólares con la Marina Real Australiana.

¿Qué grado de implicación supones que tenía Palantir en los sistemas de IA que incluso elegían dónde bombardear en Gaza? El ejército israelí ha utilizado inteligencia artificial (IA) para identificar más de 37.000 objetivos potenciales en Gaza, según fuentes de inteligencia. Denominada Lavender, la base de datos impulsada por IA procesa enormes cantidades de datos para localizar a personas supuestamente vinculadas a Hamás o a la Yihad Islámica Palestina. El sistema sólo tuvo una precisión del 90%. Ya se están produciendo abusos de la tecnología de IA sin demasiadas protestas.

Los aviones automatizados y los enjambres de drones no son un elemento disuasorio, sino que forman parte de una competición tecnológica. China ha tenido cierto grado de sistemas automatizados desde hace muchos años. China también ha estado experimentando con armas hipersónicas y tecnología de campos de fuerza. La tecnología de enjambre de drones forma parte de la carrera armamentística de la IA. El Pentágono solicitó ofertas en enero para pequeños "interceptores" marítimos no tripulados. Las especificaciones reflejan la ambición de los militares: Los drones deben ser capaces de transitar cientos de millas de "espacio acuático disputado", trabajar en grupo en aguas sin GPS, transportar cargas útiles de 1.000 libras, atacar naves hostiles a 40 mph y ejecutar "comportamientos autónomos complejos" para adaptarse a las tácticas evasivas de un objetivo.

Aunque públicamente pueda parecer que Estados Unidos tiene muchos aliados occidentales entre las naciones europeas, por ejemplo, o como Canadá, Israel, Japón, el Reino Unido y Australia, China ha entablado relaciones con la mayor parte de todo el mundo en desarrollo y el sur global. Puede que los medios de comunicación estadounidenses no estén describiendo el bloque oriental y sus relaciones de forma muy empírica. Ciertamente, los aliados reales de China van más allá de naciones renegadas como Rusia, Irán o Corea del Norte. Muchos de los que viven en Estados Unidos no comprenden del todo el sentimiento del mundo en este conflicto.

Europa sigue dependiendo de China y China ha avanzado en el sur global en lugares como Sudamérica y África. Muchas de estas naciones ven a China como su benefactor económico. Tras el comportamiento de Israel en Gaza, puede que Estados Unidos ya ni siquiera sea visto como los "buenos" en muchos países de todo el mundo. Más drones, un duro invierno demográfico que se aproxima rápidamente, que incluye el rápido envejecimiento de la población y la disminución de las tasas de fertilidad, y muchos otros retos para la civilización parecen estar por llegar y no sólo un tiempo más cálido y más anomalías del cambio climático. La carrera armamentística de la IA es una parte sorprendentemente importante de este futuro incierto al que todos nos enfrentamos y de las máquinas asesinas automatizadas que lo acompañarán. Ni siquiera estamos hablando de ello.

Justo antes de morir el año pasado, el ex secretario de Estado estadounidense Henry Kissinger instó a Pekín y Washington a trabajar juntos para desalentar la proliferación de armas de IA. Esos "buenos viejos amigos" de Pekín se han ido. Se avecinan tiempos más oscuros.

Hace un año, el director de la CIA, William Burns, dijo que el líder del Partido Comunista Chino, Xi Jinping, había dado instrucciones a su ejército para "estar preparado en 2027" para invadir. Eso es dentro de tres años. La frenética acumulación de capacidades militares automatizadas por parte de Estados Unidos podría dar a China pocas opciones, salvo actuar antes de que Estados Unidos se ponga al día. La inevitabilidad de los enjambres de drones significa que la supremacía de la IA para el Pentágono no es un elemento disuasorio, sino un incentivo para que China actúe en el momento que considere más oportuno para lograr sus objetivos. Probablemente utilizará la inteligencia artificial para determinar ese momento.

Viviendo ahora en Taiwán,

Adam.

Hasta la proxima