¿Es OpenAI una herramienta de vigilancia IA?

Una startup de IA generacional colabora cada vez más con el Pentágono. Qué podría salir mal.

Hola a todos

Me preocupaba bastante que OpenAI estuviera trabajando con el Pentágono. Afirmaban que era en ciberseguridad. OpenAI está en camino de obtener unos ingresos anuales de 3.400 millones de dólares a finales de 2024, lo que equivale aproximadamente a 4 veces los de su rival Anthropic en términos de ingresos anuales recurrentes previstos.

ChatGPT es como la última herramienta de vigilancia nacional, ¿qué crees que la NSA considera ciberseguridad? Las filtraciones de datosde Microsoft y ahora de Snowflakete hacen cuestionarte lo buena que podría ser la propia seguridad de OpenAI. Tras las filtraciones internas, ¿por qué contrató OpenAI al general retirado del ejército estadounidense Paul M. Nakasone para su consejo de administración?

Si OpenAI trabaja con el Pentágono en IA militar, ¿no podría esto aumentar las tensiones con Rusia y China? Nakasone fue también el dirigente que más tiempo estuvo al mando del Mando Cibernético de Estados Unidos y jefe del Servicio Central de Seguridad. Sabemos que la Ciberseguridad es un gran negocio, especialmente en tiempos de conflictos geopolíticos, robos de propiedad intelectual y suplantación de identidad que podrían poner en peligro los secretos de OpenAI sobre tecnologías de IA de vanguardia y algoritmos fronterizos.

Nakasone, que fue propuesto para dirigir la NSA por el ex presidente Donald Trump, dirigió la agencia desde 2018 hasta febrero de este año. OpenAI afirma que Paul M. Nakasone aporta al Consejo de Administración de OpenAI una experiencia en ciberseguridad de talla mundial, ayudándoles a cumplir nuestra misión protegiendo nuestros sistemas de los cada vez más sofisticados malos actores. Pero, ¿y si OpenAI es el malhechor? Edward Snowden parece pensar que es un mal presagio.

Nakasone también se une al nuevo comité de seguridad y protección de OpenAI, un grupo que se supone que asesora al consejo en pleno sobre "decisiones críticas de seguridad y protección" para sus proyectos y operaciones. Se ha citado a un antiguo empleado de OpenAI diciendo que China sólo lleva tres meses de retraso con respecto a EE.UU. ¿Cómo puede ser? Probablemente significa que han llevado a cabo un agresivo robo de IP y que tienen personas con información privilegiada o informantes en la empresa.

"Los conocimientos del Sr. Nakasone también contribuirán a los esfuerzos de OpenAI por comprender mejor cómo puede utilizarse la IA para reforzar la ciberseguridad detectando y respondiendo rápidamente a las amenazas a la ciberseguridad", afirmó OpenAI en una entrada de su blog. Sin embargo, con este movimiento OpenAI está diciendo que está abierta a trabajar con el ejército estadounidense en la implementación de una revisión de IA Generativa de sus sistemas heredados.

Las recientes salidas relacionadas con la seguridad en OpenAI incluyen a todo su equipo de Superalineación. El supuesto equipo al que preocupaba que la IA se volviera demasiado inteligente para controlarla. Muchos, incluido François Chollet, han cuestionado también la definición de AGI de OpenAI. Pero, ¿qué haría la versión de AGI de OpenAI a las capacidades militares de Estados Unidos, que ahora cuenta con aviones de combate autónomos de IA? También se avecinanenjambres de drones con IA. ¿Qué espera conseguir Estados Unidos utilizando las herramientas de OpenAI? No será una disuasión militar, sino que pondrá más énfasis en la carrera armamentística de la IA para el gobierno central chino de Pekín.

Normalmente, cuando la NSA dice "ciberseguridad", también habla de vigilancia interna. ChatGPT parece un objetivo principal de recolección de datos para los tipos de la NSA. Y aquí es donde me tomo la "advertencia" de Snowden un poco más en serio.

Sea lo que sea en lo que se convierta OpenAI (en alianza con el Pentágono), no será bueno para la estabilidad geopolítica. Lo que Estados Unidos está apoyando con una resolución "férrea" a las acciones de Israel en Gaza, no sólo está mal, sino que es una crisis humanitaria y probablemente crímenes de guerra, todo ello utilizando armas y fondos estadounidenses. No hace falta que te diga que el camino que ha tomado Estados Unidos aquí no es bueno.

OpenAI está contratando a tipos corporativos, mientras nuestra confianza en sus sistemas sigue cayendo en picado. Entre la startup de aviones no tripulados con IA de Eric Schmidt y la entrada de OpenAI en los contratos militares, esto establece una óptica muy pobre sobre cómo se utilizará la IA en la guerra y el conflicto global. Silicon Valley se ha vuelto comando. Estados Unidos está aprovechando su clase elitista, sus multimillonarios y sus llamativas empresas tecnológicas para alcanzar objetivos nacionalistas y una agenda de excepcionalismo estadounidense. Lo más inquietante será cómo la OpenAI sacará provecho del populismo y de esta última era de neonacionalismo.

Está claro que EEUU luchará contra China si hubiera igualdad de condiciones de capitalismo de libre mercado en sentido global. Sin embargo, las prohibiciones de chips de IA y los aranceles a los VE contra China no cambian en lo que se ha convertido Estados Unidos. OpenAI es claramente una empresa alineada con un Estado en la sombra y con todo lo que se opone a la meritocracia real. La única razón por la que OpenAI está siquiera en esta posición es la financiación de 13.000 millones de dólares de la empresa más valiosa del mundo, Microsoft. En días en los que Apple no es la empresa más valiosa debido a su propia asociación con el fabricante de ChatGPT. ¿A esto hemos llegado?

¿Puedo confiar a personas como Nakasone, Altman, Adam D'Angelo o Larry Summers la ciberseguridad de Estados Unidos y el destino del Capitalismo de Vigilancia? El consejo de OpenAI ejerce ahora mucho poder, a pesar de que OpenAI no tenía que competir como la mayoría de las startups. Sabemos que, en los últimos años, el gobierno y el pentágono de Estados Unidos dependen cada vez más de BigTech estadounidenses como Microsoft y Amazon. Pero, ¿a dónde nos lleva esto?

OpenAI acaba de contratar al tipo que estaba a cargo de la vigilancia masiva en la NSA. Subcontrató el espionaje ilegal masivo contra los estadounidenses a agencias de espionaje británicas para eludir la ley estadounidense. Les dio acceso ilimitado de espionaje a las redes estadounidenses. Esto dice todo lo que necesitas saber sobre OpenAI. - Kim Dotcom

¿Cómo hace este movimiento que confíe más en OpenAI y no menos? Estoy abierto a sugerencias, cuando la carrera de la IA Generativa parece totalmente controlada por el capitalismo Monopolista y el belicismo sobre China debido a la incapacidad de Estados Unidos para mantenerse al día en las fronteras del futuro de la tecnología, la fabricación de alta tecnología y el robo desenfrenado de PI por parte de China. ¿Se supone que debo pensar que Sam Altman va a ser un buen tipo en esta historia?

Sólo hay una razón para nombrar a un antiguo director de la NSA para tu consejo. Se trata de una traición deliberada y calculada a los derechos de todas las personas de la Tierra. Estáis advertidos. - Edward Snowden

No estoy gritando a los cuatro vientos como Snowden, pero mi escepticismo sobre lo que es OpenAI y en lo que se convertirá de perjudicial sigue creciendo. Para mí, la seguridad de la IA tiene que ver principalmente con la escalada de conflictos geopolíticos, y la trayectoria de OpenAI parece una mala decisión. La carrera hacia la supremacía de la IA realmente importa cuando se trata de la probabilidad de extinción de nuestra especie. La variable clave no son las capacidades de la IA, sino cómo se utilizará la herramienta. La IA en aplicaciones militares es, con mucho, la más peligrosa de todas ellas, porque señalan cambios de poder donde no existe una autoridad superior. Un retorno al nacionalismo bárbaro y una IA que inventa tecnología militar con la que hoy sólo podemos soñar.

No importa cuántos ingresos obtenga OpenAI, el coste para la humanidad podría ser bastante alto. El beneficio y el excepcionalismo estadounidense podrían llevar a OpenAI a avivar niveles de desconfianza en BigTech que no hemos visto en nuestra generación, y todo apunta en esa dirección.

La experiencia sin parangón del general Nakasone es una señal de que OpenAI podría convertirse en el próximo Palantir del sector de la Defensa Nacional. OpenAI se está preparando para conseguir mayores contratos con el Pentágono y otras agencias de Defensa Nacional de potencias aliadas. Todo en una carrera por mejorar nuestros sistemas militares con la IA Generativa y lo que sea que la cuasi IA de OpenAI pueda llegar a ser en la próxima década.

¿Crees que en esta escalada geopolítica OpenAI tiene en cuenta nuestros mejores intereses? La ética y el carácter de Sam Altman me plantean serias dudas. En un mundo con una crisis de liderazgo y el advenimiento de nuevas tecnologías, no es el momento de traicionar la confianza de los ciudadanos globales con una nueva herramienta de recolección de datos. Desde la pandemia, Silicon Valley se ha fortalecido de tal manera que casi garantiza que las generaciones futuras vivirán en una cuasi-distopía en la que el contrato social básico de la democracia y el capitalismo sigue resquebrajándose.

Para mí, OpenAI es un símbolo de que esto está ocurriendo ante nuestros ojos. Una empresa que sigue contratando grupos de presión y relaciones públicas por docenas. En un juego de eludir demandas y construir AGI mientras han cambiado la portería de lo que significa el término para una generación de bros de la IA que ni siquiera lo saben.

En el mundo de la modificación del comportamiento, no sólo no quiero que mi Siri tenga el botín de ChatGPT, sino que creo que hay mejores alternativas a ChatGPT que se toman la confianza y la seguridad de la IA mucho más en serio. Predigo que al final Apple optará por asociarse con Anthropic porque tienen un historial de priorizar la confianza, la seguridad, la privacidad y la alineación de la IA en sus productos. OpenAI se ha comportado de una forma nefasta con la que personalmente no me siento cómodo.

OpenAI ha hecho caso omiso de los malos momentos de relaciones públicas, en favor de la velocidad de su ansia de poder. Siempre eligiendo el truco publicitario y el drama por lo que es correcto o bueno. Las caras de culpabilidad de Mira Murati en sus entrevistas me dicen mucho. Está claro que algo no va bien en OpenAI.

La fama de ChatGPT ha hecho algo irrevocable en el ADN de esta empresa y los multimillonarios que la respaldan tienen su propia agenda. Las advertencias de Snowden sobre las opciones de contratación de OpenAI y la selección de los miembros del Consejo son sólo la punta del iceberg. Hay más banderas rojas en esta empresa que en cualquier otra startup de IA que haya visto.

El historial de agitación interna y luchas de poder de la empresa apuntan a otra reencarnación distópica de la codicia y los juegos de poder, sinónimos de las poderosas startups de "el ganador se lo lleva todo" de Silicon Valley. La mayoría de las declaraciones de Sam Altman me incomodan. Parece literalmente como si GPT-4 le diera sus respuestas. Tengo la misma impresión con el niño-héroe CEO de Scale AI. Un CEO totalmente falso, que intenta parecer inteligente y carismático.

La trayectoria de OpenAI y su implicación en el ejército estadounidense deben estar haciendo saltar las alarmas en China y en la propia élite nacionalista china.

La mayor alineación de OpenAI con el Pentágono es la mayor escalada de posturas de supremacía de la IA que hemos visto en bastante tiempo. Incluso mientras Silicon Valley ha fabricado con enormes rondas de financiación un arsenal de tecnología militar profunda en los últimos años, desde que la amenaza de que China invada realmente Taiwán se está haciendo más tangible. Lejos de ser un elemento disuasorio, esto obliga a China a destinar aún más fondos a sus presupuestos de Defensa Nacional y a su propia implementación de tecnologías de IA Generativa en armamento militar de vanguardia y, lo que es más importante, en capacidades ofensivas de ciberseguridad.

Esto pone a los ciudadanos estadounidenses y al mundo en grave peligro, tanto desde el punto de vista económico como de la seguridad. Cualquier conflicto mundial causaría estragos en las cadenas de suministro, la inflación y otros parámetros de la deuda de los consumidores y la deuda nacional. Al hacer esto, OpenAI nos está acercando un paso más a esa realidad. En el proceso, probablemente reforzará el Capitalismo de Vigilancia estadounidense sobre sus propios ciudadanos. Dirán que en realidad se trata de identificar los robos de propiedad intelectual chinos y a posibles espías. Que, por cierto, están por todas partes porque las universidades estadounidenses están llenas de investigadores chinos de IA con talento, que literalmente dominan la investigación, los artículos y el espacio de la IA.

OpenAI es ahora cómplice de lo que ocurra. Mientras tanto, OpenAI está haciendo declaraciones de relaciones públicas que la posicionan como un actor de la IA para el Bien, algo que Microsoft es famosa por hacer también.

"....Creemos que la IA tiene potencial para aportar beneficios significativos en este ámbito a muchas instituciones que con frecuencia son blanco de ciberataques, como hospitales, escuelas e instituciones financieras." - Blog de OpenAI

Teniendo en cuenta cómo se utiliza probablemente ChatGPT para la vigilancia tipo NSA, y cómo participarán ahora en el conflicto que se avecina, incluso cuando su propia seguridad y ciberseguridad sea probablemente subestándar, todo esto da para un especial de Amazon Prime Video. OpenAI no sólo no tiene nada que ver con la ciberseguridad, sino que sus productos y herramientas tienen un increíble potencial de recopilación de datos y violación de la privacidad. Hasta el punto de que empresas e instituciones gubernamentales llevan tiempo prohibiendo el uso de ChatGPT.

Nadie debería confiar a ChatGPT ningún dato sensible en absoluto, incluidos los datos personales que podrían utilizarse en esquemas de phishing en el futuro. La idea de que OpenAI se involucre en tecnología militar es abominable y espantosa. Está claro que esta empresa no tiene una brújula ética o moral. Todo, desde sus tratos con Microsoft hasta con Apple, debería someterse a un escrutinio antimonopolio.

De hecho, el Departamento de Justicia (DOJ) y la Comisión Federal de Comercio (FTC) acordaron repartirse la responsabilidad de investigar a tres grandes actores de la industria de la inteligencia artificial. Pero, ¿existen ya la justicia y el Estado de Derecho en BigTech? Es una pregunta seria.

Si se considera que una empresa es vital para el Pentágono y el sector de la Defensa Nacional, ¿realmente crees que va a enfrentarse a un verdadero escrutinio por parte del Gobierno? El DOJ dirigirá las investigaciones sobre Nvidia, mientras que la FTC investigará el acuerdo entre OpenAI y su mayor inversor, Microsoft. OpenAI es libre de hacer lo que quiera, además de ser la propia startup tecnológica del excepcionalismo estadounidense.

ChatGPT, saludo tu infamia y me niego a utilizar tus productos.

La FTC ya está investigando las prácticas de recopilación de datos de OpenAI, habiendo abierto una investigación en 2023 para determinar si la empresa ha causado daños potenciales y difundido información falsa sobre las personas. Como habrás adivinado, el acuerdo con Apple plantea dudas sobre la aplicación de las normas antimonopolio de la UE. Silicon Valley utiliza cada vez más su poder de un modo que perjudica a los consumidores y a otros países para competir incluso en igualdad de condiciones.

OpenAI conoce el marcador, es EEUU contra el mundo.

Sam Altman no tiene amigos multimillonarios en vano. OpenAI está reforzando su junta directiva para acercarse al Pentágono y escapar a cualquier sondeo que pudiera perjudicar su futuro. Se están haciendo concesiones. China está en el punto de mira. Esto ya es una especie de guerra. Ha comenzado.