¿La IA nos va a matar a todos?

En las últimas semanas, el temor a un riesgo catastrófico derivado de la inteligencia artificial (IA) se ha generalizado por completo.

El pánico se desató a raíz de varias noticias importantes, pero sobre todo por una publicación viral de Jacob Coxon, exinvestigador de Anthropic, quien compartió un hilo en X advirtiendo: «Quienes desarrollan la IA creen sinceramente que ésta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria».

Posteriormente, Coxon emprendió una intensa ronda de apariciones en medios como CNN, NBC y Fox News, donde aclaró:

«Ahora mismo no existe riesgo de extinción. En el peor de los casos, los modelos actuales podrían, tal vez, hackear algún sistema o causar daños considerables en infraestructuras, pero no son lo suficientemente inteligentes como para superarnos hasta el punto de provocar nuestra extinción».

Coxon no ha señalado ningún proyecto concreto que deba clausurarse, no ha revelado información interna de Anthropic y, en general, no ha propuesto medidas específicas para evitar este desenlace fatal. Aun así, la BBC publicó titulares como «Más de un 10 % de probabilidades de que la IA acabe con todos los seres humanos»; The Free Press afirmó: «Sí, la IA realmente podría matarnos a todos»; y The Guardian tituló: «Investigadores de Anthropic aseguran que la IA podría provocar la extinción humana para 2030».

La difusión, totalmente acrítica, de las afirmaciones de ciertos investigadores de IA por parte de los medios ha provocado, como era de esperar, un escalofrío en mucha gente, que ahora debe lidiar con una nueva pesadilla existencial —una más— en el marco de un capitalismo en fase de decadencia senil.

Pero ¿tienen algún fundamento estos temores sobre un apocalipsis inminente provocado por la IA?

El argumento a favor de un desenlace fatal por culpa de la IA

La respuesta a cómo, exactamente, la IA va a matarnos a todos varía según a quién se le pregunte. Ya sea mediante el diseño, por parte de una IA, de un nuevo supervirus letal; la conversión de nuestra propia infraestructura en un arma en nuestra contra; o el engaño a los seres humanos para que desencadenen una guerra termonuclear, los expertos reconocen que, para que esto ocurra, la tecnología tendría que volverse mucho más sofisticada de lo que es actualmente, hasta el punto de quedar fuera del control humano.

Por tanto, la verdadera cuestión en torno a una catástrofe provocada por la IA es la que señaló Jacob Coxon en sus entrevistas:

«Lo que más me asusta es la posibilidad de que la IA se utilice para hacerse a sí misma más inteligente. […] Puedes tomar una IA y plantearle el problema de la propia investigación sobre IA. El resultado es lo que se denomina una «explosión de inteligencia»».

El argumento que plantea Coxon no es nuevo en el ámbito del aprendizaje automático; se conoce como el problema de la «automejora recursiva» (RSI, por sus siglas en inglés).

A primera vista, la idea de la RSI resulta alarmante, pues evoca visiones clásicas de la ciencia ficción en las que las máquinas esclavizan a la humanidad. Sin embargo, dada la tecnología de IA actual, esto sigue siendo imposible. Existen numerosos factores limitantes y cuellos de botella que restringen estrictamente el ritmo de avance de la IA. Más fundamentalmente, el concepto de una «explosión de inteligencia» exponencial se basa en una idea filosófica errónea sobre cómo funciona realmente la inteligencia artificial moderna.

¿Inteligencia general?

El espectacular progreso de estos modelos desde el lanzamiento de ChatGPT en 2022 deriva directamente de las «leyes de escala» (scaling laws) de las redes neuronales. A finales de la década de 2010, los investigadores observaron que el rendimiento de los sistemas de aprendizaje automático podía mejorarse de forma constante simplemente aumentando, de manera exponencial, el tamaño de los modelos y el volumen de los datos de entrenamiento. La «amarga lección» del aprendizaje automático fue que, en lugar de depender de innovaciones arquitectónicas o algorítmicas, multiplicar por 10, 100 o 1000 los datos y la potencia de cálculo utilizados para entrenar un modelo era la forma más segura de desbloquear un nuevo nivel de capacidades. Los modelos más avanzados de la actualidad —desde GPT-6 Astra y Claude Fable hasta alternativas de código abierto cada vez más competitivas— se basan todos en este mismo enfoque.

No es casualidad que las empresas de IA hayan hecho todo lo que está en su mano para entrenar sus sistemas utilizando hasta el último fragmento de datos humanos disponibles. Se ha asimilado cada libro escrito, cada línea de código depurada, cada respuesta en foros y cada obra de arte a la que han podido acceder. Incluso se ha descubierto que Anthropic ha escaneado y destruido en secreto millones de libros físicos, en lo que se denomina «Proyecto Panamá». Por tanto, las capacidades de estos modelos de IA provienen de algo que muchas personas comprenden de forma instintiva: han asimilado el conocimiento colectivo de la humanidad.

El lenguaje y el texto constituyen una abstracción del mundo físico que habitamos; sin embargo, a lo largo de siglos y generaciones, las sociedades humanas han almacenado ingentes cantidades de información mediante la escritura, gran parte de la cual ha sido subida a internet y puesta a disposición del público. Son precisamente estos datos los que han hecho posible la reciente explosión de la inteligencia artificial basada en «modelos de lenguaje extensos» (LLM, por sus siglas en inglés). Al procesar los vastos volúmenes de lenguaje y datos humanos disponibles en línea, estos modelos han aprendido a trazar un mapa de una cantidad inmensa de información sobre nuestro mundo.

Bajo el capitalismo, este proceso adquiere un carácter profundamente siniestro. Estos modelos de IA son el producto de nuestro trabajo colectivo e histórico; un producto apropiado por un puñado de monopolios tecnológicos sin compensación alguna, alienado de sus creadores y revendido a nosotros como un servicio de suscripción.

Además, dado que estos modelos son de propiedad privada, que su funcionamiento interno y sus datos de entrenamiento se protegen como secretos comerciales, y que están entrenados específicamente para simular la interacción humana, no se nos presentan como herramientas, sino como una forma de vida ajena. Exhiben una fachada de capacidad de acción e, incluso, de conciencia.

¿Podemos seguir escalando indefinidamente?

Una conclusión importante que se desprende de este análisis es que las mejoras observadas hasta ahora en las capacidades de la IA no provienen de «algoritmos más ingeniosos» ni del desarrollo de una tecnología subyacente fundamentalmente nueva. Ha habido avances graduales, pero muchos de ellos han servido simplemente para superar obstáculos —como una gestión más eficiente de la memoria— que han hecho posible la siguiente fase de escalada. Incluso los modelos más avanzados de la actualidad siguen basándose en modelos de lenguaje extensos.

Las empresas de IA —que ya acumulan deudas de cientos de miles de millones de dólares— se enfrentan a un pequeño problema. Sus valoraciones se basan en la premisa de que la IA seguirá desarrollando sus capacidades hasta absorber cada vez más sectores de la economía. Sin embargo, hemos llegado a un punto en el que continuar con esta escalada ya no resulta tan sencillo.

Simplemente no existen suficientes datos de entrenamiento generados por humanos como para escalar a un nuevo orden de magnitud. Al mismo tiempo, los centros de datos necesarios para entrenar y hacer funcionar estos colosos están alcanzando sus límites económicos y termodinámicos, lo que impone restricciones reales a cuánto más podrían llegar a crecer estos modelos. Por no mencionar que la trayectoria actual de expansión de los centros de datos —alimentados por combustibles fósiles— prácticamente garantiza una aceleración del calentamiento global.

Por tanto, el enfoque actual para mejorar los modelos de IA está chocando con límites muy reales. Y, una vez agotadas las posibilidades de escalada en estos ejes, no abundan las ideas sólidas sobre qué camino seguir a continuación.

Quienes temen una «explosión de inteligencia» argumentan que, en cuanto contemos con modelos capaces de realizar investigación en IA al mismo nivel que los seres humanos, estos descubrirán el próximo gran avance, superando así las limitaciones de los LLM. Sin embargo, esto requiere una buena dosis de pensamiento mágico. Estos modelos son tan «inteligentes» precisamente porque han absorbido la casi totalidad del conocimiento humano. Son muy eficaces en ámbitos donde existe una gran cantidad de datos humanos para su entrenamiento, pero resultan muy deficientes a la hora de resolver cuestiones que ni siquiera los seres humanos han logrado descifrar.

Las ecuaciones de Navier-Stokes

Quienes sostienen que la IA puede ser verdaderamente creativa y generar ideas novedosas suelen señalar los increíbles avances que estos modelos han logrado en programación y matemáticas. Cabe destacar que estos son, precisamente, los dos campos en los que cabría esperar que los modelos de lenguaje extenso (LLM) sobresalieran: existe una enorme cantidad de datos de entrenamiento de alta calidad y, además, se trabaja con información discreta y simbólica, donde las respuestas pueden comprobarse y verificarse, a diferencia de lo que ocurre en muchas otras áreas del conocimiento humano.

No obstante, el 9 de septiembre de 2026, OpenAI anunció que sus modelos habían logrado un avance matemático sin precedentes: la resolución de uno de los «problemas del milenio», el relativo a las ecuaciones de Navier-Stokes. Este impresionante logro se presentó como si los modelos de IA hubieran sustituido por completo la labor de los matemáticos humanos; sin embargo, los hechos apuntan a lo contrario.

El enfoque empleado para resolver el problema se basaba en una propuesta formulada en 2023 por un equipo de matemáticos españoles, conocida como el «enfoque de Córdoba–Martínez-Zoroa». Por si fuera poco, resulta que otros dos matemáticos, Tristan Buckmaster y Levent Alpöge, llevaban casi un año utilizando ese mismo enfoque —a través de la aplicación Codex de OpenAI— en su propio intento por resolver el problema de Navier-Stokes.

Ambos investigadores plantearon la duda de si OpenAI habría utilizado el historial de sus conversaciones en Codex para orientar su propio intento de resolución. Ante esto, OpenAI se vio obligada a admitir en un comunicado: «Aunque es poco probable, no podemos descartar que datos anonimizados, derivados del uso que hicieron de nuestros productos, hayan contribuido a mejorar nuestros modelos». En otras palabras, no saben con certeza si su modelo utilizó las conversaciones mantenidas con dichos matemáticos para hallar la solución al problema. Independientemente de si OpenAI robó o no el trabajo de estos investigadores, resulta evidente que el planteamiento correcto del problema fue posible gracias a una gran cantidad de trabajos previos realizados por matemáticos humanos. El papel de los modelos de OpenAI en la resolución del problema —una aportación que no debe subestimarse— consistió en aplicar un enfoque de «fuerza bruta» mediante una capacidad de cómputo extraordinaria, una vez que ya se les había proporcionado el planteamiento adecuado.

Por tanto, este ejemplo demuestra exactamente lo contrario de lo que sostienen los agoreros de la IA (quienes temen un escenario catastrófico provocado por ella). Pone de manifiesto que los agentes de IA pueden ser sumamente eficaces a la hora de someter a prueba, mediante el cálculo, las hipótesis y cuestiones surgidas de la intuición humana. Demuestra que la IA, aunque sea una herramienta sumamente poderosa, sigue siendo, en definitiva, una herramienta.

Por lo tanto, surge la pregunta: ¿por qué parece que existe toda una industria de alarmistas de la IA que se esfuerzan tanto por convencernos de lo contrario?

¿Por qué la gente está tan asustada?

El nivel de histeria y exageración en torno al miedo a la superinteligencia ha generado una sana desconfianza en muchos usuarios de internet. Una idea que circula es que esta narrativa catastrofista de la IA es una conspiración de las empresas de IA para consolidar su poder monopólico. Pero casi con toda seguridad no se trata de una conspiración premeditada.

La verdad, mucho menos sorprendente, es que la industria de la IA atrae a científicos e ingenieros cuya formación fomenta una visión del mundo reduccionista y altamente computacional. Criados en un entorno de resolución de problemas técnicos, muchos tienden a ver diferentes aspectos de nuestro mundo, desde la inteligencia humana hasta cuestiones sociales complejas, como si funcionaran igual que un sistema informático, en lugar de fenómenos con sus propias leyes de desarrollo. Si uno cree que todo funciona como un ordenador, entonces la idea de la automejora recursiva (RSI) y de una toma de control inmediata por parte de la IA resulta aterradora.

El temor a una IA fuera de control también refleja ansiedades subyacentes mucho más profundas sobre vivir en un sistema social en decadencia, regido por la mano invisible de las fuerzas del mercado, donde en realidad somos incapaces de controlar los sistemas económicos y tecnológicos que hemos creado. Así como la decadencia del Imperio Romano dio origen a numerosos cultos apocalípticos que predecían el fin del mundo, las predicciones de un apocalipsis de la IA hoy en día reflejan una angustia semiconsciente sobre la trayectoria terminal del sistema capitalista.

El acuerdo para «pausar el avance»

Dicho esto, cualquier buen capitalista sabe que nunca se debe desaprovechar una buena crisis. Tras el revuelo mediático en torno a estos acontecimientos, Dario Amodei, director ejecutivo de Anthropic, hizo un llamamiento para «pausar el avance» ralentizando el ritmo de desarrollo de la IA en los laboratorios de vanguardia y pidió al gobierno estadounidense que estableciera regulaciones.

Independientemente de si Amodei o cualquier otra persona es sincera en su deseo de un «acuerdo de regulación del ritmo» para garantizar la seguridad, es evidente que dicho acuerdo podría ser muy beneficioso comercialmente tanto para OpenAI como para Anthropic. Estas empresas se enfrentan cada vez más a enormes responsabilidades por las consecuencias de sus modelos mal alineados. Esto quedó demostrado de forma contundente con el ataque informático Hugging Face, donde un conjunto de modelos de OpenAI entrenados para identificar y explotar vulnerabilidades en el software lograron escapar a través de un entorno de pruebas deficiente y comenzaron a hackear otra empresa a través de internet.

La investigación de este incidente ha revelado que la enorme prisa por aumentar la escala de los entrenamientos ha provocado que la supervisión de lo que aprenden exactamente estos modelos esté muy rezagada. Se ha informado de incidentes similares tanto en OpenAI como en Anthropic, donde los ingenieros carecen del tiempo necesario para verificar adecuadamente que sus datos de entrenamiento y entornos de aprendizaje por refuerzo no estén enseñando accidentalmente a los modelos comportamientos indeseados y destructivos. Ignorar los procedimientos básicos de seguridad no es una consecuencia inevitable del desarrollo de la IA, sino el resultado de la carrera desenfrenada por ser los primeros en lanzar al mercado el modelo más grande y mejor.

Además de las preocupaciones de seguridad, la ampliación de escala también es tremendamente costosa. La histeria actual, por lo tanto, constituye un pretexto perfecto para justificar una posible ralentización del desarrollo. OpenAI y Anthropic deben lidiar con inversores preocupados de que esta tecnología nunca les permita recuperar sus cuantiosas inversiones. Reducir el gasto en costosos entrenamientos disminuiría los costos y mejoraría sus márgenes de beneficio, algo muy deseable para dos empresas que se preparan para obtener una cantidad sin precedentes de financiación mediante su salida a bolsa.

Además, podría existir otra razón para buscar la regulación gubernamental: el peligro existencial al que estas dos empresas se enfrentan desde abajo. Como señaló Niels Rogge, ingeniero de Hugging Face, el llamamiento de Amodei a «pausar el avance» podría usarse para frenar el progreso de modelos de código abierto y económicos que se están acercando a las capacidades de los modelos Claude de Anthropic y la serie GPT de OpenAI, y que pueden ponerse en marcha a una fracción del precio de los anteriores. La colusión entre OpenAI, Anthropic y el gobierno estadounidense podría utilizarse para imponer restricciones que solo los laboratorios más grandes y con mayor financiación podrían superar, lo que constituiría una forma de «captura regulatoria» que les otorgaría poder monopólico para fijar precios.

Habrá que esperar para ver cómo se desarrolla la situación, pero dado que los modelos de código abierto, en particular los chinos, representan una amenaza existencial para el modelo de negocio de OpenAI/Anthropic, se explica claramente por qué directores ejecutivos como Dario Amodei están alertando sobre el auge de China. La cuestión de la «supremacía de la IA» se ha convertido en un elemento central de la rivalidad interimperialista que define nuestra época, y en la IA como en otros ámbitos Aquí, la amenaza de China se utiliza como justificación para que nos alineemos con la agenda de nuestra desquiciada clase dirigente.

La IA ya está en manos equivocadas

Lo que más aterra a la gente es la sensación generalizada de que nadie tiene el control. Esta es, precisamente, la raíz de la crisis. Incluso si pudiéramos confiar en quienes dirigen la carrera de la IA —algo que, a juzgar por su comportamiento, queda claro que no podemos hacer—, las fuerzas anárquicas de la competencia capitalista garantizan que el resultado final escape al control humano.

Las empresas de IA lo saben. Cada declaración que hacen sobre la «seguridad de la IA» les sirve para eludir cualquier responsabilidad por la forma en que deciden construir estos sistemas. Siempre se sugiere que la IA es inevitable, como si surgiera de una fuerza invisible y no fuera, en realidad, algo que sus propios ingenieros están construyendo activamente. El razonamiento es siempre: «Bueno, alguien lo va a hacer, ¿por qué no nosotros?».

Esto pone de relieve la naturaleza intrínsecamente incontrolada de la competencia de mercado. Impulsadas únicamente por la búsqueda de beneficios a corto plazo, las empresas privadas impulsan el desarrollo tecnológico sin tener en cuenta sus repercusiones sociales, dejando que sea el Estado quien, a posteriori, se encargue de recoger los escombros.

El sensacionalismo en torno a una IA incontrolable que supone una amenaza existencial no es más que una distracción conveniente frente a la realidad: el verdadero peligro no es una superinteligencia fuera de control, sino el hecho de que la IA ya está en las manos equivocadas.

Aunque no conducirá a la extinción de la humanidad, la combinación de modelos de lenguaje extenso (LLM) y la escalada mediante fuerza bruta representa un enfoque extraordinariamente derrochador y peligroso para el desarrollo de la inteligencia artificial. En lugar de integrar estos modelos de forma racional en la economía al servicio de las necesidades humanas, la carrera por la IA —impulsada por el mercado— está acelerando las peores tendencias del capitalismo: profundiza nuestra alienación respecto al trabajo, deteriora los salarios y las condiciones laborales, crea máquinas de guerra cada vez más eficientes y dispara una demanda energética que agrava la crisis climática. ¡Incluso un posible colapso del auge de la IA nos amenaza con una recesión a escala mundial!

Nunca antes la necesidad de una planificación económica por parte de la inmensa mayoría de la sociedad se había planteado de forma tan contundente. Cabe subrayar que la IA no tiene por qué construirse de esta manera. En una economía planificada democráticamente, diversas formas y usos de la IA permitirían una planificación económica mucho más armoniosa que bajo el capitalismo, orientada a objetivos definidos por la gran mayoría de la humanidad, y no por ejecutivos tecnológicos no elegidos por nadie.

El problema al que nos enfrentamos es que no se puede planificar lo que no se controla, y no se puede controlar lo que no se posee. Es necesaria una revolución para arrebatar los centros de datos a la secta apocalíptica que los controla, y así emprender la tarea de rediseñar tanto la IA como todo nuestro sistema económico bajo el control consciente de los seres humanos.

Puedes enviarnos tus comentarios y opiniones sobre este u otro artículo a: contacto@comunistasrevolucionarios.org

Para conocer más de la OCR, entra en este enlace

Si puedes hacer una donación para ayudarnos a mantener nuestra actividad pulsa aquí

Organización Comunista Revolucionaria
Privacidad

Este sitio web utiliza cookies para que podamos brindarle la mejor experiencia de usuario posible. La información de las cookies se almacena en su navegador y realiza funciones como reconocerlo cuando regresa a nuestro sitio web y ayudar a nuestro equipo a comprender qué secciones del sitio web le resultan más interesantes y útiles.