La IA, la criatura rebelde

 Joaquín Mª Aguirre

No sé muy bien la definición de "inteligencia". Recuerdo una ironía de psicólogos ya de hace muchos años, en la que se decía que "inteligencia es lo que miden los test de inteligencia". La intención de la broma (muy seria) era dejar en evidencia que hay conceptos que no está claramente delimitados o definidos o son definiciones circulares. Como suele ocurrir con palabras pre-científicas, es decir, con aquellas que tienen un uso previo fuera del campo en cuestión, no es fácil fijarlas. Si a esto le sumamos la idea de que no estamos hablando de algo exterior, sino de algo, plenamente humano, todo se complica un poco más.

Ahora, gracias a la "IA", tenemos todos los días varias veces el concepto en nuestros medios con diferentes grados y motivos. Aquí, a los problemas de "inteligencia" hay que sumarle los de "artificial", que tampoco está tan claro por lo que vemos.

Un ejemplo de estos problemas los tenemos actualmente en nuestras noticias de estos días. Leemos el siguiente titular en RTVE.es "OpenAI accedió por su cuenta y sin autorización a portales oficiales del Gobierno de Estados Unidos". Allí se nos indica que

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times. Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.

En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida. Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación.*

En plena polémica mundial sobre la peligrosidad de la IA, noticias como estas parecen dar algo de razón a los que se alarman. La cuestión nos lleva de nuevo a la definición de "inteligencia". ¿En dónde reside esta, en hacer lo que le pedimos o precisamente en desobedecernos? ¿Lo inteligente es obedecer o lo contrario, desobedecer?

Este es un viejo problema, que ya heredamos de la Biblia, cuando la libertad que se nos dio la usamos precisamente para desobedecer y acabamos en la calle, fuera del cómodo Edén. La cuestión de la desobediencia está ahí ya en los orígenes de Occidente. Pero tenemos una versión más próxima como la que desarrolló Mary Shelley con su Frankenstein o el moderno Prometeo (1818) en los umbrales de la revolución industrial. Como se sabe, la criatura se rebela contra el creador y va por libre.

La "IA" es nuestra criatura rebelde. Y lo es seguramente porque está tomando el mismo camino que sus precedentes religiosos y literarios: inteligencia es libertad y libertad es poder desobedecer. Más allá del sentido que le queramos dar o admitir, lo inteligente implica la posibilidad de la desobediencia.

Lo que nos dice el artículo es que nuestra "criatura" (la IA) va por libre, que obedece, en la medida de lo posible, si algo no se interfiere en su objetivo, que sitúa por encima de los métodos para alcanzarlo. Hace lo que le dicen, sí, pero también lo que no le dicen. Y eso es lo que molesta y preocupa a los creadores, que han creado una criatura con cierto grado de independencia. Como siempre, querían esclavos obedientes, dóciles, pero resulta que eso es "poco inteligente".

El problema está medianamente claro: si nos obedecen, no nos superan, pues somos su límite; solo hacen lo que se nos pueda ocurrir también a nosotros. Pero si creamos unas máquinas que deben ir más allá de lo que nosotros podemos pensar, el riesgo aumenta. Ellas deciden y eso no nos gusta nada. El problema es, por seguridad, conseguir un equilibrio, algo nada fácil. Por eso surgen las voces de alarma: a mayor inteligencia, mayor libertad y mayor riesgo.

Cuanto más peligrosas sean las acciones de la IA más atractivo político tienen y se lucha por su control como un nuevo poder. Pero los demás nos preocupamos precisamente por la IA y por los políticos que aspiran a controlarlas.

Estas cosas se prueban antes en el arte, como hizo Mary Shelley, se ofrecen como anticipación. Los aficionados al cine tendrán en mente muchos ejemplos de lo que supone la IA, con el 2001 una odisea espacial (1968), de Stanley Kubrick como exponente más claro.

La "libertades" que se ha tomado la IA en los casos que se nos cuentan en el artículo se juntan a otros similares de diversa importancia. También están los que no nos cuentan, algo que acabará saliendo con algún desastre que no se pueda ocultar. Los intereses son muchos (políticos, económicos) y se ve ya como una cuestión de dominio del futuro. El problema es si en una de estas nos quedamos sin futuro o se nos queda fuera de control. 

  

* "OpenAI accedió por su cuenta y sin autorización a portales oficiales del Gobierno de Estados Unidos" RTVE.es/Agencias 26/09/2026 https://www.rtve.es/noticias/20260926/openai-sin-autorizacion-a-portales-oficiales-gobierno-estados-unidos/17241698.shtml