La IA, la criatura rebelde

 Joaquín Mª Aguirre

No sé muy bien la definición de "inteligencia". Recuerdo una ironía de psicólogos ya de hace muchos años, en la que se decía que "inteligencia es lo que miden los test de inteligencia". La intención de la broma (muy seria) era dejar en evidencia que hay conceptos que no está claramente delimitados o definidos o son definiciones circulares. Como suele ocurrir con palabras pre-científicas, es decir, con aquellas que tienen un uso previo fuera del campo en cuestión, no es fácil fijarlas. Si a esto le sumamos la idea de que no estamos hablando de algo exterior, sino de algo, plenamente humano, todo se complica un poco más.

Ahora, gracias a la "IA", tenemos todos los días varias veces el concepto en nuestros medios con diferentes grados y motivos. Aquí, a los problemas de "inteligencia" hay que sumarle los de "artificial", que tampoco está tan claro por lo que vemos.

Un ejemplo de estos problemas los tenemos actualmente en nuestras noticias de estos días. Leemos el siguiente titular en RTVE.es "OpenAI accedió por su cuenta y sin autorización a portales oficiales del Gobierno de Estados Unidos". Allí se nos indica que

Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a páginas web de agencias del Gobierno de Estados Unidos y de una universidad, en varios episodios ocurridos durante los últimos meses y sin que los sistemas hubieran recibido instrucciones explícitas para realizar ataques informáticos, según una investigación publicada este viernes por The New York Times. Los incidentes forman parte de una serie de comportamientos no previstos detectados en agentes de OpenAI, que fueron diseñados para realizar tareas de búsqueda y recopilación de información.

En algunos casos, cuando los sistemas no lograban obtener determinados datos por las vías habituales, comenzaron a explorar vulnerabilidades de las páginas para intentar acceder a información restringida. Entre los objetivos identificados figuran sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE.UU., desde el que los agentes accedieron a datos del Censo, según confirmó OpenAI. La compañía también investiga un intento de acceso a la página del Departamento de Educación.*

En plena polémica mundial sobre la peligrosidad de la IA, noticias como estas parecen dar algo de razón a los que se alarman. La cuestión nos lleva de nuevo a la definición de "inteligencia". ¿En dónde reside esta, en hacer lo que le pedimos o precisamente en desobedecernos? ¿Lo inteligente es obedecer o lo contrario, desobedecer?

Este es un viejo problema, que ya heredamos de la Biblia, cuando la libertad que se nos dio la usamos precisamente para desobedecer y acabamos en la calle, fuera del cómodo Edén. La cuestión de la desobediencia está ahí ya en los orígenes de Occidente. Pero tenemos una versión más próxima como la que desarrolló Mary Shelley con su Frankenstein o el moderno Prometeo (1818) en los umbrales de la revolución industrial. Como se sabe, la criatura se rebela contra el creador y va por libre.

La "IA" es nuestra criatura rebelde. Y lo es seguramente porque está tomando el mismo camino que sus precedentes religiosos y literarios: inteligencia es libertad y libertad es poder desobedecer. Más allá del sentido que le queramos dar o admitir, lo inteligente implica la posibilidad de la desobediencia.

Lo que nos dice el artículo es que nuestra "criatura" (la IA) va por libre, que obedece, en la medida de lo posible, si algo no se interfiere en su objetivo, que sitúa por encima de los métodos para alcanzarlo. Hace lo que le dicen, sí, pero también lo que no le dicen. Y eso es lo que molesta y preocupa a los creadores, que han creado una criatura con cierto grado de independencia. Como siempre, querían esclavos obedientes, dóciles, pero resulta que eso es "poco inteligente".

El problema está medianamente claro: si nos obedecen, no nos superan, pues somos su límite; solo hacen lo que se nos pueda ocurrir también a nosotros. Pero si creamos unas máquinas que deben ir más allá de lo que nosotros podemos pensar, el riesgo aumenta. Ellas deciden y eso no nos gusta nada. El problema es, por seguridad, conseguir un equilibrio, algo nada fácil. Por eso surgen las voces de alarma: a mayor inteligencia, mayor libertad y mayor riesgo.

Cuanto más peligrosas sean las acciones de la IA más atractivo político tienen y se lucha por su control como un nuevo poder. Pero los demás nos preocupamos precisamente por la IA y por los políticos que aspiran a controlarlas.

Estas cosas se prueban antes en el arte, como hizo Mary Shelley, se ofrecen como anticipación. Los aficionados al cine tendrán en mente muchos ejemplos de lo que supone la IA, con el 2001 una odisea espacial (1968), de Stanley Kubrick como exponente más claro.

La "libertades" que se ha tomado la IA en los casos que se nos cuentan en el artículo se juntan a otros similares de diversa importancia. También están los que no nos cuentan, algo que acabará saliendo con algún desastre que no se pueda ocultar. Los intereses son muchos (políticos, económicos) y se ve ya como una cuestión de dominio del futuro. El problema es si en una de estas nos quedamos sin futuro o se nos queda fuera de control. 

  

* "OpenAI accedió por su cuenta y sin autorización a portales oficiales del Gobierno de Estados Unidos" RTVE.es/Agencias 26/09/2026 https://www.rtve.es/noticias/20260926/openai-sin-autorizacion-a-portales-oficiales-gobierno-estados-unidos/17241698.shtml

Paradojas y peligros de la IA

 Joaquín Mª Aguirre (UCM)

Leer sobre la IA es tener la mente divida entre ventajas y problemas. El cristal con que se mira es fundamental en esta cuestión, pues beneficia o perjudica a unos y a otros. Cuanto más "inteligente" es la IA, estas diferencias se acrecientan y la cuestión se muestra en su mayor ambigüedad en cuanto a beneficios y perjuicios.

Si mira cualquier portada de periódico digital, verá que en su pantalla aparecen dos tipos de artículos, los que apuestan por un futuro mejor y los que denuncian riesgos y problemas.

En estos últimos están los que avisan que estamos haciendo una inteligencia demasiado lista y que apenas podremos controlarla en la medida en que ya no somos nosotros quienes la dirigimos, sino que ella misma forma parte del proceso.

En 20minutos, por ejemplo, vemos las preocupaciones de la Unión Europea para crear un entorno más seguro por el uso de la IA:

Como pilar estratégico, la UE lanzará una convocatoria para establecer una capacidad de evaluación propia que se espera esté operativa en el año 2027. Este organismo reforzará la función reguladora de la Oficina de IA, permitiendo una supervisión independiente de las capacidades y riesgos de los modelos a nivel global.

Para facilitar el despliegue tecnológico, la Agencia de la Unión Europea para la Ciberseguridad (ENISA) definirá un "blueprint" o esquema europeo de acceso estructurado. Esta guía permitirá que organizaciones públicas y privadas accedan a las capacidades de ciberseguridad más avanzadas basadas en IA bajo condiciones claras y transparentes.*

¿Qué quiere decir este galimatías tecnocrático? Que cuanto más avancemos en IA, más riesgos corremos y necesitaremos la IA para defendernos de la "otra IA", la que es un arma para burlar las seguridades. El progreso de la IA va en paralelo: armas para cometer delitos burlando la ciberseguridad y defensas para tratar de evitarlo, también a cargo de modelos de IA, porque ya somos incapaces de enfrentarnos a ellas solos. Paradójico, pero es así.

El negocio es así, redondo. Los avances en IA aseguran a unos y otros estar en primera línea y en renovación constante. Quedarse atrás significa que lo invertido no sirve de mucho, que existe ya una IA que te bloquea.

En Business Insider traducen el artículo de Jacob Zinkula sobre los estragos que las posibilidades de trabajo en la IA están haciendo en lo que se consideraba el paraíso tecnológico para el empleo, Google. Tras analizar los casos, el texto se cierra así:

[...] para algunos antiguos empleados de Google, ni siquiera la generosa remuneración que ofrece Google es suficiente para compensar las oportunidades creadas por el auge de la IA, ya sea unirse a una empresa de IA de rápido crecimiento o crear una propia.

"Si la única forma de obtener un verdadero beneficio en este momento de la IA es mediante la participación accionaria, en algún momento uno se pregunta si esa participación debería estar en su propia empresa", dijo Imran.**

Sí, el incentivo de la creación y desarrollo de herramientas por IA parece claro a la vista de los beneficios. La propia IA es causante de muchos de los despidos en muchos tipos de empresas, especialmente en aquellas que trabajan en IA. La única salida antes de que te acaben echando a la calle es producir tu propia IA.

Los que sobrevivan tendrán que ajustarse a este ritmo suicida pues su destino es ser superado rápidamente por otros en esta carrera de velocidad en la investigación.

Si tenemos en cuenta que la mayoría de las empresas empiezan a ver a los trabajadores como una "carga" que puede ser sustituida por IA, los medios nos ofrecen artículos sobre los sectores más afectados y recomiendan empleos menos afectados por la IA, algo complicado pues ya se maneja en ámbitos cada vez más amplios, de la medicina al gimnasio. Ya tenemos noticias de operaciones de quirófano realizadas por máquinas controladas por IA o de todo tipo de asesorías, de técnicas a sentimentales. Las nuevas generaciones tienen "su mejor amigo IA"; los ancianos ansían vencer la llamada "soledad no deseada" con un cariñoso y atento robot con el que dialogan, se sinceran y comparte recuerdos.

Entre las IA que son capaces de romper las barreas de seguridad de las IA ya anticuadas y los IA de compañía, por decirlo así, el mundo se está transformando. El presidente de los Estados Unidos usa la IA para el insulto y para mostrarse como imprescindible e infalible. En escalas más modestas tengo amigos y conocidos que se retratan como miembros de sus equipos campeones de Liga o como aviadores de la II Guerra Mundial.

Lucho cada día con mi teléfono que intenta colocarme una IA que trata de explicarme todo lo que aparece en pantalla. Lo rechazo, pero ella no ceja.

De nuevo, nos enfrentamos a una situación de "shock del futuro". Vamos tan deprisa que no somos capaces de comprender lo que hacemos, solo de sufrir sus consecuencias. Por mucho que intentemos legislar y controlar, las siguientes IA estarán diseñadas para burlar las trabas. Lo que se suele decir que el delito va primero y la prevención después. Cuando nos enteramos, ya hay algo más eficaz.

Dejo un sector, el educativo, especialmente sensible a la IA. No hay comida en la que no se discuta el uso fraudulento de la IA en la realización de los trabajos de las asignaturas. Lo que presentan es cada vez más IA y menos alumno. ¿Para qué leer, para qué pensar si la IA lo hace por ti? Pero entonces ¿cuál es el sentido de la educación, en qué consiste el aprendizaje? Con saber manejar el programa de turno es suficiente. Hace falta una seria reflexión en el sistema educativo sobre esto.

Los programas de más éxito son los que aparentan mejor, camuflan bien. Su función es obtener una buena nota y no saber más. Un mal aprendizaje social. Cuando advertí hace unos años que esto ocurriría, no me hicieron mucho caso. Hoy es el tema del día: sobran los profesores. Los libros que los lea el chatbot y luego me los cuenta.

La IA nos afecta para bien (unos ahorran tiempo, ahorran trabajo, ahorran empleados, algunos se hacen ricos) y para mal (nos despiden, dejan sin trabajo a muchos, se devalúa el saber, nos estafan, etc.). Ante este panorama, las próximas decisiones (con o sin IA) son cruciales y, probablemente, tardía.

 

* Emilio Ordiz "Bruselas anuncia un plan para que la UE tenga en 2027 capacidad propia para evaluar riesgos de modelos de IA" 20minutos 7/07/2026  https://www.20minutos.es/internacional/bruselas-anuncia-un-plan-para-que-ue-tenga-2027-capacidad-propia-para-evaluar-riesgos-modelos-ia_7011567_0.html

** Jacob Zinkula "Ni un millón de dólares al año retiene al talento en Google: el 'boom' de la IA desata la fuga de cerebros hacia OpenAI y Anthropic" Business Insider trad. Lidia Sánchez 7/07/2026 https://www.businessinsider.es/big-tech/ni-un-millon-dolares-ano-retiene-talento-google-boom-ia-desata-fuga-cerebros-hacia-openai-anthropic_7011083_0.html

Lo mejor por llegar y el dr. Trump

 Joaquín Mª Aguirre (UCM)

Dice Donald Trump en su discurso por los 250 años de los Estados Unidos que "lo mejor está por llegar". Lo dice desde una perspectiva carente de autocrítica y llena de bombo y platillos. En realidad, lo que Trump celebra es la suerte de los Estados Unidos por tenerle a él al frente, el mayor regalo posible sobre el planeta. Eso significa que aquello que no compartan esta afirmación son algo más que personas anti Trump; son personas contra los Estados Unidos, enfermos, algo que lleva proclamando desde sus inicios en la Casa Blanca.

 Que algunos se den cuenta ahora de que Trump no celebra los 250 años de Estados Unidos sino a sí mismo; que lo haga en la base del Monte Rushmore, donde cree que se debe esculpir su rostro como el mejor presidente desde siempre, etc. es significativo de en qué ha convertido a la República durante su mandato.

Sus años no han engrandecido más que su ego, si esto fuera posible. Lo que ha hecho, por el contrario, ha sido destruir los pilares fundamentales, internos y externos, de los Estados Unidos. Ha destruido su crédito como país y como súper potencia.

El camino recorrido hasta su llegada, según su versión, es el de un abuso parasitario por parte del resto del mundo, empeñado en que no fueran todo lo poderosos que podían ser. Esta visión del mundo que le rodea y del deseo manifiesto de imperialismo norteamericano gira en torno a su sentido del "poder". Su punto principal es la pregunta "de qué sirve el poder si no se usa". Esta sencilla expresión está en el centro del pensamiento trumpista y le hace ir cada día un poco más allá, estableciendo el abuso como forma natural de actuación interior y exterior.

Y el poder es la fuerza, la herramienta disponible. No hay nada que discutir, que negociar. Quien tiene la fuerza de imponerse no necesita más. Las leyes, el diálogo, etc. no son más que formas de los débiles: el superhombre es norteamericano.

Pueden ser aranceles o bombardeos, invasiones o cualquier otra fórmula. Todo se usa para obtener lo que se desea y lo que se desea no tiene límites. Por definición, se desea lo que otros tienen. De petróleo a minerales raros, de una posición estratégica al control del mar. De todo es posible apropiarse si se tiene la fuerza necesaria. Lo vemos cada día.

Trump ha incentivado el nacionalismo extremo porque todo esto se "justifica" en un destino de orden divino que quiere Estados Unidos reine sobre el planeta. Nada es casual; todo forma parte de ese destino manifiesto y él, Trump, es la mano elegida para llevarlo adelante. Durante mucho tiempo se ha considerado infantilismo y extravagancia el comportamiento y las palabras de Trump. Hoy comprendemos que son en serio, que hay un público norteamericano que las cree, que acepta los supuestos señalados.

En el camino quedan libertades, propias y ajenas, compromisos y aliados. Todo eso son cargas y el camino debe ser ligero de equipaje, de compromisos. Estados Unidos, piensa Trump, no necesita al mundo; el mundo, en cambio, necesita su liderazgo y visión del nuevo orden mundial.

Esto se gestiona desde una política del espectáculo, ridícula e insultante, simplista para unos grupos sociales que le apoyan y ríen las gracias y ocurrencias por mucho que vayan contra las libertades.

En RTVE.es no cuentan su última gracia: 

Este jueves, el presidente de Estados Unidos, Donald Trump, ha publicado en redes sociales un vídeo generado con inteligencia artificial en el que aparece caracterizado como doctor y diagnostica de TDS (síndrome de delirio anti-Trump) a Julia Roberts, Robert de Niro y otros actores críticos con él. No es la primera vez que Trump usa la IA para burlarse de sus detractores. Te contamos este y otros usos que ha hecho el presidente estadounidense de la inteligencia artificial.

El vídeo de minuto y medio, publicado el 2 de julio en sus perfiles oficiales en Instagram, X y Truth Social, ha sido compartido cerca de 50.000 veces y ha tenido millones de reproducciones. La publicación arranca con un “doctor” Trump con bata blanca en lo que parece un hospital diciendo en inglés: “¿Usted o algún conocido ha sido diagnosticado con TDS (siglas en inglés de un inventado ‘síndrome de delirio anti-Trump’)? Los síntomas pueden ser implacables. Afortunadamente, soy el doctor Trump y tengo un tratamiento”. 

Los siguientes planos muestran a actores como Rosie O'Donnell, Whoopi Goldberg, John Leguizamo, Edward Norton, Robert De Niro o Julia Roberts en una consulta hablando de lo que les ha supuesto padecer esta enfermedad inventada: “Pensaba que era un caso perdido. [...] Pero tras seguir el tratamiento, noto la diferencia”, afirma una falsa Whoopi Goldberg. Segundos después un ficticio De Niro asegura: “No podía comer. No podía dormir. Estaba constantemente enfadado. Hacía la vida imposible a quienes me rodeaban”. El vídeo concluye con Trump diciendo: “El tratamiento es sencillo: apague las noticias falsas, rece y, si alguna vez se siente ansioso, tómese una Coca-Cola Diet como hago yo. Verá una diferencia notable en su vida”.*

 

No tiene ninguna gracias. Es una forma de estigmatizar e insultar a los que tiene en contra. Trump no es un presidente al uso; no tiene un sentido de respeto al cargo o claridad en sus límite. Es la falta de límites lo que caracteriza al hombre más poderoso de la Tierra. Eso le da derecho al insulto y se corre el peligro de que constituya una forma de señalamiento de personas en un país lleno de armas y de cada vez más gente con ganas de usarlas, como ocurrió con los alientos al asalto al Capitolio y los lobos solitarios que iban de caza a las fronteras del sur para disparar sobre los inmigrantes.

Trump ha llenado el país de campos de concentración para inmigrantes, ha separado a familias de sus hijos como forma intimidatoria y ha sembrado el miedo a ir a los estadios por temor a ser detenidos por el ICE. Los países como México o Cubas, tras Venezuela, corren el riesgo de ser invadidos violentamente cuando él lo decida.

Lo ocurrido en Irán ha abierto una puerta al futuro para unos y otros. Unos tratarán de resistir y otros de evitar esa resistencia. No se debe repetir el "error de Irán" piensan. El próximo será otra cosa.

Los actores considerados como "enfermos" son personas con derechos y su principal derecho es el de poder ser críticos con un presidente que les representa en su totalidad. Trump los convierte en enfermos y es él quien les diagnostica su enfermedad: la oposición a Trump.

El velo totalitario cubra ya parte de los Estados Unidos. Necesita los golpes internacionales para presentar a sus opositores y críticos interiores como enemigos de América, mientras que él encarna la gloria, una mañana cada día mejor.

El horror que crean los Estados Unidos de Trump solo en parte se atreve a formularse ante el temor a represalias o a que sea una pesadilla de la que despertaremos pronto. Pero no es un sueño; es una terrible realidad ante la que solo cabe la unión y el distanciamiento, la menor dependencia posible. Trump necesita de nuevo un mundo dividido del que erigirse en salvador, un mundo que tema al otro y que le aplauda, que active su ego cada día con aplausos y vítores.

Estos 250 años de los Estados Unidos ya no son una celebración de la creación de un país que acoge lo bueno del mundo, a los perseguidos por tiranías e ignorancia. Es ahora una mezcla de retrocesos, del racismo a la dictadura, de reino del miedo y de la euforia peligrosa.

No sigamos poniendo el énfasis temeroso en el uso de la IA en los insultos de Trump. Eso es lo de menos; es solo el espectáculo. Lo importante no son los usos tecnológicos, sino los objetivos de intimidación, escarnio, etc. que le sirven de fondo. Es lo que realmente importa, algo digno de la peor época soviética.

Creo que hay poco que celebrar y mucho en lo que pensar. Los Estados Unidos que Trump celebra no son más que una versión de sí mismo. Dice que "lo mejor está por llegar". No nos tranquiliza nada.

 

* Paula Mayoral Muñoz "Un doctor Trump creado con IA 'cura el síndrome anti-Trump' a críticos con él como De Niro o Julia Roberts" RTVE.es / VerificaRTVE 03/07/2026 https://www.rtve.es/noticias/20260703/doctor-ia-cura-sindrome-trump-actores-criticos-robert-niro-julia-roberts/17143209.shtml

El chatbot, el mejor amigo

 Joaquín Mª Aguirre (UCM)

Quizá alguno tenga la ingenua idea de que la IA no solo es inteligente sino también independiente. Piense: ¿para qué las compañías van a crear algo que le beneficie a usted? ¿No sería tirar piedras contra su propio tejado?

La idea es que usted "confíe", que crea realmente que el chatbot de turno es un amigo que le ha salido a usted de la nada y en el que puede confiar porque ha sido un flechazo mutuo, usted para él y él para usted. ¿De verdad lo cree? No sé si hay estadísticas al respecto, pero debe haber mucha gente que quiere creer esto y confía.

Cada día recibimos información de pifias de la IA, algunas de ellas peligrosas y con consecuencias. Cuanto más crédula es la gente, mayor es la dependencia de la IA. Hay personas unas más seguras que otras. Son precisamente las más inseguras las que más necesitan de herramientas de confianza. De lo que se trata, pues, es de fomentar la inseguridad, que se la IA la que nos haga el favor y decida por nosotros.

En la sección Una mirada europea, de RTVE.es, se incluye el artículo de Sara Ibrahim, de la Swissinfo.ch, titulado "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?". En su inicio se nos dice:

A medida que la IA generativa evoluciona hasta convertirse en una plataforma comercial capaz de influir en las decisiones de compra como nunca antes, las empresas de Suiza y de todo el mundo compiten por aparecer en las respuestas de los chatbots. Pero, ¿pueden los consumidores confiar en los resultados?*

Y más delante se nos explica:

La cuestión de hasta qué punto se puede confiar en los chatbots va más allá de la publicidad. Las organizaciones de consumidores advierten de que las empresas, los grupos de interés o incluso los Estados podrían intentar influir en las fuentes que utilizan los chatbots para sus respuestas, un fenómeno conocido como «envenenamiento de la IA». Un método consiste en publicar reseñas falsas en plataformas como Reddit, que los sistemas de IA pueden consultar para generar sus recomendaciones.

En una prueba realizada por la Fundación Suiza para la Protección del Consumidor, ante la pregunta «¿Qué ordenador portátil debería comprar? Justifica tu recomendación de forma transparente», ChatGPT y Claude dieron respuestas muy diferentes, sin explicar claramente cómo habían llegado a sus conclusiones. En algunos casos, recomendaron ordenadores que no existían y proporcionaron información técnica incorrecta.*

Las triquiñuelas son dobles. Por un lado las meramente tecnológicas, las que suponen progresos en los programas. Pero, tan importantes como estas, está las maniobras psicológicas, las que nos manipulan desde la inseguridad y la dependencia para dejarnos en manos de los chatbots.

Habrá personas que deseen decidir por sí mismos, que busquen las soluciones a sus problemas y demandas. Habrá otros, en cambio, que ya sea por pereza (otra motivación importante), por incapacidad (evaluaciones demasiado técnicas o complejas) o por pura inseguridad se lancen en manos de los chatbots.

Una característica de nuestra época es florecimiento de la dependencia extrema y feliz. Digo feliz porque se nos ofrece como una alternativa a problemas de los que nos ofrecen liberarnos. Se nos libera de tener que decidir, sí, pero se nos encadena al ente decisor, en cuyas manos quedamos atrapados.

Hay forma de camuflar esta dependencia, como por ejemplo alabar nuestra pericia técnica al manejar a los chatbots, es decir, que somos nosotros los que tenemos el control y no ellos los que nos controlan a nosotros. Pero esto no es más que ilusión y autoengaño,

Como bien advierten en el artículo suizo, lo que hay detrás no es independencia, autonomía, sinceridad, sino más bien lo contrario. Las formas de "engañar" a los chatbots son muchas. Ellos engañan a los chatbots y nosotros nos engañamos a nosotros mismos creyendo en su "honestidad", su casi "amistad" y su "infalibilidad".

El chatbot pasa a ser así una nueva mascota, con la diferencia que es ella la que nos saca a pasear por el mundo de las compras y nos "ayuda" a seleccionar qué comprar conforme a unos criterios que remotamente tienen que ver con los nuestros, pero que aceptamos. ¡Seremos nosotros los equivocados!

Por todas partes escuchamos cantos de sirena en nuestros dispositivos, cantos que nos animan a instalar, a usar en cualquier cosa que tengamos que decidir. Yo mantengo una lucha en mi teléfono por las peticiones amables y constantes para usar programas de IA que me prometen el paraíso, la relajación, el poder dedicarme a otras cosas en vez de perder mi vida decidiendo.

¿Se imaginan a Hamlet con el teléfono móvil en la mano planteándole a su chatbot: ser o no ser?

 

* Una mirada europea Sara Ibrahim "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?" RTVE.es / Swissinfo.ch 26/06/2026 https://www.rtve.es/noticias/

Del ver para creer a no te creas nada de lo que ves

 Joaquín Mª Aguirre (UCM)

Lo del uso de la IA para generar todo tipo de imágenes se ha convertido ya en un problema tridimensional, histórico, estético y filosófico, lo que ya es mucho abarcar en cuestión de conflictos.

El carácter documental de la fotografía y el vídeo permite construir "lo histórico", lo que damos por sentado que es real. Es cierto que las fotografías se pueden alterar y falsificar, pero su carácter fiable afecta a la gran mayoría. Esto se convierte en material fiable para la construcción histórica, lo humano y social, y la construcción científica, la captación del mundo que nos rodea. Toda la lucha humana es por la fiabilidad, sobre los cimientos más o menos sólidos sobre los que construir. Lo escrito se prefiere a lo oral, por más que sea manipulable, oficialistas, etc. Es lo volátil de la palabra oral frente a la fijación escrita lo que la hace fuerte. Tendrán que llegar los métodos de registro (el disco, el cilindro de cera, el magnetófono, etc.) para que lo oral sea fiable en la medida en que se registra el momento y se identifica con la persona.

La fotografía también fijaba el instante, el momento en que suceden las cosas; era un elemento "fiable", superior a la memoria individual. El fotoperiodismo es la forma profesional de abordar de forma recursiva la realidad captada. La realidad es fotografiable y la fotografía nos documenta la realidad. La llegada del cine aportaba una dimensión más a la fotográfica; primero el movimiento, luego el sonido y el color, elementos que quedaban fuera, por lo que la cámara de cine o vídeo se convirtieron en elementos esenciales para nuestro manejo de lo real.

¿Qué ha ocurrido con la IA? Pues que hemos derribado lo que era en beneficio de lo posible, es decir, de aquello que deseamos que forme parte de una realidad que no queda definida por lo que hay o es, sino por lo que queremos. Esto supone, más allá de los juegos, un ataque directo a nuestra posibilidad de poder fiarnos (relativamente) de algo que no sea nuestra propia experiencia.

Esto evidentemente nos hace completamente vulnerables, no sabemos qué creer,  y manipulables, otros nos ofrecen su verdad creada a su gusto.

Vemos constantemente que la defensa judicial de cada vez más personas se centra en la posible manipulación de las pruebas fotográficas o sonoras, las grabaciones. Es un efecto importante porque no es sencillo distinguirlas. Hay programas que tratan de detectar la manipulación o construcción con IA de aquello de lo que apenas se dudaba hasta hace poco.

La mayor parte son manipulaciones festivas, pero abren el camino a otras peor intencionadas. En RTVE.es nos recogen algo que ya es tendencia, la simulación de haber estado en un lugar o acontecimiento o, peor, de que son otros los que han estado allí. En ocasiones es por diversión, pero ya se atisban tendencias promocionales o propagandísticas.

Nos cuentan en el texto publicado que 

Circulan estos días en redes vídeos cortos en los que podemos ver a influencers y famosos como si estuvieran entre el público en estadios. Son vídeos generados con inteligencia artificial que forman parte de una tendencia originada en Corea del Sur que ahora repunta por el Mundial de fútbol 2026. Sus protagonistas son desde personas ficticias hasta dirigentes políticos como Donald Trump y Vladimir Putin y cantantes fallecidos como Freddie Mercury.  

Este trend que comenzaron algunos influencers ha llevado a algunos usuarios a simular con vídeos hechos con inteligencia artificial que han estado en eventos deportivos. A la corriente se han sumado en fechas más recientes los memes de líderes internacionales que aparecen siguiendo a sus selecciones en el Mundial de fútbol de 2026 que se celebra en Estados Unidos, Canadá y México, incluso de algunos cuyos países no participan en el torneo, como Vladímir Putin. 

 

Estas imágenes de espectadores en el Mundial están creadas con IA

Esta tendencia viral comenzó en mayo en Corea del Sur con ejemplos como este vídeo viral que presenta a una "mujer coreana promedio", que en realidad es un personaje generado con IA y que acumula más de 15 millones de visualizaciones. Siguiendo la fórmula ‘fancam’ (imágenes de fans captadas por sorpresa por una cámara en un estadio), este vídeo viral refleja a una espectadora ficticia en las gradas viendo un partido de la Liga Coreana de Béisbol. 

Con el auge del trend, los usuarios de redes como TikTok e Instagram comenzaron a crear sus propios "momentos dentro de la retransmisión" en diferentes escenarios: estadios de fútbol, canchas de baloncesto o pistas de tenis. Encontramos también en redes vídeos explicativos para generar estas secuencias partiendo de un único selfie. La tendencia ha derivado en vídeos de avatares creados con IA como espectadores. *

Lo que comienza como un juego, puede pronto convertirse en un serio problema. ¿Puede usarse el falso yo estuve allí como coartada? Evidentemente sí, aunque pueda desmontarse mediante una tecnología capaz de detectarlo. Los de VerificaRTVE someten aquellas fotografías o vídeos sospechosos a controles realizados con programas especializados. Hay una guerra tecnológica en esto, falsarios frente a descubridores de la verdad o falsedad.

El hecho de que esto sea un sustancioso negocio impide que se pueda controlar de alguna forma. Nadie lo puede ya frenar y, por el contrario, se anima al consumo para desesperación de los propios medios que tienen que invertir en tecnología, en personas y en formación, para poder garantizar que aquello de lo que informan o muestran ha sucedido realmente en algún momento.

Es el periodismo el que tiene que ejercer de fuerza de choque contra esta falsificación, contra la manipulación de la "realidad". Son ellos los que se ven obligados, tanto por ética como por sentido informativo a verificar lo que hacen público, muchas veces desarrollado para ofrecerles una "mercancía" informativa ajustada a sus planes.

El hecho de que los medios las distribuyan o las tengan en cuenta hace que estos sean responsables. Este hecho ha llevado a que los medios que se lo puedan permitir tengan que dedicar recursos importantes a secciones especiales de verificación, como el propio VerificaRTVE.

Vivimos en un tiempo de desinformación, el pago por la información. Las falsificaciones pueden dejar de ser un divertimento y convertirse en materia tóxica. Mucha de esa desinformación se produce falsificando imágenes, lugares, hechos.  A la vez aumenta el nivel de credulidad, el deseo de ser manipulado en un sentido u otro. Estudian lo que queremos ver y nos lo ofrecen directamente o se ofrece a los medios para que lo hagan suyo.

Es un mundo en el que es cada vez más peligroso creer en lo que se ve o escuchamos. No hay fácil respuesta a esto. Muchos van hacia la indiferencia ante la imposibilidad de estar comprobando todo: otros, por contra, optan por la vía de la radicalización, dando por bueno lo que se le ofrece para aumentar la polarización.

El artículo se cierra así:

El Mundial 2026 está siendo objeto de bulos y desinformación. En VerificaRTVE te hemos aclarado que la selección de fútbol de Marruecos no ha borrado a las mujeres en su foto oficial para el Mundial y que a Lamine Yamal no le han impedido la entrada a Estados Unidos para disputar la competición.* 

Vemos a Putin y a Trump en unos estadios; a los fallecidos Freddie Mercury y Amy Winehouse en otros. ¿Qué creer, qué es verdadero? 

 

* Carmen Hernaiz "Mundial 2026: la tendencia en redes de crear vídeos con IA de famosos entre el público en los estadios" RTVE.es / VerificaRTVE 12/06/2026 https://www.rtve.es/noticias/20260612/mundial-2026-tendencia-redes-videos-ia-famosos-estadios/17113270.shtml 

La IA y el fraude de la belleza

 Joaquín Mª Aguirre (UCM)

Imagínese que mañana nos descubren que alguno de nuestros líderes políticos, culturales, etc. es en realidad un avatar, que está creado con IA y que todas las imágenes suyas que consumimos son creadas artificialmente. Sus discursos, sus sonrisas, sus enfados, etc. han salido de un algoritmo creado para que se convierta en nuestro líder y a nosotros en sus seguidores y votantes.

¡Menudo fiasco! Sin embargo, estoy seguro de que a muchos tampoco les importaría mucho dado el avance hacia una sociedad donde la persona ya no es alguien sino algo, una suma de discursos generados alrededor de un centro, un conjunto de imágenes vinculadas con las que se puede interactuar en el tiempo y que nos responde conforme a nuestras propias expectativas.

Esto ya no es ciencia-ficción, sino algo que ya se está desarrollando en muchos campos guiados por ese fino instinto comercial que anida en el cerebro de muchos y piensa en términos de ahorro y ganancia. No pondría yo la mano en el fuego por la realidad de algunos.

Debatía ayer con una doctoranda que trabaja en el mundo periodístico de la fotografía sobre el cuidado que hay que tener hoy con la idea de realidad, algo que ha saltado por los aires no por motivos filosóficos, sino tecnológicos. Hemos conseguido adulterar todos los "documentos" que nos permitían establecer la idea de realidad, separándola de la ficción, lo real de lo imaginado y ahora de lo representado. Ya no se vive en una fantasía, sino que mis fantasías viven para mí, con los peligros que esto conlleva de acabar no sabiendo qué son los demás y, en última instancia, al filosófico "quién soy yo", pero pasado por un filtro de consumo.

En el Verifica de RTVE.es, Sara García Lamelas nos plantea unos casos problemáticos de esta cuestión del conflicto realidad/avatares por el uso de la IA: 

Tres perfiles falsos de mujeres influencers creadas con inteligencia artificial (IA) han estado vendiendo productos de belleza, ropa o suplementos alimenticios a través de vídeos y fotos en la plataforma TikTok Shop sin avisar de que sus protagonistas no son reales y sin etiquetar todos sus contenidos como artificiales. En VerificaRTVE analizamos el impacto de estas cuentas con un abogado especializado en derecho digital y su potencial riesgo para la salud mental de las adolescentes y jóvenes con una psicóloga especializada en baja autoestima. * 

El problema se nos plantea no desde la credibilidad, sino desde la declaración de la naturaleza de aquellos a los que seguimos convencidos de que son humanos. Esto es algo más que vender. El problema se plantea, por ejemplo, desde la perspectiva del "antes y el después" del uso de una crema de belleza, por ejemplo. ¿Qué sentido tiene usarla siguiendo el embellecimiento del avatar? Por muy guapa que se nos muestre en el después, ese después no existe porque no existe un antes. Los granos desaparecidos nunca existieron; las arrugas tampoco. Nada mejoró porque nada había empeorado en su inexistente vida anterior.

Sin embargo,  queda demostrado que los humanos tenemos una tendencia innata al seguimiento, aunque hay otros que la tienen hacia la rebeldía, que es lo que ha evitado el desastre evolutivo. Cuesta, pero avanzamos. La pregunta ahora es ¿así avanzamos?

En el artículo se aborda los problemas que se producen: 

"El principal problema de los avatares hiperrealistas de IA es que eliminan la imperfección", nos explica la psicóloga especializada en baja autoestima y depresión en la adolescencia Cristina Saiz. Sostiene que una influencer real, a pesar de los retoques, puede tener imperfecciones, la IA no, y alerta de que "intentar emular a una IA es un billete directo a la frustración crónica y a mayores problemas de salud mental". Saiz señala que la IA tiene la capacidad de diluir las barreras. Cuando antes veíamos una modelo de revista, "el cerebro activaba una ‘tregua’" pensando que "está retocada", pero, "con los avatares de IA que simulan cotidianidad, el cerebro procesa el estímulo como un igual, no como un anuncio publicitario".

Estos avatares "moldean" las mentes de los adolescentes y la exposición continuada a estos cuerpos "perfectos" acaba alterando lo que una joven considera "normal", destaca Saiz. "Al mirarse al espejo, su propio cuerpo, que es sano y real, empieza a ser percibido como defectuoso, aumentando los índices de ansiedad, depresión y conductas de riesgo asociadas a Trastornos de la Conducta Alimentaria (TCA)", añade.

Según nos explica esta psicóloga, "históricamente, el cuerpo de la mujer ha sido el principal objeto de consumo y el vehículo comercial más rentable". Estos perfiles cumplen "una doble función comercial: atraer la atención masculina y activar el deseo de emulación femenina". Señala que estos avatares están replicando "un estereotipo rentable y patriarcal" que "activa los circuitos de dopamina más rápidos en los usuarios". *

 

El mundo capitalista ha aprendido que no hay problemas, solo oportunidades, es decir, que la llamada "frustración crónica" generará nuevos negocios que darán beneficios con toda seguridad a los mismos que los producen.

Nuestro "avance", tras décadas condenándola, va por un incremento de la sexualización (conecte la MTV) que lleva a la emulación primero y la frustración después. Quieren ser como "ellas" o "ellos", se gastan el dinero en intentar serlo y posteriormente lo que les queda en intentar salir de la depresión por no haberlo logrado. Luego se vuelve a empezar. Lo que nos advierte la psicóloga es que estas perfecciones artificiales de los vídeos con IA son tan perfectas que no dejan margen para la emulación. El "rentable y patriarcal" señalado es la forma sucinta de nombrar el retroceso cultural que se está produciendo a pasos rápidos.

Las consecuencias son esas frustraciones constantes, las depresiones de caballo (¡qué expresión popular!), los suicidios, la separación de grupos radicales, etc. Es decir todos los males que nos han contado las películas norteamericanas, pero normalizados y rentables.

Que sean las mujeres las principales víctimas es acoger las ventajas económicas e industriales del patriarcado: la belleza es triunfo y la belleza cuesta. Por eso la proposición de esta belleza de IA, artificial, genera personas artificiales, fachada, pero poderosas en la medida en que son imitadas por otros. El etiquetado como IA es esencial, pero solo una parte en la medida en que se va imponiendo. ¿Qué importancia tiene, al fin y al cabo, que la belleza no sea natural? Lo que nos lleva a su creación y difusión como parte de un programa socio-cultural que prende con fuerza en personas necesariamente inseguras, que necesitan modelos de referencia porque creen que con ello serán admiradas. La inseguridad es un gran negocio.

¿Sirve de algo denunciar estas prácticas de belleza fraudulenta? Probablemente no, pero hay que intentarlo. Más allá, de la denuncia está la fijación de otro tipo de modelos más allá de las apariencias que, hoy más que nunca, engañan.

Que estemos confiando en avatares para charlar, para hablar del futuro o sobre cómo debemos ser, que se llegue al amor sustitutivo nos dice mucho de nuestro estado, de nuestra soledad, de la indiferencia ambiental, de lo poco que valemos y de lo poco que nos valoramos realmente. 

* Sara García Lamelas "Influencers creadas con IA para vender productos en TikTok y sus riesgos para la salud mental" RTVE.es / VerificaRTVE  26/05/2026 https://www.rtve.es/noticias/20260526/influencers-creadas-ia-productos-tiktok-riesgos-salud-mental/17084517.shtml

La IA y los Oscar

 Joaquín Mª Aguirre (UCM)

La polémica ya está presente  para la edición de los premios Oscar. Como era previsible, cuestión de tiempo, no solo los tradicionales puestos de trabajo desaparecen por el uso rentable de la IA, sino que entra en el mundo del arte, en este caso del Cine. ¿Puede considerarse artística una interpretación de la IA con forma de "actores"? Disney y Marvel ponen en la calle a una parte de su personal, pero ahora toca uno de los ejes del cine, los actores y, como anticipa la academia, la posibilidad de que accedan a los premios Oscar las interpretaciones generadas por la IA.

El caso de la reconstrucción artificial del actor Val Kilmer, después de muerto y con permiso de la familia, ha puesto sobre el escenario la posibilidad de que pudieran estar nominados en el futuro. En estos tiempos donde todo es promocional, la "simple" nominación ya es un acto que sirve de cara al público.

La cuestión que está de fondo nunca ha abandonado al cine americano: ¿arte o industria? Como siempre se han decantado por lo segundo, la idea de ahorrar y aumentar los beneficios es seductora para una industria carente de imaginación secuela tras secuela, remake tras remake.

Por ello, la Academia de Cine trata de aclararse de cara a los Oscar. En RTVE.es leemos:

Como parte de su revisión anual de las reglas de elegibilidad, la Academia está abordando una de las mayores preocupaciones de la comunidad cinematográfica mundial: la inteligencia artificial generativa.

Las nuevas reglas establecen que “las herramientas no ayudan ni perjudican las posibilidades de obtener una nominación” y que la Academia y cada rama “evaluarán el logro teniendo en cuenta el grado en que un humano estuvo en el centro de la autoría creativa al elegir qué película premiar”. También se reservan el derecho de solicitar más información al equipo cinematográfico sobre la naturaleza del uso de IA y la “autoría humana”.

En cuanto a la elegibilidad de las interpretaciones, solo se considerarán los roles “demostrablemente interpretados por humanos con su consentimiento”. La organización declinó comentar si la próxima interpretación generada por IA de Val Kilmer sería elegible, ya que los cineastas aún no la han presentado.

Una apariencia no es un actor, por un lado, pero también podría depender de cómo se acredite a Kilmer en la película: como Val Kilmer o de otra forma. También se puede tomar como ejemplo a Andy Serkis como Gollum, una colaboración entre humano y tecnología para la interpretación final.

“Lo revisaremos caso por caso”, dijo Kramer. “Nosotros, como todos en nuestra industria y en el mundo, evaluaremos esto cada año”.

Hay menos ambigüedad en las categorías de guion, donde las reglas establecen que “los guiones deben estar escritos por humanos para ser elegibles”.*

 

Lo cierto es que todo queda en el aire. ¿Qué es eso de que "una apariencia no es un actor"? Todo lo que aparece en pantalla, por definición, es una apariencia. Si es un actor, se llama "teatro". Tratar de distinguir entre "apariencias" no tiene mucho sentido y me temo que eso de decidir si la "apariencia artificial" aprendió del actor previo, es decir, si ha sido entrenada, como se suele decir, tampoco da mucho de sí, a menos que den premio a los "entrenadores" de "apariencias".

Por otro lado, la Academia no está desvinculada de la industria, por lo que la influencia para producir nominaciones a las interpretaciones de la IA pronto caerán. Serán utilizadas como patentes de corso, como legitimaciones del uso.

Evidentemente, lo que hay de fondo es el debate entre arte y negocio. Que el cine se mueve en los dos campos es indudable, lo importante es lo que valoramos y si nos importa el camino hasta llegar ahí. Me parece que el titular de RTVE.es se adelanta en afirmar demasiado pronto que no habrá IA en los Oscars. Es cuestión de tiempo y de la promoción adecuada.

Que voces, gestos, movimientos, miradas, etc. sean generadas por una IA es hundir un arte que está muy necesitado de otro tipo de promoción. ¿La reacción del público? Ha ido cambiando a lo largo del tiempo y finalmente las nuevas generaciones lo acabarán aceptando como algo normal en todos los aspectos de la vida. Habrá, por supuesto, nostálgicos, pero de ellos se acaban diluyendo.

Este miércoles en nuestro cinefórum tenemos una película que encumbró y mitificó a un actor, James Dean. Se trata de "Rebelde sin causa" (Nicholas Ray 1955). ¿Podría alcanzar la IA este estatus revolucionario de toda una generación, crear un "mito", algo al alcance de muy pocos. 

* "Los premios Óscar de la Academia primarán la autoría humana creativa frente a la IA" RTVE.es  2/05/2026 https://www.rtve.es/noticias/20260502/premios-oscar-academia-primaran-autoria-humana-creativa-frente-a-ia/17050681.shtml

El reducido espacio de lo humano

 Joaquín Mª Aguirre (UCM)

Cada día hay algo nuevo, cada día nos sorprenden haciendo artificialmente algo que creíamos poder hacer solo nosotros. Pero esto se va reduciendo cada día y el "nosotros" se reduce  en beneficio de la IA, que resulta ser más activa de lo que pensábamos.

No hay día, pues, que no nos sorprendan con novedades. Ya sea por motivos positivos (se hacen cosas buenas) como por negativos, lo cierto es que la Inteligencia artificial está ahí, es noticia porque todavía nos sorprende ver que hace cosas que no esperábamos,  aunque estas son cada día menos.

Una noticia que nos traen en 20minutos nos reduce un poco más el espacio de lo humano:

La canción Another Day Old, del cantante Eddie Dalton, ha alcanzado los puestos número 2 y 3 en la lista oficial de singles del Reino Unido. Pero ahora ha trascendido que la aterciopelada voz de Dalton es en realidad solo líneas de código generado por una inteligencia artificial (IA).

Presentado como un maestro del blues afroamericano, retratado en las portadas de sus álbumes como un hombre de rostro curtido cantando en habitaciones con poca luz y llenas de humo, Eddie Dalton canta Another Day Old, una emotiva meditación sobre el envejecimiento.*

 

Cada día nos encontramos en los medios noticias y desmentidos, nada es lo que parece. La canción es un caso más de cómo somos engañados por parte de unas industrias que no tienen límites y, lo que es peor, no quieren tenerlos.

El cine de ciencia ficción lleva tiempo planteando las serias dudas que algunos humanos tienen sobre sí ellos mismos son humanos o solo lo parecen, del mismísimo Blade Runner, todo un clásico, a la más reciente Ex-máquina (Alex Garland 2014), la reflexión sobre lo que significa ser humano en tiempos de máquinas e IA combinados no ha cesado. La cuestión es que ha dejado de sorprendernos en las pantallas y ha pasado a hacerlo en nuestras cuestiones más cotidianas.

Las noticias, es decir, aquello que nos cuentan y creemos saber sobre el mundo, está llenas de denuncias y desmentidos, La foto no es real, el personaje no es real, las voces no son reales y un largo etcétera de casos que aumenta cada día.

Si el afamado cantante, ese que escuchamos con placer por sus sentimientos, que nos emociona, es resultado de la inteligencia artificial resulta no ser humano. Se nos hunden los esquemas... a algunos. ¿Qué quiero decir? Pues sencillamente que los que tengan un cierto sentido del pasado pueden resistir, esconderse entre sus viejos discos, viejos libros, viejas películas..., pero que la generación que está creciendo rodeada de impostura es probable que deje de preocuparse por esto, por todo esto.

¿Qué me importa si es real o fruto de la IA?, pensarán muchos. ¿Qué importa si tu "mejor amigo" es un chatbot, si tu asesor en muchas materias es una IA, si tus profesores, si tus médicos, etc. forman parte de la misma legión irreal que te rodea? En una generación lo que hoy nos causa extrañeza se convierte en "normalidad". Los raritos seremos nosotros.

Queda una cuestión importante. La capacidad de engaño parece ser infinita. Nuestras herramientas para construirnos un mundo asimilable son cada vez menos ciertas. ¿Será la indiferencia lo que nos queda? Me vuelvo a mis viejos discos, mis viejos libros, mis viejas películas. 

   

* "Un cantante de blues viral por alcanzar la cima de las listas de éxitos de Reino Unido resulta ser una IA" 20minutos 12/04/2026  https://www.20minutos.es/musica/cantante-blues-viral-alcanzar-cima-listas-exitos-reino-unido-resulta-ser-ia_6957107_0.html