El teléfono maravilloso o que no decidan por usted

 Joaquín Mª Aguirre (UCM)

Me llega un aviso al móvil. Mi compañía me ofrece —con descuento— la adquisición de otro del que asegura que sabe lo que necesito antes de que yo lo sepa. Lo que se presenta como un gran avance es lo típico de cualquier dictadura: saben lo que queremos antes de que nosotros los sepamos. Y como la IA no se equivoca, los equivocados, dudosos, indecisos, etc. somos nosotros,  que vamos contra las evidencias de la decisión de que se ha elegido lo mejor de lo mejor.

Creo que vamos por un camino peligroso. Hay que empezar a reivindicar el error, el error propio, el que surge de nuestras decisiones y variaciones, cambios de gusto, etc. Esto de que una IA elija lo que necesitamos es una trampa de la que será difícil salir una vez puesta en marcha.

Nuestro televisor nos ofrece aquello que nos va a gustar; nuestro teléfono hace otro tanto y nos lleva a páginas o direcciones que nos dejarán contentos y satisfechos. Y así "porque te gustó X..., te ofrecemos Z" es la fórmula que se emplea habitualmente. Para ello se necesita nuestro historial de compras y ganarse la confianza del consumidor. La IA trabaja en ese sentido. Por eso necesita cantidades enormes de datos, para ajustar nuestro perfil de consumo. El resto es estrategia: conjugar aquello de lo que disponen con nuestras preferencias y venderlo bien, con toque de modernidad futurista: ¡qué moderno es usted!

Evidentemente, solo es una parte de la estrategia. Los intentos de vendernos algo que parece que hemos elegido nosotros está en el principio de la "labia comercial", del vendedor que te envuelve, el que te dice que la chaqueta nos sienta bien o que el color de la camisa nos hace más jóvenes,

Luego las máquinas han seguido con esta tarea. Son frecuentes las condenas a las tecnológicas por priorizar interesadamente, por dar preferencia en las búsquedas a productos predeterminados por los que obtienen beneficios extras. Los tribunales han condenado a Google en varias ocasiones por este tipo de práctica.

Pero ahora es nuestro es nuestro teléfono —nuestro nuevo "mejor amigo"— el que acaba ofreciéndonos aquello que no sabíamos que deseábamos con fervor, apasionadamente. Para conseguirlo, simplemente pásate a los nuevos modelos.

Pero las consecuencias, como señalábamos, son muy peligrosas. Tener un exceso de confianza en aquello que la máquina nos ofrece tiene consecuencias no tanto por la compra en sí, sino por lo que supone de abandono de la capacidad de decisión.

La función de estas máquinas ya no es ayudarnos, sino sustituirnos, que es otra cosa. Si fuéramos a una tienda y el comerciante nos mirara a la cara y decidiera qué es lo que necesitamos o nos diera lo mismo que otras veces porque ya sabe lo que queremos o necesitamos, seguramente reivindicaríamos nuestra libertad de decidir y no volveríamos a esa tienda. Pero parece que nos fiamos más de las máquinas que de las personas, algo que también es fruto de una serie de operaciones para ganar nuestra confianza, que va de la inocencia absoluta a presumir de tener la máquina perfecta (la vanidad es de siempre un resorte psicológico importante para las ventas).

Reducimos lo más valioso que tenemos: la capacidad de decidir, que está por encima de la posibilidad de acertar o equivocarse. Vamos avanzando claramente hacia un tiempo autoritario, cuya característica más clara es decidir por nosotros. Para que les funcione necesitan de una serie de recursos retóricos, que se centran en nuestro miedo a equivocarnos y en la superioridad atribuida al que decide, sea experto, dirigente o máquina.

La máquina se disfraza con la idea de que nos conoce bien, mejor que nosotros mismos. Los avances en tecnología se complementan con los que permiten controlar el comportamiento y la decisión. Hoy se hacen enormes inversiones en este tipo de procesos, que en última instancia son procesos de compra de voluntades y ventas de personas o bienes, ya sean de "consumo" comercial o político. 

Para decidir por usted tiene que conocerle bien, tener acceso y manejar todos sus datos, acciones, compras, lugares, etc. Todo eso se procesa y da un resultado. No se trata solo de que le satisfaga, sino de que esos datos son guardados y pueden ser usados más adelante para otro tipo de decisiones. Una vez ganada su confianza, el algoritmo pasa a tener un segundo objetivo que a lo mejor usted desconoce.

Que se diseñen máquinas o programas para decidir por nosotros, que estos se nos cuelguen en ese objeto múltiple que es teléfono móvil, no es una buena señal. Ya sea por pereza, por ignorancia o por un mal entendido sentido del progreso, no se debería renunciar a decidir, aunque uno se equivoque. Rectificar, nos decían, es de sabios. No equivocarse nunca es otra cosa.

Puede que su teléfono sea "inteligente", pero no por eso deje usted de serlo.

El chatbot, el mejor amigo

 Joaquín Mª Aguirre (UCM)

Quizá alguno tenga la ingenua idea de que la IA no solo es inteligente sino también independiente. Piense: ¿para qué las compañías van a crear algo que le beneficie a usted? ¿No sería tirar piedras contra su propio tejado?

La idea es que usted "confíe", que crea realmente que el chatbot de turno es un amigo que le ha salido a usted de la nada y en el que puede confiar porque ha sido un flechazo mutuo, usted para él y él para usted. ¿De verdad lo cree? No sé si hay estadísticas al respecto, pero debe haber mucha gente que quiere creer esto y confía.

Cada día recibimos información de pifias de la IA, algunas de ellas peligrosas y con consecuencias. Cuanto más crédula es la gente, mayor es la dependencia de la IA. Hay personas unas más seguras que otras. Son precisamente las más inseguras las que más necesitan de herramientas de confianza. De lo que se trata, pues, es de fomentar la inseguridad, que se la IA la que nos haga el favor y decida por nosotros.

En la sección Una mirada europea, de RTVE.es, se incluye el artículo de Sara Ibrahim, de la Swissinfo.ch, titulado "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?". En su inicio se nos dice:

A medida que la IA generativa evoluciona hasta convertirse en una plataforma comercial capaz de influir en las decisiones de compra como nunca antes, las empresas de Suiza y de todo el mundo compiten por aparecer en las respuestas de los chatbots. Pero, ¿pueden los consumidores confiar en los resultados?*

Y más delante se nos explica:

La cuestión de hasta qué punto se puede confiar en los chatbots va más allá de la publicidad. Las organizaciones de consumidores advierten de que las empresas, los grupos de interés o incluso los Estados podrían intentar influir en las fuentes que utilizan los chatbots para sus respuestas, un fenómeno conocido como «envenenamiento de la IA». Un método consiste en publicar reseñas falsas en plataformas como Reddit, que los sistemas de IA pueden consultar para generar sus recomendaciones.

En una prueba realizada por la Fundación Suiza para la Protección del Consumidor, ante la pregunta «¿Qué ordenador portátil debería comprar? Justifica tu recomendación de forma transparente», ChatGPT y Claude dieron respuestas muy diferentes, sin explicar claramente cómo habían llegado a sus conclusiones. En algunos casos, recomendaron ordenadores que no existían y proporcionaron información técnica incorrecta.*

Las triquiñuelas son dobles. Por un lado las meramente tecnológicas, las que suponen progresos en los programas. Pero, tan importantes como estas, está las maniobras psicológicas, las que nos manipulan desde la inseguridad y la dependencia para dejarnos en manos de los chatbots.

Habrá personas que deseen decidir por sí mismos, que busquen las soluciones a sus problemas y demandas. Habrá otros, en cambio, que ya sea por pereza (otra motivación importante), por incapacidad (evaluaciones demasiado técnicas o complejas) o por pura inseguridad se lancen en manos de los chatbots.

Una característica de nuestra época es florecimiento de la dependencia extrema y feliz. Digo feliz porque se nos ofrece como una alternativa a problemas de los que nos ofrecen liberarnos. Se nos libera de tener que decidir, sí, pero se nos encadena al ente decisor, en cuyas manos quedamos atrapados.

Hay forma de camuflar esta dependencia, como por ejemplo alabar nuestra pericia técnica al manejar a los chatbots, es decir, que somos nosotros los que tenemos el control y no ellos los que nos controlan a nosotros. Pero esto no es más que ilusión y autoengaño,

Como bien advierten en el artículo suizo, lo que hay detrás no es independencia, autonomía, sinceridad, sino más bien lo contrario. Las formas de "engañar" a los chatbots son muchas. Ellos engañan a los chatbots y nosotros nos engañamos a nosotros mismos creyendo en su "honestidad", su casi "amistad" y su "infalibilidad".

El chatbot pasa a ser así una nueva mascota, con la diferencia que es ella la que nos saca a pasear por el mundo de las compras y nos "ayuda" a seleccionar qué comprar conforme a unos criterios que remotamente tienen que ver con los nuestros, pero que aceptamos. ¡Seremos nosotros los equivocados!

Por todas partes escuchamos cantos de sirena en nuestros dispositivos, cantos que nos animan a instalar, a usar en cualquier cosa que tengamos que decidir. Yo mantengo una lucha en mi teléfono por las peticiones amables y constantes para usar programas de IA que me prometen el paraíso, la relajación, el poder dedicarme a otras cosas en vez de perder mi vida decidiendo.

¿Se imaginan a Hamlet con el teléfono móvil en la mano planteándole a su chatbot: ser o no ser?

 

* Una mirada europea Sara Ibrahim "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?" RTVE.es / Swissinfo.ch 26/06/2026 https://www.rtve.es/noticias/

Virus, danas y apagones

 Joaquín Mª Aguirre (UCM)

Podría ser el título de una película de desastres, género que se cultivó en los 70 con filmes como Titanic, El coloso en llamas, Aeropuerto y otras que metieron el miedo a viajar en barco, en avión o simplemente a meterse en un ascensor.

Hoy es difícil superar en las pantallas la sensación de desastre que nos rodea. No hace falta ir al cine; la realidad nos supera cada día ofreciéndonos imágenes a pie de calle sobre todo tipo de incidentes que se han convertido en parte de nuestra realidad.

Salvo el súper apagón, del que no sabemos las causas todavía, pero que es claramente "humano", virus y danas son inicialmente naturales, aunque su desarrollo depende en una gran medida de lo que hagamos frente a estos fenómenos, de cómo nos los tomemos, de las medidas de prevención de la eficacia comunicativa, etc.

Frente a un virus tenemos las vacunas y las demás medidas, como la higiene, las distancias, uso de mascarillas, etc. Frente a los torrentes de las danas, tenemos otras medidas, como no construir donde no se debe y construir lo que se debe en los lugares correctos.

Pero si hay algo que une a todos estos desastres es la información ágil y adecuada, para lo que es necesario algo que ha fallado: la coordinación y la comunicación. Pueden discutir todos quién debía tomar las medidas, dar las alertas, etc. pero es fundamental la toma rápida de decisiones adecuadas, algo comprobamos que no ha funcionado cada vez que se reúnen o son interrogados.

En RTVE.es podemos leer unos datos más de lo que sucedió en esos momentos de toma de decisiones:

El jefe de Climatología de la Agencia Estatal de Meteorología (Aemet), José Ángel Núñez, aseguró ante la jueza de Catarroja que la delegada del Gobierno en Valencia, Pilar Bernabé, propuso confinar a la población el pasado 29 de octubre, día de la dana que arrasó gran parte de la provincia de Valencia.

"Si hemos confinado por un puto virus, ¿cómo no vamos a confinar por esto?", aseveró Bernabé sobre las 19.30 horas, según José Ángel Muñoz, en el Centro de Coordinación Operativa Integrado (Cecopi) convocado en aquella fatídica jornada. Así consta en la transcripción de la declaración ante la magistrada que prestó el pasado martes y a la que ha tenido acceso RTVE.es.

Según precisa por su parte la agencia EFE citando un mensaje remitido a las 19.28 horas al delegado de Aemet en la Comunitat, Jorge Tamayo, José Ángel Núñez identifica a Bernabé como "la que vio con más decisión para llevarla a cabo". Así, recuerda que la delegada preguntó por qué no iban a confinar a la población ante una situación como esa, si ya lo habían hecho en pandemia.*

Las decisiones son una forma de cálculo, de sopesar elementos a favor y en contra de cada una de las medidas que se han de tomar. Los protocolos quieren evitar precisamente esas dudas y tardanzas que pueden hacer que lleguen demasiado tarde las medidas.

Pero el qué se pueda pasar por la cabeza de personas muy distintas, de políticos a técnicos pasando por todo tipo de profesionales implicados, es muy distinto. Cada uno hace su cálculo en términos muy diferentes. La capacidad de ponerse de acuerdo y tomar medidas adecuadas se reduce si los intereses son muy distintos.

La expresión de Pilar Bernabé, delegada del gobierno, comparando la decisión de confinamiento del virus con la de la necesidad ante la dana revela mucho de la situación que se vivió y en qué estaban pensando cada uno.

El precedente del confinamiento por el Covid estaba presente, pero podía estarlo de distinta manera: lo que lo usaban como muestra de lo que había que hacer y los que, por contra, pensaban en ello como algo que había que evitar. Confinar o no podía hacer ver lo presente —dana—, como una carencia o lo pasado —covid— como un exceso.

El temor a una respuesta política negativa por el confinamiento —es mi argumento— hizo dudar en la aplicación de las medidas, que llegaron tarde. Lo que se debate ahora entre nuestros políticos y ciudadanos es precisamente cómo se valoró la situación para la toma de decisiones.

Los más técnicos han manifestado en varias ocasiones los bloqueos políticos, las indecisiones, cómo el tiempo pasaba y no salía ninguna solución por parte de los responsables últimos. La famosa comida de Mazón puede incluirse dentro de esa dilación con la absurda esperanza de que cambiara el tiempo y desapareciera el peligro.

La situación hoy ante las amenazas de desastres es otra. Nadie quiere verse acusado de no alertar, por lo que estas alarmas saltan de continuo por viento, granizo, lluvias, vientos. Que luego se quede en nada o poco da igual, pero que nadie te pueda acusar de no avisar.

El confinamiento es una decisión que el político ve como política. Creo que sobre eso no hay mucha duda. Confinar, suspender, etc. tienen un efecto directo sobre la economía, del gasto al precio de la vivienda. Como dijo alguien en esos días, "¿Quién va a comparar ahora pisos bajos?" Si la decisión de construir en lugares peligrosos había sido económica y política, la de confinamiento también lo es. En este sentido, esta extraña relación entre delegados del gobierno y presidencias autonómicas no es lo fluida que debería ser.

Esto es ahora esencial dada la frecuencia con la que estos fenómenos de distinto tipo se está produciendo en estos últimos tiempo. Está claro que las administraciones tienen que tener unas relaciones más fluidas y sinceras, que los técnicos tienen que ser escuchados antes y que las decisiones deben ser rápidas y pensando en los ciudadanos, no en los pasados o futuros votantes. 

* "El jefe de Climatología de la Aemet dijo a la jueza que Pilar Bernabé planteó confinar a la población el día de la dana" RTVE.es / Agencias 03/06/2025 https://www.rtve.es/noticias/20250603/jefe-climatologia-aemet-jueza-pilar-bernabe-planteo-confinar-poblacion-dana/16609336.shtml

Complejo

 Joaquín Mª Aguirre (UCM)

Uno de los efectos indeseados más frecuentes de la información tal como nos llega es la parcelación de la realidad, la desconexión de lo que se nos ofrece. Un periódico, un noticiario, etc. nos ofrecen una especie de fotografía colocada en un espacio que la enmarca situándola con unos límites y unas conexiones.

La tendencia a leer y comprender las noticias aceptando su delimitación, un efecto de su constitución como "texto", acaba produciendo una incomprensión real de lo que ocurre, que nunca se da en el vacío, sino en un amplio espacio relacional.

Lo más claro que hemos tenido recientemente son los efectos de la guerra de Ucrania, algo que hemos ido comprobando cómo tiene efectos más allá de los lugares de los combates, del campo de batalla. Ese acontecimiento, la invasión, tiene toda una serie de efectos en cadena que se extienden por todo el planeta, afectando a la economía, la alimentación (crisis alimentarias), las migraciones... Cada uno de estos términos son "etiquetas" en las que englobamos diferentes sectores diferenciándolos, pero todos ellos son parte de ese espacio-tiempo que habitamos en un planeta globalizado.

Cuando leemos una noticia se nos informa de forma "puntualizada", pero se nos desconecta de otras posibles causas y de los efectos que puede tener. Todo lo más, en algunos sectores (especialmente el económico, un sector en el que cabe todo), se nos dan por parte de los analistas algunos efectos que pueden tener ciertos acontecimientos sobre otros espacios conectados. Los analistas económicos son capaces de valorar parte de los efectos, cuando, por ejemplo, son capaces de especular sobre los efectos que puede provocar en la Bolsa un determinado movimiento económico, político, bélico, etc. Pero eso es solo una parte; es el resultado de su experiencia comprobando cómo se producen movimientos en otros sectores cuando ocurre diversos acontecimientos. 

La capacidad de procesar datos para obtener previsiones de lo que puede ocurrir es lo que ha hecho que se valores las intuiciones con la ayuda de los grandes procesadores que analizan el "Big Data", una perspectiva muy diferente a la "dirigida" del análisis selectivo. El Big Data trata, por el contrario, de encontrar esos vínculos, esas conexiones entre elementos, aparentemente distanciados, pero conectados.

Cuando leemos noticias aisladas debemos realizar el ejercicio de reconexión de lo que ha sido separado de efectos y causas, de interacciones. ¿Puedo entender, por ejemplo, la noticia que me ofrece el diario El Mundo, titulada "Abandono escolar en España: aumenta la cifra de jóvenes que dejan de estudiar a partir de los 16 años" de otros textos como los que nos ofrecen RTVE.es, "Crece el ghosting laboral, cuando prescindes de una empresa sin avisar: "Creo que reciben lo que dan"" y "Los fijos discontinuos se disparan tras la reforma laboral: "Ha pasado de ser marginal a más del 10% de la contratación""

Las noticias de hoy en distintos medios nos traen aspectos aparentemente distintos. El abandono escolar, la salida de las empresas sin avisar y la multiplicación de una figura controvertida, la de los "fijos discontinuos", casi un oxímoron, ¿tienen algo en común? ¿Son fenómenos separados, distantes? Creo que son elementos —no los únicos— que forman parte de una realidad que hay que recomponer para poder comprender mejor y evitar así creer que los problemas son irresolubles. Pero la calidad de las soluciones dependen de nuestra capacidad de comprender los problemas y sus conexiones. Hay problemas que  forman parte de cadenas, más o menos visibles, de problemas. No se producen de forma aislada, sino que surgen como efecto o como causa sobre otros.

Mucho me temo que nuestras perspectivas fraccionadas no sirvan de mucho o, todo lo más, para parcheos de una realidad que se nos muestra con distorsiones e inconclusa.  Es obvio que no podemos llegar a comprender la totalidad de lo que ocurre y por qué ocurre; nadie tiene esa capacidad. Pero sí es posible, creo, intentar enfrentarse a ella desde otra perspectiva. Se ha ido aceptando que en determinados campos —la biología, la economía...— los fenómenos no están aislados (es la base de la Ecología), que unos tienen efectos, consecuencias sobre otros, ¿por qué no en otros campos? Nada hay más complejo que la realidad social y nada nos debería preocupar más que tratar de entender su funcionamiento o al menos los efectos de nuestras acciones. 

La Política se debería ocupar de analizar los efectos de sus propias acciones, aunque a veces parece que su empeño es precisamente el contrario, ocultar sus errores. Los efectos los vemos cada día. Las consecuencias de ignorarlo son enormes y muchas veces se hace imposible pararlas o volver a una situación en la que poder controlar medianamente lo que nos sucede. Por eso nada hay más dañino que quien tiene un gran poder de acción y no se preocupa por los efectos de sus acciones sobre el conjunto. Esto es terrible en un mundo globalizado en el que nadie escapa a nada.

Actuar sin pensar en las consecuencias en un mal demasiado grave en estos tiempos en los que la complejidad aumenta debido al gran número de interconexiones existentes.  Actuar con la soberbia del que cree que puede controlarlo todo es muy dañino, peligroso. Por eso se deben evitar las concentraciones excesivas de poder y fomentar el diálogo de forma que se puedan contemplar los riesgos de lo que hacemos. Escuchar está empezando a ser una necesidad desgraciadamente cada vez más ignorada. Lo complejo se vuelve complicado cuando se ignora su propia complejidad.

La vida social es compleja y sistémica, lo que quiere decir que hay muchas relaciones que no vemos o entendemos, pero que están ahí. ¿Se puede mejorar nuestra percepción? Evidentemente, sí. Pero para ello debemos evitar las falsas ilusiones, por un lado, y también los parcelamientos que dejan aislados los fenómenos dando la falsa impresión de que son simples. Como señaló Edgar Morin, "no hay cosas simples; solo simplificadas".