Joaquín Mª Aguirre (UCM)
Imagínese
que mañana nos descubren que alguno de nuestros líderes políticos, culturales,
etc. es en realidad un avatar, que está creado con IA y que todas las imágenes
suyas que consumimos son creadas artificialmente. Sus discursos, sus sonrisas, sus
enfados, etc. han salido de un algoritmo creado para que se convierta en
nuestro líder y a nosotros en sus seguidores y votantes.
¡Menudo
fiasco! Sin embargo, estoy seguro de que a muchos tampoco les importaría mucho
dado el avance hacia una sociedad donde la persona ya no es alguien sino algo, una suma de discursos generados alrededor de un centro, un
conjunto de imágenes vinculadas con las que se puede interactuar en el tiempo y
que nos responde conforme a nuestras propias expectativas.
Esto ya
no es ciencia-ficción, sino algo que ya se está desarrollando en muchos campos
guiados por ese fino instinto comercial que anida en el cerebro de muchos y
piensa en términos de ahorro y ganancia. No pondría yo la mano en el fuego por
la realidad de algunos.
Debatía
ayer con una doctoranda que trabaja en el mundo periodístico de la
fotografía sobre el cuidado que hay que tener hoy con la idea de realidad, algo
que ha saltado por los aires no por motivos filosóficos, sino tecnológicos.
Hemos conseguido adulterar todos los "documentos" que nos permitían
establecer la idea de realidad, separándola de la ficción, lo real de lo imaginado y ahora de lo representado. Ya no se vive en una
fantasía, sino que mis fantasías viven para mí, con los peligros que esto
conlleva de acabar no sabiendo qué son los demás y, en última instancia, al
filosófico "quién soy yo", pero pasado por un filtro de consumo.
En el Verifica de RTVE.es, Sara García Lamelas nos plantea unos casos problemáticos de esta cuestión del conflicto realidad/avatares por el uso de la IA:
Tres perfiles falsos de mujeres influencers creadas con inteligencia artificial (IA) han estado vendiendo productos de belleza, ropa o suplementos alimenticios a través de vídeos y fotos en la plataforma TikTok Shop sin avisar de que sus protagonistas no son reales y sin etiquetar todos sus contenidos como artificiales. En VerificaRTVE analizamos el impacto de estas cuentas con un abogado especializado en derecho digital y su potencial riesgo para la salud mental de las adolescentes y jóvenes con una psicóloga especializada en baja autoestima. *
El
problema se nos plantea no desde la credibilidad,
sino desde la declaración de la naturaleza de aquellos a los que seguimos convencidos
de que son humanos. Esto es algo más que vender. El problema se plantea, por
ejemplo, desde la perspectiva del "antes y el después" del uso de una
crema de belleza, por ejemplo. ¿Qué sentido tiene usarla siguiendo el
embellecimiento del avatar? Por muy guapa que se nos muestre en el después, ese después no existe porque no
existe un antes. Los granos
desaparecidos nunca existieron; las arrugas tampoco. Nada mejoró porque nada
había empeorado en su inexistente vida anterior.
Sin
embargo, queda demostrado que los
humanos tenemos una tendencia innata al seguimiento, aunque hay otros que la
tienen hacia la rebeldía, que es lo que ha evitado el desastre evolutivo.
Cuesta, pero avanzamos. La pregunta ahora es ¿así avanzamos?
En el artículo se aborda los problemas que se producen:
"El principal problema de los avatares hiperrealistas de IA es que eliminan la imperfección", nos explica la psicóloga especializada en baja autoestima y depresión en la adolescencia Cristina Saiz. Sostiene que una influencer real, a pesar de los retoques, puede tener imperfecciones, la IA no, y alerta de que "intentar emular a una IA es un billete directo a la frustración crónica y a mayores problemas de salud mental". Saiz señala que la IA tiene la capacidad de diluir las barreras. Cuando antes veíamos una modelo de revista, "el cerebro activaba una ‘tregua’" pensando que "está retocada", pero, "con los avatares de IA que simulan cotidianidad, el cerebro procesa el estímulo como un igual, no como un anuncio publicitario".
Estos avatares "moldean" las mentes de los adolescentes y la exposición continuada a estos cuerpos "perfectos" acaba alterando lo que una joven considera "normal", destaca Saiz. "Al mirarse al espejo, su propio cuerpo, que es sano y real, empieza a ser percibido como defectuoso, aumentando los índices de ansiedad, depresión y conductas de riesgo asociadas a Trastornos de la Conducta Alimentaria (TCA)", añade.
Según nos explica esta psicóloga, "históricamente, el cuerpo de la mujer ha sido el principal objeto de consumo y el vehículo comercial más rentable". Estos perfiles cumplen "una doble función comercial: atraer la atención masculina y activar el deseo de emulación femenina". Señala que estos avatares están replicando "un estereotipo rentable y patriarcal" que "activa los circuitos de dopamina más rápidos en los usuarios". *
El mundo capitalista ha aprendido que no hay problemas, solo oportunidades, es decir, que la llamada "frustración crónica" generará nuevos negocios que darán beneficios con toda seguridad a los mismos que los producen.
Nuestro "avance", tras décadas condenándola, va por un incremento de la sexualización (conecte la MTV) que lleva a la emulación primero y la frustración después. Quieren ser como "ellas" o "ellos", se gastan el dinero en intentar serlo y posteriormente lo que les queda en intentar salir de la depresión por no haberlo logrado. Luego se vuelve a empezar. Lo que nos advierte la psicóloga es que estas perfecciones artificiales de los vídeos con IA son tan perfectas que no dejan margen para la emulación. El "rentable y patriarcal" señalado es la forma sucinta de nombrar el retroceso cultural que se está produciendo a pasos rápidos.
Las consecuencias son esas frustraciones constantes, las depresiones de caballo (¡qué expresión popular!), los suicidios, la separación de grupos radicales, etc. Es decir todos los males que nos han contado las películas norteamericanas, pero normalizados y rentables.
Que sean las mujeres las principales víctimas es acoger las ventajas económicas e industriales del patriarcado: la belleza es triunfo y la belleza cuesta. Por eso la proposición de esta belleza de IA, artificial, genera personas artificiales, fachada, pero poderosas en la medida en que son imitadas por otros. El etiquetado como IA es esencial, pero solo una parte en la medida en que se va imponiendo. ¿Qué importancia tiene, al fin y al cabo, que la belleza no sea natural? Lo que nos lleva a su creación y difusión como parte de un programa socio-cultural que prende con fuerza en personas necesariamente inseguras, que necesitan modelos de referencia porque creen que con ello serán admiradas. La inseguridad es un gran negocio.
¿Sirve de algo denunciar estas prácticas de belleza fraudulenta? Probablemente no, pero hay que intentarlo. Más allá, de la denuncia está la fijación de otro tipo de modelos más allá de las apariencias que, hoy más que nunca, engañan.
Que estemos confiando en avatares para charlar, para hablar del futuro o sobre cómo debemos ser, que se llegue al amor sustitutivo nos dice mucho de nuestro estado, de nuestra soledad, de la indiferencia ambiental, de lo poco que valemos y de lo poco que nos valoramos realmente.
* Sara García Lamelas "Influencers creadas con IA para vender productos en TikTok y sus riesgos para la salud mental" RTVE.es / VerificaRTVE 26/05/2026 https://www.rtve.es/noticias/20260526/influencers-creadas-ia-productos-tiktok-riesgos-salud-mental/17084517.shtml
