Clonados, la jungla virtual

 Joaquín Mª Aguirre (UCM)

Podría ser una simple anécdota, pero es un anticipo de problemas futuros, de problemas graves. Es un nuevo inicio de algo que estallará más allá de estos casos que a algunos hasta les parecerán divertidos y eso es parte del problema.

En 20minutos nos cuentan el caso de la falsa entrevista del periodista Manuel (Manu) Sánchez promocionando un producto. Se le han clonado imagen y voz creando un "texto audiovisual" que da el pego. Todo gracias a esa IA que a todos hace gracia y todos, según parece, saben usar, de niños de 12 años que realizan falsos vídeos sexuales con las caras de sus compañeras de clase, a publicistas y difamadores políticos. 

Manu Sánchez, presentador de Antena 3 Noticias, ha expuesto este jueves en Y ahora Sonsoles el uso fraudulento de su voz y su imagen en un vídeo creado mediante Inteligencia Artificial con fines delictivos. Los responsables de esta estafa, según ha explicado el periodista, han recurrido a esta tecnología para clonar tanto su rostro como el de la nutricionista Sandra Moñino y simular una entrevista falsa en la que ambos avalarían un supuesto producto milagroso para adelgazar.*

 Los "fines delictivos" no son otros que vender un "producto" adelgazante aprovechando la popularidad que algunos alcanzan. El producto será mejor o peor, pero necesita vincularse a algo conocido, que son las personas clonadas. En este sentido, la nueva tecnología sigue necesitando los viejos métodos, los del rostro conocido, que sirve para convencer a los que confían en aquellos que conoce. Es un sistema que parasita el prestigio que otros puedan tener para convencer de sus objetivos de venta, voto o cualquier otro.

Por todas partes —así concluye también el texto de Manu Sánchez— se pide que se regule el uso de la IA, a la que se le atribuye el origen de estos desmanes. Pero es como pedir que se regule los asaltos a los bancos o los asesinatos. ¿Cómo "regular" algo que ya nace perverso? Nos queda creer que no saben que están haciendo algo mal aquellos que las usan de esta forma perversa. No lo creo. Es demasiado ingenuo pensar que quien hace un vídeo porno poniendo la cara de una compañera de clase no sabe lo que hace. Si antes se decía que "sabía latín", ahora se "sabe de IA".

La pregunta es sencilla: ¿saben lo que hacen los que la crean y la hacen tan "asequible" los malos usos que se le pueden dar? Claro que lo saben, pero la cuestión no es esa. La respuesta sobre los usos es clara: "no es mi problema". Ellos hace la IA, otros la comercian y, finalmente, otros las usan. Es como el que utiliza un coche en un atraco, ¿es responsable la fábrica? Pues no, le dirán.

Pero las implicaciones del uso de la IA falsificando todo tipo de imágenes sonidos y lo que hay detrás son muchas y peligrosas. La primera es, evidentemente, qué se puede creer, de qué podemos fiarnos. De la publicidad a la política, de las pastillas para adelgazar a los efectos de un bombardeo, lo cierto es que nuestra capacidad para decidir se ve mermada por la posibilidad de ser engañados, seducidos o mal informados.

La expresión "ver para creer" es ya de otro siglo, de otra era. Hoy "ver" es un acto sometido a sospecha, que puede ser manipulado ante una realidad que desaparece en un mundo de pantallas.

Alfred Hitchcock dedicó algunas de sus mejores películas, como Vértigo (1958) o La ventana indiscreta (1954), a reflexionar sobre cómo el hecho de ver podía ser manipulado para hacer creer. Hoy, en un mundo repleto de cámaras fijas y movibles, observado desde todos los ángulos, nos damos cuenta de que podemos ser manipulados unos y reproducidos otros a partir de aquello que considerábamos creíble, lo que vemos y escuchamos. Es precisamente con ese desfase entre el papel de nuestros sentidos y los nuevos modos de captación y construcción de un universo virtual donde somos manipulables.

Hace un par de días comentábamos aquí la estrategia de José Luis Ábalos diciendo que no "se reconocía" en los audios grabados de sus conversaciones telefónicas; no había dicho aquello que se escuchaba. Dejaba así abierta una posibilidad de defensa, argüir que aquella voz no era la suya, sino una clonación de su voz realizada por alguien.

Lo que empezó siendo una protesta de los actores en Hollywood porque se podían usar sus voces clonadas es ahora un problema de otro orden, más abierto y complejo, entrando de lleno en lo delictivo, en la manipulación. Los más afectados no son solo aquellos que han sido clonados, sino el sistema informativo en su conjunto, que recibe un torpedo en la línea de flotación por la credibilidad.

En el artículo, Manu Sánchez se da cuenta de ello. El artículo señala que el periodista:

[...] ha lanzado un mensaje a la audiencia para que respalde del periodismo honesto y contrastado. "Que la gente siga confiando en nosotros, en los medios que debe confiar. Porque tenemos un problema los que nos dedicamos a informar de las cosas que pasan", ha subrayado.*

Efectivamente, pero el problema lo tenemos casi todos, pues lo que se hunde es la idea de confianza, base del periodismo. En un mundo en el que todos van provistos de teléfonos y cámaras, en el que se tardan segundos en que una noticia dé la vuelta al mundo, que sea reproducida por miles o millones de personas, jugar con la credibilidad y el prestigio de los informadores es un enorme peligro. ¿Cómo, una vez sembrada la duda, se recupera la credibilidad?

Una noticia falsa clonada con rostros y voces de confianza se convierte en un peligro instantáneo. No contentos con emitir noticias falsas, ahora necesitan hacerse pasar por verdaderas utilizando los rostros y voces que puedan hacer bajar las defensas. Los espectadores y oyentes confían, confían en quien les transmite una noticia y les ofrece credibilidad. Por eso, los maliciosos apuntan a esas personas y medios. La falsedad no es solo del hecho; está la falsificación de la forma, del cómo, del quién.

Muchos medios se han visto forzados a mantener sistemas de detección de falsedades porque saben que cuanto más prestigio tengan serán más falseados. La confianza en ellos les hace atractivos para ser falseados.

Es un serio problema que va más allá de la venta fraudulenta de productos para adelgazar. Vamos hacia una cultura que ha deshecho la confianza. Esto se puede traducir en indiferencia social hacia la información (¿qué me importa si todo puede ser mentira?) y en el uso constante de la falsificación.

En vez de tener una sociedad más segura, su conversión en virtual (que beneficia a las empresas que ahorran personal) nos ha abierto una nueva y peligrosa jungla en la que las estafas, las suplantaciones, las clonaciones, las falsas noticias, los falsos interlocutores, las falsas tiendas, etc. están a la orden del día. 

Todo lo que nos llega puede ser real... o no. 

 

* Rosa Chaneta "El presentador de informativos Manu Sánchez, tras el fraude con su voz e imagen: "Siento un profundo enfado"" 20minutos 26/06/2025 https://www.20minutos.es/television/presentador-informativos-manu-sanchez-tras-fraude-con-su-voz-imagen-siento-un-profundo-enfado-5725941/

La IA y los muertos

 Joaquín Mª Aguirre (UCM)

Los usos de la IA no paran. Lo hacen muchas veces aprovechando los huecos del mercado, es decir, los nuestros, nuestras debilidades que es por donde pueden entrar más fácilmente. No dudo que haya aplicaciones productivas, positivas incluso "inteligentes", pero a la gente le importa el progreso en tanto en cuanto progresan ciertas cosas que tienen que ver con el "yo". En 20minutos, firmado por Mario Bordonaba, encontramos el titular "Otra empresa se suma a la última moda en IA: crear simulaciones interactivas de personas cuando fallecen"* en el que encontramos nuevas aplicaciones a las ya comentadas en su día. 

El tener una conversación con una persona fallecida, preguntarle por su infancia, su primer trabajo, emociones… es el objetivo y la visión que tiene la empresa Life´s Echo, pero con un ‘toque’ diferente, como HereAfter AI, ya que ofrece un conjunto de herramientas de IA para producir un fantasma virtual de ti mismo y que hable con tus seres queridos después de tu muerte.

Según explican desde Techradar, esto consiste en dejar como un ‘yo’ virtual para que todo lo vivido prevalezca en el momento que dejes este mundo y que tus amigos y familiares puedan interactuar con una versión ‘viva’ de ti, por decirlo de alguna manera, pero en formato digital. El funcionamiento para crear tu imagen virtual con toda tu información vivida es bastante curioso y consiste en varias entrevistas para obtener tu información.

En concreto, una entrevistadora llamada Sarah (de IA, claro) te hace cinco entrevistas de 45 minutos en la que toca prácticamente todos los aspectos de tu vida. De hecho, la compañía dice que puede realizar más de 1.000 preguntas, pero que no es una entrevista al uso, sino que es más como una charla. Al acabar las mismas realiza una transcripción de las conversaciones y la inteligencia artificial crea un modelo único de ti mimo que refleja tus historias, personalidad, tu voz... En fin, tú en forma virtual.* 

De prosperar la moda pronto habrá que distinguir un censo de "vivos", "muertos" y los "virtualizados" para uso de los primeros. El enfoque aquí varía, pues es el muerto el que se deja en herencia virtual a sí mismo.

Partimos de un principio, claro, que no se había planteado: el interés de los vivos en charlar con los muertos. Dada su imposibilidad (la charla con los muertos no había dado resultados rigurosos hasta el momento), no existe mucha experiencia acumulada al respecto, datos que garanticen que tenemos mucho interés en los que se han ido y podría haber muchas sorpresas. Puede que no haya mucho interés y que los vivos, antes de irse, tengan que sembrar la curiosidad para ser contactados tras el fallecimiento.

"Esto no os lo cuento ahora" o "Para saber el final, acércate a mi tumba", por poner dos ejemplos, no vaya a ser que te gastes un dineral en futuro post mortem y luego no vaya nadie a charlar con el superviviente virtual.

Para quitarle un poco de morbo no se dice "hablar con los muertos", sino "interactuar", que es mucho más moderno y se escapa a las tradiciones oscuras sobre esta cuestión. Esa imagen que hemos visto en películas antiguas en las que los familiares y amigos acuden a la vidente de turno, hace tiempo que no las vemos en los filmes, señal de que ya no tenemos mucho interés. Si se consiguiera que la IA nos llamara por teléfono, a lo mejor habría más aceptación, porque estamos el día entero pegados a él. "—¿Pero tú no estabas muerto?— es un buen comienzo de conversación, pero, una vez superada la sorpresa, se pasa el interés: "—¡Otra vez el pesado de mi abuelo muerto! ¡No se lo cojo!"

No sé si algunos dan para 1.000 preguntas; tampoco si las respuestas serán sinceras y el "yo" resultante será creíble, un factor importante. Si cuando te encuentras con el difunto virtual resulta que este es irreconocible, puede pasar como esas "memorias" que algunos escriben hacia el final de sus vidas y que los historiadores y biógrafos se dedican a desmontar. Una cosa es lo que somos, otra la que nos gustaría ser y luego están las múltiples de los que han  tratado con nosotros.

La Naturaleza es sabia y si los muertos están callados será por algo. Pero el ego es demasiado grande para cualquier tumba, hornacina o mar por el que se desperdiguen las cenizas. 

 

* Mario Bordonaba "Otra empresa se suma a la última moda en IA: crear simulaciones interactivas de personas cuando fallecen" 20minutos 27/12/2024 https://www.20minutos.es/tecnologia/inteligencia-artificial/empresa-se-suma-ultima-moda-ia-crear-simulaciones-interactivas-personas-fallecen-5665852/

Problemas con lo real

Joaquín Mª Aguirre (UCM)

Todo el mundo parece estar muy preocupado por "lo real". La CNN me dejaba también preocupado está mañana con la aplicación de las técnica de captura de movimiento a las imágenes de los políticos. Hasta el momento hemos visto esta tecnología aplicada a personajes como el mono César, el líder de la rebelión de la nueva entrega de la serie "El planeta de los simios", pero ¿y si aplicamos —como nos mostraba la CNN— el "invento" a Donald Trump, Barack Obama o Vladimir Putin? La cuestión empieza entonces a ser un poco más preocupante.

Mélenchon se dedicó a replicarse virtualmente en distintos escenarios durante la última campaña presidencial francesa. En teoría, mientras tú contemplabas su figura hologramática, el Mélenchon real estaba en algún lugar de la Galia haciendo lo mismo que su reproducción (y viceversa). Pero pensemos que alguien le jaquea el invento y que comienza a pedir el voto para Marine LePen ante la cara atónita de sus asistentes. Con la tecnología, lo primero que se aprende es que ninguna es inviolable. Ha habido recientes incidentes en el "lío qatarí" por la introducción de piratas informáticos que han cambiado los rótulos con las declaraciones en el canal Al-Jazeera causado problemas diplomáticos. Ahora se va más allá de los rótulos cambiados.

Lo que la CNN nos mostraba, entre sonrisas de circunstancias y con cierta preocupación subyacente, es a Obama, a Putin y a Trump dando discursos inexistentes. El origen está en una empresa que ha realizado una "marioneta Obama", es decir, un primer plano perfecto de Barack Obama al que se le puede introducir cualquier grabación de voz del ex presidente, que la dirá con total realismo. Pero la cuestión va más allá.

En el vídeo de la CNN, un actor situado en el recuadro superior izquierdo gesticulaba y hablaba, algo que era replicado por un Putin perfectamente creíble en otro recuadro. Un tercer recuadro permitía comparar al Putin real con el trucado. La imagen trucada convertía en verdadera a la otra, sin que tuviéramos constancia —ya puestos a dudar— de que la que se nos ofrecía como real lo fuera realmente. Aquel Putin de la pantalla daba el pego de forma absoluta. No era más que una perfecta marioneta televisiva guiada por su marionetista.

Los periodistas se mostraban preocupados pero dejaban una puerta abierta a lo  peor: la tecnología mejora, avanza. Lo que ahora podríamos considerar pequeños defectos, en unos meses habrán desaparecido.

Si ahora estamos con las murgas de las "fake news", cuestión consustancial al estatus del texto respecto a algo que definimos como realidad y que los relaciona en algo que han llamado "la verdad como equivalencia", es decir, lo que se nos cuenta ocurrió, que ocurrirá con los "fake" directos en los que podremos conectar con un falso Trump o un falso Putin, pongamos por caso. Tras ellos podrían estar cualquiera que gesticulara con más expresividad que ellos, más convincente. Podrían decir locuras con las que tendría que lidiar los "originales" falsificados.

Pero no me había recuperado de las inquietudes de la CNN cuando la lectura del diario El País me vuelve a reactivar la desazón. Esta vez, el título no deja lugar a engaños, "Lo real", y lo firma el responsable de Ciencia en el diario, Javier Sampedro:

“Todo está en Internet”, decía un personaje de El Roto, y otro le respondía: “A ver, dame un bocadillo”. El chiste tiene un ángulo de crítica contra la tecnología, una de las marcas de fábrica de este extraordinario creador, pues es cierto que los desbocados avances técnicos se dan de patadas en nuestro tiempo con las miserias, estrecheces y desigualdades más escandalosas. Pero la viñeta también tiene una lectura más general y profunda, relativa a la frontera infranqueable entre lo virtual y lo real, a la aparente imposibilidad de convertir cadenas simbólicas de ceros y unos en un bocadillo, justamente.

La frontera de El Roto, sin embargo, se puede empezar a disipar en el futuro cercano. Tomemos, por ejemplo, las hamburguesas hechas con células madre. De momento solo consta públicamente la existencia de una, presentada en diciembre de 2011 con gran aparato eléctrico y la presencia ostentosa de Ray Kurzweil, inventor, músico, empresario, científico de la computación y jefe de ingeniería de Google. Aquella hamburguesa se cortó en dos trozos y cada mitad se ofreció a un crítico gastronómico de renombre. Los dos coincidieron en que la textura era muy similar a la de la carne real, aunque el sabor se resentía de su completa falta de grasa. Los científicos contratados por Kurzweil habían partido de células madre del músculo, con el previsible resultado de un ladrillo cárnico más aburrido que una tarde de domingo. Esto se podría resolver añadiendo células madre de la grasa, aunque de momento no hay noticia de ello. Pero volvamos a nuestro punto.

Por mucho que esté hecha a partir de células madre, la hamburguesa sintética seguirá siendo un objeto del mundo real, ¿no es cierto?*

Sí, absolutamente. Hay tres constataciones, a) Internet ya no es lo que era; b)  los chistes pierden actualidad y c) la hamburguesa ya es real. Por no perder el valor del ejemplo, ahora tenemos tres hamburguesas (o hasta cuatro, con una hologramática a la Mélenchon): 1) la hamburguesa que preparamos cortando el pan y poniendo dentro lo que nos apetezca; 2) la hamburguesa de la pantalla de nuestro ordenador (incomestible, puro signo); 3) la hamburguesa hecha a base de células madre (con un poco de grasa, por favor). Hay otra más: la "descripción lógica" de la hamburguesa como resultado de su escaneo o análisis para ser procesada. Es de esta de la que saldrán las posteriores.

Las posibilidades son infinitas y más allá de la política. Ya sabemos de gente que hace orejas y armas con impresoras 3D. Pero lo que la CNN nos ha mostrado es un camino muy complicado que puede llevar a consecuencias serias. Si hoy circulan vídeos, escuchas y fotos trucadas, con la tecnología que nos han presentado es fácil soliviantar a un pueblo entero haciendo llamamientos incendiarios, por ejemplo.

Ya se han creado grupos de defensa ante las "fake news" para evitar ser intoxicados. Ahora parece que habrá que profundizar en otros aspectos más complejos. Lo falso, como el diablo, se disfraza de verdadero. Máxima fantasía con el máximo realismo; esa parece ser la tendencia.

Al final, lo único real será el deseo. Es decir: solo le concederemos este estatus a aquello que deseemos creer. Si lo que el falso Obama, Putin o Trump me gusta, me lo creo. Tendremos que volver (como ya hacen las ficciones) a preguntarnos "¿quién soy yo?", "¿existe el mundo?", "¿qué es real?".

Durante siglos, la pregunta ¿qué es real? se contraponía al "sueño". ¿Cómo diferencias si estamos dormidos o despiertos si lo vivimos con la misma intensidad y su propia lógica? La aparición de la escritura (antes con la palabra misma) ya nos permitía ampliar el problema: ¿qué es verdadero? Ya no era solo la "ilusión" sino la "mentira" que es algo que afecta a la relación entre lo existente y su descripción verbal. La idea del "gran teatro del mundo" incidía en el sueño. Se creaba una nueva realidad/verdad que es la del Arte, resultado de la mediación entre lo que es y lo que puede ser, como señalaba Aristóteles. Y así hemos seguido, negociando qué es lo real, de qué nos podemos fiar, qué cada vez son menos cosas.

Lo cierto es que hemos ido perdiendo el sentido de lo real y le vamos encontrando el placer en lo virtual, que no solo avanza hacia el "realismo" (como lo mostrado por la CNN), sino hacia la interacción eficiente y emotiva a través de la Inteligencia artificial. Si puedeo tener un bocata por internet, porque no puedo tener un amigo o amiga virtual que me entienda. Es la versión de adulto harto de estar frustrado tras haber abandonado en su infancia a los "amigos imaginarios". De eso trata la interesante película "Her", ¿por qué perder el tiempo con gente que te engaña si puedes estar en diálogo constante con alguien que quiere realmente tu bien y felicidad. La "máquina otro" es el futuro. Las habrá con distintos precios, pero las habrá. Descubriremos que aceptar la realidad es duro y que es más fácil comprar o fabricarte una a tu gusto. Lo dijo ya Freud, pero no caminamos hacia la madurez sino hacia la infancia.

La seguridad del chiste filosófico del bocadillo de El Roto se ha venido abajo. Los bocadillos por Internet son posibles y si no saben muy bien todavía, se cambia el gusto o para eso está la salsa.

Termina Javier Sampedro con la confirmación:

De modo que, para satisfacer la petición del bocadillo, el personaje de El Roto necesitaría una impresora 3D con el cartucho bien cargado de células madre de músculo, a ser posible células madre de grasa y, desde luego, trigo y levadura para hacer el pan. Una vez así equipado, el tipo podrá bajarse un bocadillo de Internet. Está lejos (tal vez por fortuna), pero no hay ningún problema de principio.*

Si no hay problema de principio, quiere decir que solo lo hay de costes. Y eso es cuestión de tiempo. También es cuestión de tiempo que una inteligencia artificial (ilustrada, sin ser pedante; agradable, sin ser aduladora) conectada a una representación en la pantalla (u holograma) nos haga brillantes discursos políticos. Pero a diferencia de lo que ocurre con la todavía cara hamburguesa o bocata, los políticos —por lo que estamos viendo— pueden salir más baratos.

* Javier Sampedro "Lo real" El País 27/07/2107 https://elpais.com/elpais/2017/07/26/opinion/1501071363_719288.html