Clonados, la jungla virtual

 Joaquín Mª Aguirre (UCM)

Podría ser una simple anécdota, pero es un anticipo de problemas futuros, de problemas graves. Es un nuevo inicio de algo que estallará más allá de estos casos que a algunos hasta les parecerán divertidos y eso es parte del problema.

En 20minutos nos cuentan el caso de la falsa entrevista del periodista Manuel (Manu) Sánchez promocionando un producto. Se le han clonado imagen y voz creando un "texto audiovisual" que da el pego. Todo gracias a esa IA que a todos hace gracia y todos, según parece, saben usar, de niños de 12 años que realizan falsos vídeos sexuales con las caras de sus compañeras de clase, a publicistas y difamadores políticos. 

Manu Sánchez, presentador de Antena 3 Noticias, ha expuesto este jueves en Y ahora Sonsoles el uso fraudulento de su voz y su imagen en un vídeo creado mediante Inteligencia Artificial con fines delictivos. Los responsables de esta estafa, según ha explicado el periodista, han recurrido a esta tecnología para clonar tanto su rostro como el de la nutricionista Sandra Moñino y simular una entrevista falsa en la que ambos avalarían un supuesto producto milagroso para adelgazar.*

 Los "fines delictivos" no son otros que vender un "producto" adelgazante aprovechando la popularidad que algunos alcanzan. El producto será mejor o peor, pero necesita vincularse a algo conocido, que son las personas clonadas. En este sentido, la nueva tecnología sigue necesitando los viejos métodos, los del rostro conocido, que sirve para convencer a los que confían en aquellos que conoce. Es un sistema que parasita el prestigio que otros puedan tener para convencer de sus objetivos de venta, voto o cualquier otro.

Por todas partes —así concluye también el texto de Manu Sánchez— se pide que se regule el uso de la IA, a la que se le atribuye el origen de estos desmanes. Pero es como pedir que se regule los asaltos a los bancos o los asesinatos. ¿Cómo "regular" algo que ya nace perverso? Nos queda creer que no saben que están haciendo algo mal aquellos que las usan de esta forma perversa. No lo creo. Es demasiado ingenuo pensar que quien hace un vídeo porno poniendo la cara de una compañera de clase no sabe lo que hace. Si antes se decía que "sabía latín", ahora se "sabe de IA".

La pregunta es sencilla: ¿saben lo que hacen los que la crean y la hacen tan "asequible" los malos usos que se le pueden dar? Claro que lo saben, pero la cuestión no es esa. La respuesta sobre los usos es clara: "no es mi problema". Ellos hace la IA, otros la comercian y, finalmente, otros las usan. Es como el que utiliza un coche en un atraco, ¿es responsable la fábrica? Pues no, le dirán.

Pero las implicaciones del uso de la IA falsificando todo tipo de imágenes sonidos y lo que hay detrás son muchas y peligrosas. La primera es, evidentemente, qué se puede creer, de qué podemos fiarnos. De la publicidad a la política, de las pastillas para adelgazar a los efectos de un bombardeo, lo cierto es que nuestra capacidad para decidir se ve mermada por la posibilidad de ser engañados, seducidos o mal informados.

La expresión "ver para creer" es ya de otro siglo, de otra era. Hoy "ver" es un acto sometido a sospecha, que puede ser manipulado ante una realidad que desaparece en un mundo de pantallas.

Alfred Hitchcock dedicó algunas de sus mejores películas, como Vértigo (1958) o La ventana indiscreta (1954), a reflexionar sobre cómo el hecho de ver podía ser manipulado para hacer creer. Hoy, en un mundo repleto de cámaras fijas y movibles, observado desde todos los ángulos, nos damos cuenta de que podemos ser manipulados unos y reproducidos otros a partir de aquello que considerábamos creíble, lo que vemos y escuchamos. Es precisamente con ese desfase entre el papel de nuestros sentidos y los nuevos modos de captación y construcción de un universo virtual donde somos manipulables.

Hace un par de días comentábamos aquí la estrategia de José Luis Ábalos diciendo que no "se reconocía" en los audios grabados de sus conversaciones telefónicas; no había dicho aquello que se escuchaba. Dejaba así abierta una posibilidad de defensa, argüir que aquella voz no era la suya, sino una clonación de su voz realizada por alguien.

Lo que empezó siendo una protesta de los actores en Hollywood porque se podían usar sus voces clonadas es ahora un problema de otro orden, más abierto y complejo, entrando de lleno en lo delictivo, en la manipulación. Los más afectados no son solo aquellos que han sido clonados, sino el sistema informativo en su conjunto, que recibe un torpedo en la línea de flotación por la credibilidad.

En el artículo, Manu Sánchez se da cuenta de ello. El artículo señala que el periodista:

[...] ha lanzado un mensaje a la audiencia para que respalde del periodismo honesto y contrastado. "Que la gente siga confiando en nosotros, en los medios que debe confiar. Porque tenemos un problema los que nos dedicamos a informar de las cosas que pasan", ha subrayado.*

Efectivamente, pero el problema lo tenemos casi todos, pues lo que se hunde es la idea de confianza, base del periodismo. En un mundo en el que todos van provistos de teléfonos y cámaras, en el que se tardan segundos en que una noticia dé la vuelta al mundo, que sea reproducida por miles o millones de personas, jugar con la credibilidad y el prestigio de los informadores es un enorme peligro. ¿Cómo, una vez sembrada la duda, se recupera la credibilidad?

Una noticia falsa clonada con rostros y voces de confianza se convierte en un peligro instantáneo. No contentos con emitir noticias falsas, ahora necesitan hacerse pasar por verdaderas utilizando los rostros y voces que puedan hacer bajar las defensas. Los espectadores y oyentes confían, confían en quien les transmite una noticia y les ofrece credibilidad. Por eso, los maliciosos apuntan a esas personas y medios. La falsedad no es solo del hecho; está la falsificación de la forma, del cómo, del quién.

Muchos medios se han visto forzados a mantener sistemas de detección de falsedades porque saben que cuanto más prestigio tengan serán más falseados. La confianza en ellos les hace atractivos para ser falseados.

Es un serio problema que va más allá de la venta fraudulenta de productos para adelgazar. Vamos hacia una cultura que ha deshecho la confianza. Esto se puede traducir en indiferencia social hacia la información (¿qué me importa si todo puede ser mentira?) y en el uso constante de la falsificación.

En vez de tener una sociedad más segura, su conversión en virtual (que beneficia a las empresas que ahorran personal) nos ha abierto una nueva y peligrosa jungla en la que las estafas, las suplantaciones, las clonaciones, las falsas noticias, los falsos interlocutores, las falsas tiendas, etc. están a la orden del día. 

Todo lo que nos llega puede ser real... o no. 

 

* Rosa Chaneta "El presentador de informativos Manu Sánchez, tras el fraude con su voz e imagen: "Siento un profundo enfado"" 20minutos 26/06/2025 https://www.20minutos.es/television/presentador-informativos-manu-sanchez-tras-fraude-con-su-voz-imagen-siento-un-profundo-enfado-5725941/