Los peligros de la lectura de nuestros pensamientos

 Joaquín Mª Aguirre (UCM)

"Si ya es peligroso que te lean lo que tienes en el móvil, imagínate que te lean lo que tienes en la cabeza". Son palabras del neurocientífico Rafael Yuste, director del Centro de Neurotecnología de la Universidad de Columbia (NY). Están dichas en el vídeo reportaje de RTVE.es que lleva por titular "Un descodificador traduce el significado de lo que se oye o imagina a partir de imágenes de la actividad cerebral". Como suele ser cada vez más habitual en este tipo de investigaciones que se adentran en la naturaleza humana, la entradilla nos tranquiliza y trata de evitar los reparos que el propio título sugiere: "Se trata de un sistema que solo funciona si cuenta con la colaboración del usuario para preservar su privacidad" y "Los investigadores esperan que pueda ayudar a las personas que han perdido la capacidad de hablar".

Es característico de este tipo de noticias, las que se acercar a los límites, asegurar que son las buenas causas las que las motivan y no otros pensamientos. Las dos entradillas tratan de tranquilizarnos: a) no se puede hacer contra nuestra voluntad, y b) es una ayuda para las personas. Una buena causa. Es la forma de mostrarse hacia el exterior y eliminar resistencias y temores, de tranquilizar y evitar corrientes de opinión pública. Sin embargo, la opinión del profesor Yuste en el mismo vídeo del noticiario refleja dos cosas, la opinión de un especialista en el campo y el temor que se nos ha colado a todos al leer el titular.

En el texto de la noticia se nos explica el adelanto: 

Un grupo de investigadores estadounidenses ha desarrollado un descodificador semántico que puede traducir, en un flujo continuo de texto, el significado aproximado de la historia que una persona escucha o imagina en silencio a partir de imágenes de su actividad cerebral.

Un estudio que publica este lunes Nature Neuroscience presenta este descodificador, que funciona a partir de la resonancia magnética funcional (IRMf) y que, a diferencia de otros, no requiere de cirugía neuroinvasiva para su uso.

El objetivo de la decodificación del lenguaje es hacer grabaciones de la actividad cerebral del usuario y con ellas predecir las palabras que estaba oyendo o imaginando, ha explicado en una rueda de prensa virtual el coordinador del estudio, Alexander Huth, de la Universidad de Texas en Austin (EE.UU).

El nuevo dispositivo "no recupera las palabras exactas, eso es muy difícil usando este enfoque, pero se puede recuperar la idea general", ha agregado otro de los firmantes, Jerry Tang, del mismo centro educativo.  Aproximadamente la mitad de las veces, cuando el descodificador ha sido entrenado para monitorizar la actividad cerebral de un participante, la máquina produce un texto que, aunque no es literal, se acerca mucho al significado previsto de las palabras originales.

"Esperamos que la decodificación del lenguaje pueda ayudar a restaurar la comunicación a las personas que han perdido la capacidad de hablar debido a una lesión o enfermedad", ha expresado Tang.* 

La "imprecisión" del sistema producido se ejemplifica así: "... un participante que escuchó a un orador decir: "Todavía no tengo el carné de conducir", sus pensamientos se tradujeron como: "Ella todavía no ha empezado a aprender a conducir"." No es muy tranquilizador, la verdad. De nuevo, esta falta de literalidad absoluta intenta ser ejemplo del éxito y, a la vez, tranquilizadora por su "imprecisión". Como puede apreciarse, la "imprecisión" es mínima. No conviene todavía que sea demasiado precisa por los peligros que pueda suponer.

En estos tiempos en que se ha puesto encima de la mesa el problema de la Inteligencia Artificial y de sus posibles efectos en distintos campos y aplicaciones, la cuestión del "control", de la "responsabilidad" empieza a ser preocupante. La IA también ha participado en este proyecto "aprendiendo" las pautas del pensamiento de los sujetos y convirtiéndolo en salida de palabras. Evidentemente, la IA no es responsable de nada; son los que la usan aplicándola a diferentes tareas los que tienen la responsabilidad. Por eso siempre se nos dicen los grandes beneficios que tienen para la "humanidad", aunque luego estos se traduzcan en otra cosa.

La investigación hoy está controlada por la industria; es quien la financia y la que espera resultados que permitan su comercialización o aplicación en determinados campos. Los científicos cuentan poco o nada. Entregarán los resultados de sus investigaciones y algunos rezarán para que se usen en una buena causa. Eso ocurre desde los productos químicos, la energía nuclear hasta llegar a la Inteligencia Artificial y sus aplicaciones hoy en día.

Muchos dirán que no es su responsabilidad lo que otros hacen, pero no es un consuelo. Gran parte de la investigación de este tipo está siendo bien aprovechada por parte de las dictaduras para poder mantener su control sobre la sociedad. Así ocurre con muchas tecnologías, que son rápidamente aplicadas al control y vigilancia. Estos países, buenos pagadores, utilizan el desarrollo tecnológico para reforzar su poder. Se controla lo que se gasta, dónde se van, con quién se habla. Y ahora, lo que se piensa.

El desarrollo incontrolado de la IA en las democracias basándose en las libertades del mercado y la ausencia de responsabilidad es solo una parte. En realidad, el control que tienen las grandes compañías de nosotros, consiguiendo nuestros datos, comerciando con ellos, aplicándolos a nuestra manipulación se hacen en nombre del mercado, que es cada vez menos una opción de libertad y más un espacio de control.

Todos dicen que es para "mejorar nuestra experiencia", según reza en las páginas que nos obligan a aceptar para acceder a los servicios. La democracia es irrelevante; lo importante es la compra venta de datos, algo que permite acceder a nuestro pasado, presente y futuro. En realidad, que se pueda leer nuestros pensamientos es un hecho de confirmación, porque ya se comprenden nuestros comportamientos, igualmente predecibles. Pensar es casi un hecho accesorio cuando nuestros pensamientos son inducidos, estimulados a través de otras técnicas que las neurociencias ponen a disposición del mercado.

Los "problemas" de los que nos hablan no son más que pequeñas limitaciones que se disuelven en la nueva potencia de procesamiento de datos. No somos tan diferentes (¡un penoso descubrimiento!) como nos imaginamos y siempre es posible mejorar. El reportaje de RTVE.es señala: 

Tampoco se puede entrenar el decodificador con las IRMf de una persona e intentar usarlo con otra, pues los resultados no son válidos. Los autores indicaron que se tomaban "muy en serio" la preocupación de que un dispositivo de este tipo pudiera llegar a usarse con malos fines y han trabajado para evitarlo.

Sin embargo, Tang ha reconocido que todo puede cambiar, dependiendo de hacia dónde avance la tecnología en general, por eso hay que seguir investigando las implicaciones para la privacidad mental y ser proactivos con políticas que la protejan.* 

Pero desgraciadamente, las implicaciones para la privacidad, como se señala, no reciben las mismas inversiones. Los que advierten no suelen tener la misma fortuna que los que avanzan hasta conseguir la financiación para proyectos cuya aplicación positiva, por mucho que se diga, será marginal en relación con aquellos a los que eso de la privacidad  importa poco, a la que consideran un obstáculo absurdo que se interpone entre ellos y sus beneficios.

Por mucho que se vigile y se advierta, el provecho real está en los desaprensivos, por un lado, y en los dictadores, que ven una nueva ventaja, llegando más lejos que los dictadores a los que suceden. En las democracias y países ricos, parece que estamos dispuestos a vender nuestros pensamientos muy baratos. No le damos importancia y vendemos nuestra intimidad. Pero allí donde el poder es implacable, hay que guardar a buen recaudo pensamientos y acciones por lo que pueda pasar.

Puede que a usted le dé igual que le lean la mente, que piense que no tiene interés para nadie. Se equivoca. Sus pensamientos interesan a los que quieren saber quién es usted, lo que puede hacer en el futuro en cualquier dimensión, ya sea política, económica o de cualquier sentido. Entre unos y otros, usted —que se cree tan libre— acaba siendo un juguete. Puede que se arreglen algunos trastornos del leguaje, pero seguro es que en muchas zonas del mundo que se les cambiará la vida a muchos. Si su móvil ya no tiene secretos, su cabeza pronto tampoco los tendrá. Es la Sociedad del Monitoreo, que amplía su campo de acción. Palabras, conducta, acciones y ahora pensamientos.

Toda tecnología tiene dos caras, se puede usar para el bien o para el mal. La Historia nos dice que el mal le saca mejor provecho.  

* "Un descodificador traduce el significado de lo que se oye o imagina a partir de imágenes de la actividad cerebral" RTVE.es / EFE 1/05/2023 https://www.rtve.es/noticias/20230501/descodificador-cerebral-traduce-significado-se-oye-imagina/2442886.shtml