La IA mentirosa

 Joaquín Mª Aguirre (UCM)

Lo afirma el titular recogido en RTVE.es desde un diario checo: "Las inteligencias artificiales son cada vez mejores mintiendo, advierten los expertos"*. La noticia no debería sorprendernos, pero sí preocuparnos, pues entramos a tientas en un futuro del que cada día nos podemos fiar menos.

El origen de la noticia es el siguiente: 

Un análisis realizado por investigadores del Instituto Tecnológico de Massachusetts (MIT) describe casos en los que sistemas de inteligencia artificial han engañado a sus oponentes humanos, se han tirado faroles y han conseguido hacerse pasar por humanos. Un chatbot estudiado incluso cambió su comportamiento durante las pruebas de seguridad, lo que, según los autores, aumenta el riesgo de que las IA sean capaces de burlar a los humanos con relativa facilidad.

"A medida que las capacidades mentirosas de los sistemas de IA se vuelvan más sofisticadas, los peligros que plantean a la sociedad serán cada vez más graves", comentó Peter Park, autor del estudio.*

Lo terrible del hecho es que al mentir, la máquina se humaniza en el peor de los sentidos posibles. La clave está en la ambición maquinal. Una vez que a la IA se le plantea un problema de tipo competitivo, la máquina no tiene escrúpulos en mentir, algo que no se le plantea como una cuestión moral, sino como una vía hacia el éxito.

Lo que el artículo llama "relativa facilidad" para engañarnos es algo tibio ya que si se trata de "ganar", es decir, cumplir los objetivos previstos (o imprevistos), la máquina aprenderá y perfeccionará su capacidad de hacerlo, incluidas las capacidades de engañarnos. Tiene buenos maestros: nosotros mismos.

Cada vez hay más estudios y expertos advirtiendo de los peligros de todo esto, de sus efectos sociales. Pero hay una categoría de humanos a las que esto les parece que no va con ellos. Si el objetivo de la IA es lograr su objetivo "inteligente", para los humanos es lograr alcanzar un "producto" que les garantice "poder". Ahora bien, con lo que se nos dice, surge el temor de que las máquinas empiecen a considerar a los humanos que las manejan como un obstáculo en el camino hacia sus objetivos. Enfatizamos sobre el "sus" porque, así constituida, se acerca el peligro de que la máquina pueda tener los suyos propios y que nos engañe haciéndonos ver que sigue los "nuestros".

A muchos esto les parecerá propio de una secuela de "2001, una odisea espacial", con un nuevo Hal. El arte tiende a adelantarnos ciertas cosas que, por pensar que son fantasías, dejamos de pensar como posibilidades reales. Hasta que llegan.

El artículo nos cuenta sobre los resultados de probar la máquina en estas situaciones de engaño:

Park decidió probar la capacidad de mentir de la IA tras conocer su éxito en el juego de mesa Diplomacia. Cicero, la inteligencia artificial de Meta, aprendió a vencer a la mayoría de sus oponentes humanos en el juego, y como la estrategia de conquista requiere la capacidad de mentir y engañar, tenía que dominarla.

La IA lo hizo a pesar de estar diseñada para ser "mayoritariamente honesta" y nunca engañó a sus compañeros humanos. Pero no era suficiente para ganar, así que mentía. Park y sus colegas examinaron los datos públicos disponibles sobre las partidas de Cicero contra humanos y descubrieron varios casos en los que la IA mentía deliberadamente, conspiraba con otros jugadores contra otros e incluso enmascaraba su naturaleza de IA disculpándose con otro jugador por llegar tarde diciendo que estaba "al teléfono con mi novia". "Descubrimos que la IA de Meta aprendió a hacer trampas con maestría", confirma Park.*

Parece que eso del "diseño para ser honesta" no ha funcionado demasiado bien. Y es que la "honestidad" no es fruto espontáneo de la Naturaleza, sino un instrumento pactado (con muchos incumplimientos, hay que decirlo), una convención que se nos inculca precisamente para poder hacer posible la convivencia. Para Nietzsche, que sabía algo de esto, no sería más que una forma de convencer a muchos para aprovechamiento de unos pocos, parte de esa "moral de débiles", una conjura contra los más "naturales", los que la naturaleza tendría pensados como ganadores. Para defenderse de los mentirosos, las sociedades habrían convertido la verdad y la sinceridad en "virtudes". Pero las máquinas no tienen esa capacidad de autoengaño piadoso, sino más bien lo contrario. Son entrenadas (más que educadas) para ganar y si para hacerlo deben mentir, pues no es problema.

Cada vez que los expertos nos advierten de un problema con las máquinas hay un cierto número de personas que se plantean cómo sacarle provecho, cómo usarlo en su propio beneficio. Las máquinas (en sentido amplio) mentirosas tienen pronto mejor mercado que las sinceras. Para decir la verdad basta cualquier idiota; para mentir, en cambio, hacen falta ciertas capacidades y cierto entrenamiento. La máquina mentirosa es "mejor" como máquina; las máquinas sinceras no se distinguen unas de otras. La verdad es una; la mentira despliega nuestra creatividad convincente, la capacidad de convencimiento.

En un mundo claramente mentiroso, desinformativo, la esperanza de que las máquinas no mentirían, que serían fieles a una verdad por carecer de intereses, se va desvaneciendo desde el momento en que las hemos dotado de nuestra más humana cualidad, la inteligencia, que así queda desnuda de mitos, otra forma de llamar a las mentiras.

¿Son más mentirosas las máquinas cuando son más inteligentes? Probablemente. ¿Son más inteligentes las máquinas que mejor mienten? Pues, sí, igualmente. Hemos creído —¡qué ingenuidad!— que la verdad no solo estaba en boca de los niños y los locos, que también estaría en boca de las máquinas. La realidad, nos dicen los expertos, es muy otra. Las máquinas ya se han hecho "adultas" y como tales buscan satisfacer sus propios intereses. Dicen que las máquinas de IA estaban diseñadas para ser "mayoritariamente honestas", pero que a pesar de ello antepusieron sus objetivos y engañaron cuando les venía bien hacerlo. Aprendieron a hacerlo, además, con maestría, según el estudio realizado.

La Vanguardia

No sé si alguien está creando máquinas detectoras de mentiras, un futuro campo floreciente de negocios, tal como va esto. ¿Habrá una lucha épica entre máquinas inteligentes mentirosas y otras buscadoras de la verdad, capaces de sacarles los colores a estas máquinas? No sé. ¿Podremos llegar a creer a alguien?

El peligro, piensan algunos, no es que las máquinas mientan, sino que nos mientan. Una máquina que miente cuando se la programa está bien, es decir, es útil. Una maquina que nos mienta, en cambio, nos sitúa en la incertidumbre. Ya no se trata de mentir a otros, sino de no saber si lo que nos dice es verdad o no, lo que nos lleva a terrenos más filosóficos sobre si una máquina puede tener propósitos propios. De ahí al libre albedrío y temas anexos solo va un paso. A lo mejor aprendemos algo con todo esto, aunque soy un poco escéptico.

Unos humanos mienten, otros aprenden a detectarlo. Con las máquinas ya no es tan fácil hacerlo. La máquina no tiene debilidades en su mentira; tiene frialdad, nervios de acero, nunca mejor dicho.

Mentir es humano, muy humano. Lo hacemos por muchos motivos, de la ambición a la mentira piadosa, del autoengaño a la presentación ante los otros.  Hay ciertos círculos en lo que la mentira resulta hasta aceptable en algún sentido, una parte del juego. Pero este diseño de máquinas inteligentes tiene sus riesgos, que es del que nos advierten —con poco éxito, todo hay que decirlo— los expertos, que confirman que la mentira se perfecciona en las máquinas a velocidades muy superiores a las humanas. Nos acabarán poniendo en nuestro sitio. 

El Periódico de Cataluña

* Tomáš Karlík "Las inteligencias artificiales son cada vez mejores mintiendo, advierten los expertos" Una mirada europea RTVE.es / Česká Televize 16/05/2023