La IA y el falso diálogo con los muertos

 Joaquín Mª Aguirre (UCM)

El desarrollo de la Inteligencia Artificial debería ir acompañado de algo llamado "Sentido Común Artificial", pero me temo que no hemos llegado a esos niveles de complejidad. La inteligencia (sea esto lo que sea) no lo es todo. Es más, puede complicarse si la elevamos a una categoría que prescinda de ese sentido común que conlleva el elemento maduro. Por otro lado, las oportunidades de desarrollo en campos de rápidos beneficios también alejan ese equilibrio deseable, pero ¿a quién le importa eso?

Los nuevos campos se desarrollan a enorme velocidades, lo que impide el control y el poder pensar en los efectos que puede tener en ellos. Se nos vende optimismo para descubrir después que muchas de esas aplicaciones generan efectos perversos o contraproducentes, pero ¿quién va a parar un mundo en el que se busca ante todo el beneficio, dar primero y ganar con ello?

En Independent en español se nos avisa de un nuevo campo sensible y de cuyos efectos ya algunos avisan. Me refiero a la construcción de sustitutos "inteligentes" de las personas fallecidas, algo que se supone ayudaría a pasar los duelos de una forma más llevadera.

Se nos cuenta inicialmente la historia de Michael Bommer, un enfermo terminal de cáncer de colon, que ha decidido entrenar un sistema de inteligencia con su propia voz y conocimientos. Armado de una táblet y un micrófono, Bommer trata de registrar todo aquello que sirva para montar su versión con IA. La finalidad es que su esposa pueda dialogar con "él" de forma creíble tras su muerte:

Ella le dijo que una de las cosas que más extrañaría sería poder hacerle preguntas cuando quisiera, porque es muy culto y siempre comparte su sabiduría, recordó Bommer durante una entrevista reciente con The Associated Press en su casa en un suburbio arbolado de Berlín.

Esa conversación le dio a Bommer una idea: recrear su voz usando inteligencia artificial para que perdurara después de su muerte. 

El emprendedor de 61 años se asoció con su amigo en Estados Unidos, Robert LoCascio, director general de Eternos: una plataforma de legado generada por IA. En dos meses, construyeron “una versión interactiva y completa de IA” de Bommer, el primer cliente de este tipo para la empresa. 

Eternos, que obtuvo su nombre de la palabra italiana y latina para “eterno”, afirma que su tecnología permitirá a la familia de Bommer “interactuar con sus experiencias de vida y puntos de vista”. Se encuentra entre varias empresas que han surgido en los últimos años en lo que se ha convertido en un espacio en crecimiento para la tecnología de IA relacionada con el duelo.*

¿Es una forma de hacer un duelo más llevadero o de generar una "adicción" que se extienda en el tiempo? ¿Es "bueno" estar preguntando al "difunto" sobre qué hacer en la vida? He entrecomillado los dos términos —bueno y difunto— porque estos se vuelven relativos, inestables. Para una persona insegura, el poder consultar a su marido en lo que le queda de vida puede ser "bueno" desde su punto de vista, pero ¿no puede ser considerado negativo desde muchos otros? ¿A quién le toca decidirlo? El hecho de que fuera Bommer el que decidió dejar una versión de asesoramiento de sí mismo, ¿no nos dice algo? Pero es solo un caso.

En el artículo se nos habla además de una serie de proyectos en marcha sobre estas cuestiones relacionadas con el duelo:

Una de las startups más conocidas en este área, StoryFile con sede en California, permite a las personas interactuar con videos pregrabados y utiliza sus algoritmos para detectar las respuestas más relevantes a las preguntas formuladas por los usuarios. Otra empresa, llamada HereAfter AI, ofrece interacciones similares a través de un “Avatar de Historia de Vida” que los usuarios pueden crear respondiendo a preguntas o compartiendo sus propias historias personales.

También está “Project December”, un chatbot que pide a los usuarios que rellenen un cuestionario con datos clave sobre una persona y sus rasgos. Posteriormente se pagan 10 dólares para simular una conversación de texto con el personaje creado. Otra compañía, Seance AI, ofrece sesiones de espiritismo ficticias de forma gratuita. Características adicionales, como recreaciones de voz generadas por IA de sus seres queridos, están disponibles por una tarifa de 10 dólares.

Mientras que algunos han adoptado esta tecnología como una forma de lidiar con el duelo, otros se sienten incómodos con que las empresas utilicen inteligencia artificial para tratar de mantener interacciones con aquellos que han fallecido. Otros se preocupan de que podría hacer el proceso de duelo más difícil porque no hay un cierre.

Katarzyna Nowaczyk-Basinska, investigadora en el Centro para el Futuro de la Inteligencia de la Universidad de Cambridge, quien es coautora de un estudio sobre el tema, dijo que se sabe muy poco sobre las posibles consecuencias a corto y largo plazo de usar simulaciones digitales para los muertos a gran escala. Por ahora, sigue siendo “un vasto experimento tecno-cultural”.

“Lo que realmente distingue a esta era, y es incluso sin precedentes en la larga historia de la búsqueda de la humanidad por la inmortalidad, es que, por primera vez, los procesos de cuidado de los muertos y las prácticas de inmortalización están completamente integrados en el mercado capitalista”, dijo Nowaczyk-Basinska.*

Este último aspecto sobre su integración en el "mercado capitalista" es importante porque quiere decir varias cosas. La primera es que los difuntos ya no son lo que eran. Las sociedades se han construido en gran medida sobre nuestras relaciones con la muerte, sobre nuestras creencias sobre lo que ocurre tras ella y sobre nuestras relaciones-diálogo con los que se van. Suele ser una cultura basada en unas tradiciones que afectan a las festividades, aniversarios y lo que se hace en ellos, sobre cómo nos vestimos, qué comemos, etc.

Todo esto cambia si nuestro "diálogo" ya no es interior, basado en nuestros recuerdos de la persona fallecida, sino un "consulting" con una inteligencia artificial que capta sus conocimientos y formas de expresión. Del recuerdo activo, personal, pasamos a la escucha de la construcción inteligente, donde "inteligente" solo significa que responde a lo que se le pregunta, un absurdo peligroso. Por mucho que se la entrene, la IA no es el fallecido, sino un sucedáneo con la capacidad de generar "nuevas respuestas" que nunca existieron. Ya no tratamos con los difuntos, sino con algo distinto y novedoso. No hemos inventado la inmortalidad sino un nuevo tipo de "fantasmas".

Sorprende la ligereza con la que los medios hablan del fenómeno, del "hablar con los muertos", por ejemplo, induciendo a un error o a un autoengaño. Expresiones como la anterior, "resucitó" o "convirtió" a su familiar en un chatbot, por muchas comillas que les pongan, muestran la ligereza con la que nos manejamos en esto. Es un mal síntoma, muestran la inmadurez con la que se afronta la soledad tras la muerte y la muerte misma.

Si tenemos en cuenta los errores que se detectan en las actuales IA, la complicada forma de entender lo humano, lo cultural en su complejidad, la idea de un sustituto artificial de los muertos plantea serias dudas sobre su eficiencia y sobre el principio mismo.

La cultura de la muerte no es un juego. Afecta a nuestra forma de ver el mundo y a nuestra forma de construirlo y relacionarnos con él. La conversión en negocio va más allá de la venta de flores o de ropa de luto. Afecta a algo profundamente humano.

BBC

La mecanización de la muerte, la conversión del difunto en voz artificial tiene sus efectos. Si conversión en "producto" y su paso por las leyes del mercado hacen esperar duelos adictivos, en los que la IA se asegure de su pervivencia a nuestro lado. En un mundo cuyo mal es la soledad, la presencia de las voces de los muertos —de su imagen clonada— es una tentación poderosa.

Los medios recogen casos del cierre abrupto de estos chatbots amigables, ya sean de difuntos, ex parejas o de todo aquello de lo que nos cuesta desprenderse. Quizá empecemos a padecer chantajes con una segunda muerte de nuestros seres queridos, la muerte en el mercado.

Los seres humanos somos "seres para la muerte", como señalaba el existencialismo. Tenemos toda la vida para enfrentarnos a ella. Las relaciones que establecemos nuestros fallecidos nos ayudan a entenderlo, un proceso personal de aprendizaje. Es algo que forma parte de nuestra personalidad. Interferir en ello, puede ser un buen negocio, pero no una buena idea.

* Kirsten Grieshaber, Haleluya Hadero "Los dolientes ya pueden hablar con una versión IA de los fallecidos. ¿Ayudará eso a superar el luto?" Independent en Español 5/06/2024 https://www.independentespanol.com/tecnologia/dolientes-version-ia-fallecidos-b2557426.html