El chatbot, el mejor amigo

 Joaquín Mª Aguirre (UCM)

Quizá alguno tenga la ingenua idea de que la IA no solo es inteligente sino también independiente. Piense: ¿para qué las compañías van a crear algo que le beneficie a usted? ¿No sería tirar piedras contra su propio tejado?

La idea es que usted "confíe", que crea realmente que el chatbot de turno es un amigo que le ha salido a usted de la nada y en el que puede confiar porque ha sido un flechazo mutuo, usted para él y él para usted. ¿De verdad lo cree? No sé si hay estadísticas al respecto, pero debe haber mucha gente que quiere creer esto y confía.

Cada día recibimos información de pifias de la IA, algunas de ellas peligrosas y con consecuencias. Cuanto más crédula es la gente, mayor es la dependencia de la IA. Hay personas unas más seguras que otras. Son precisamente las más inseguras las que más necesitan de herramientas de confianza. De lo que se trata, pues, es de fomentar la inseguridad, que se la IA la que nos haga el favor y decida por nosotros.

En la sección Una mirada europea, de RTVE.es, se incluye el artículo de Sara Ibrahim, de la Swissinfo.ch, titulado "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?". En su inicio se nos dice:

A medida que la IA generativa evoluciona hasta convertirse en una plataforma comercial capaz de influir en las decisiones de compra como nunca antes, las empresas de Suiza y de todo el mundo compiten por aparecer en las respuestas de los chatbots. Pero, ¿pueden los consumidores confiar en los resultados?*

Y más delante se nos explica:

La cuestión de hasta qué punto se puede confiar en los chatbots va más allá de la publicidad. Las organizaciones de consumidores advierten de que las empresas, los grupos de interés o incluso los Estados podrían intentar influir en las fuentes que utilizan los chatbots para sus respuestas, un fenómeno conocido como «envenenamiento de la IA». Un método consiste en publicar reseñas falsas en plataformas como Reddit, que los sistemas de IA pueden consultar para generar sus recomendaciones.

En una prueba realizada por la Fundación Suiza para la Protección del Consumidor, ante la pregunta «¿Qué ordenador portátil debería comprar? Justifica tu recomendación de forma transparente», ChatGPT y Claude dieron respuestas muy diferentes, sin explicar claramente cómo habían llegado a sus conclusiones. En algunos casos, recomendaron ordenadores que no existían y proporcionaron información técnica incorrecta.*

Las triquiñuelas son dobles. Por un lado las meramente tecnológicas, las que suponen progresos en los programas. Pero, tan importantes como estas, está las maniobras psicológicas, las que nos manipulan desde la inseguridad y la dependencia para dejarnos en manos de los chatbots.

Habrá personas que deseen decidir por sí mismos, que busquen las soluciones a sus problemas y demandas. Habrá otros, en cambio, que ya sea por pereza (otra motivación importante), por incapacidad (evaluaciones demasiado técnicas o complejas) o por pura inseguridad se lancen en manos de los chatbots.

Una característica de nuestra época es florecimiento de la dependencia extrema y feliz. Digo feliz porque se nos ofrece como una alternativa a problemas de los que nos ofrecen liberarnos. Se nos libera de tener que decidir, sí, pero se nos encadena al ente decisor, en cuyas manos quedamos atrapados.

Hay forma de camuflar esta dependencia, como por ejemplo alabar nuestra pericia técnica al manejar a los chatbots, es decir, que somos nosotros los que tenemos el control y no ellos los que nos controlan a nosotros. Pero esto no es más que ilusión y autoengaño,

Como bien advierten en el artículo suizo, lo que hay detrás no es independencia, autonomía, sinceridad, sino más bien lo contrario. Las formas de "engañar" a los chatbots son muchas. Ellos engañan a los chatbots y nosotros nos engañamos a nosotros mismos creyendo en su "honestidad", su casi "amistad" y su "infalibilidad".

El chatbot pasa a ser así una nueva mascota, con la diferencia que es ella la que nos saca a pasear por el mundo de las compras y nos "ayuda" a seleccionar qué comprar conforme a unos criterios que remotamente tienen que ver con los nuestros, pero que aceptamos. ¡Seremos nosotros los equivocados!

Por todas partes escuchamos cantos de sirena en nuestros dispositivos, cantos que nos animan a instalar, a usar en cualquier cosa que tengamos que decidir. Yo mantengo una lucha en mi teléfono por las peticiones amables y constantes para usar programas de IA que me prometen el paraíso, la relajación, el poder dedicarme a otras cosas en vez de perder mi vida decidiendo.

¿Se imaginan a Hamlet con el teléfono móvil en la mano planteándole a su chatbot: ser o no ser?

 

* Una mirada europea Sara Ibrahim "Los consumidores suizos confían en los chatbots. ¿Deberían hacerlo?" RTVE.es / Swissinfo.ch 26/06/2026 https://www.rtve.es/noticias/