El teléfono maravilloso o que no decidan por usted

 Joaquín Mª Aguirre (UCM)

Me llega un aviso al móvil. Mi compañía me ofrece —con descuento— la adquisición de otro del que asegura que sabe lo que necesito antes de que yo lo sepa. Lo que se presenta como un gran avance es lo típico de cualquier dictadura: saben lo que queremos antes de que nosotros los sepamos. Y como la IA no se equivoca, los equivocados, dudosos, indecisos, etc. somos nosotros,  que vamos contra las evidencias de la decisión de que se ha elegido lo mejor de lo mejor.

Creo que vamos por un camino peligroso. Hay que empezar a reivindicar el error, el error propio, el que surge de nuestras decisiones y variaciones, cambios de gusto, etc. Esto de que una IA elija lo que necesitamos es una trampa de la que será difícil salir una vez puesta en marcha.

Nuestro televisor nos ofrece aquello que nos va a gustar; nuestro teléfono hace otro tanto y nos lleva a páginas o direcciones que nos dejarán contentos y satisfechos. Y así "porque te gustó X..., te ofrecemos Z" es la fórmula que se emplea habitualmente. Para ello se necesita nuestro historial de compras y ganarse la confianza del consumidor. La IA trabaja en ese sentido. Por eso necesita cantidades enormes de datos, para ajustar nuestro perfil de consumo. El resto es estrategia: conjugar aquello de lo que disponen con nuestras preferencias y venderlo bien, con toque de modernidad futurista: ¡qué moderno es usted!

Evidentemente, solo es una parte de la estrategia. Los intentos de vendernos algo que parece que hemos elegido nosotros está en el principio de la "labia comercial", del vendedor que te envuelve, el que te dice que la chaqueta nos sienta bien o que el color de la camisa nos hace más jóvenes,

Luego las máquinas han seguido con esta tarea. Son frecuentes las condenas a las tecnológicas por priorizar interesadamente, por dar preferencia en las búsquedas a productos predeterminados por los que obtienen beneficios extras. Los tribunales han condenado a Google en varias ocasiones por este tipo de práctica.

Pero ahora es nuestro es nuestro teléfono —nuestro nuevo "mejor amigo"— el que acaba ofreciéndonos aquello que no sabíamos que deseábamos con fervor, apasionadamente. Para conseguirlo, simplemente pásate a los nuevos modelos.

Pero las consecuencias, como señalábamos, son muy peligrosas. Tener un exceso de confianza en aquello que la máquina nos ofrece tiene consecuencias no tanto por la compra en sí, sino por lo que supone de abandono de la capacidad de decisión.

La función de estas máquinas ya no es ayudarnos, sino sustituirnos, que es otra cosa. Si fuéramos a una tienda y el comerciante nos mirara a la cara y decidiera qué es lo que necesitamos o nos diera lo mismo que otras veces porque ya sabe lo que queremos o necesitamos, seguramente reivindicaríamos nuestra libertad de decidir y no volveríamos a esa tienda. Pero parece que nos fiamos más de las máquinas que de las personas, algo que también es fruto de una serie de operaciones para ganar nuestra confianza, que va de la inocencia absoluta a presumir de tener la máquina perfecta (la vanidad es de siempre un resorte psicológico importante para las ventas).

Reducimos lo más valioso que tenemos: la capacidad de decidir, que está por encima de la posibilidad de acertar o equivocarse. Vamos avanzando claramente hacia un tiempo autoritario, cuya característica más clara es decidir por nosotros. Para que les funcione necesitan de una serie de recursos retóricos, que se centran en nuestro miedo a equivocarnos y en la superioridad atribuida al que decide, sea experto, dirigente o máquina.

La máquina se disfraza con la idea de que nos conoce bien, mejor que nosotros mismos. Los avances en tecnología se complementan con los que permiten controlar el comportamiento y la decisión. Hoy se hacen enormes inversiones en este tipo de procesos, que en última instancia son procesos de compra de voluntades y ventas de personas o bienes, ya sean de "consumo" comercial o político. 

Para decidir por usted tiene que conocerle bien, tener acceso y manejar todos sus datos, acciones, compras, lugares, etc. Todo eso se procesa y da un resultado. No se trata solo de que le satisfaga, sino de que esos datos son guardados y pueden ser usados más adelante para otro tipo de decisiones. Una vez ganada su confianza, el algoritmo pasa a tener un segundo objetivo que a lo mejor usted desconoce.

Que se diseñen máquinas o programas para decidir por nosotros, que estos se nos cuelguen en ese objeto múltiple que es teléfono móvil, no es una buena señal. Ya sea por pereza, por ignorancia o por un mal entendido sentido del progreso, no se debería renunciar a decidir, aunque uno se equivoque. Rectificar, nos decían, es de sabios. No equivocarse nunca es otra cosa.

Puede que su teléfono sea "inteligente", pero no por eso deje usted de serlo.