Joaquín Mª Aguirre (UCM)
Me
llega un aviso al móvil. Mi compañía me ofrece —con descuento— la adquisición
de otro del que asegura que sabe lo que
necesito antes de que yo lo sepa. Lo que se presenta como un gran avance es lo típico de cualquier
dictadura: saben lo que queremos antes de que nosotros los sepamos. Y como la
IA no se equivoca, los equivocados, dudosos, indecisos, etc. somos
nosotros, que vamos contra las
evidencias de la decisión de que se ha elegido lo mejor de lo mejor.
Creo
que vamos por un camino peligroso. Hay que empezar a reivindicar el error, el
error propio, el que surge de nuestras decisiones y variaciones, cambios de
gusto, etc. Esto de que una IA elija lo que necesitamos es una trampa de la que
será difícil salir una vez puesta en marcha.
Nuestro
televisor nos ofrece aquello que nos va a
gustar; nuestro teléfono hace otro tanto y nos lleva a páginas o
direcciones que nos dejarán contentos y satisfechos. Y así "porque te
gustó X..., te ofrecemos Z" es la fórmula que se emplea habitualmente.
Para ello se necesita nuestro historial de compras y ganarse la confianza del
consumidor. La IA trabaja en ese sentido. Por eso necesita cantidades enormes
de datos, para ajustar nuestro perfil de consumo. El resto es estrategia:
conjugar aquello de lo que disponen con nuestras preferencias y venderlo bien,
con toque de modernidad futurista: ¡qué moderno es usted!
Evidentemente,
solo es una parte de la estrategia. Los intentos de vendernos algo que parece
que hemos elegido nosotros está en el principio de la "labia
comercial", del vendedor que te envuelve, el que te dice que la chaqueta
nos sienta bien o que el color de la camisa nos hace más jóvenes,
Luego las máquinas han seguido con esta tarea. Son frecuentes las condenas a las tecnológicas por priorizar interesadamente, por dar preferencia en las búsquedas a productos predeterminados por los que obtienen beneficios extras. Los tribunales han condenado a Google en varias ocasiones por este tipo de práctica.
Pero
ahora es nuestro es nuestro teléfono —nuestro nuevo "mejor amigo"— el
que acaba ofreciéndonos aquello que no sabíamos que deseábamos con fervor,
apasionadamente. Para conseguirlo, simplemente pásate a los nuevos modelos.
Pero
las consecuencias, como señalábamos, son muy peligrosas. Tener un exceso de
confianza en aquello que la máquina nos ofrece tiene consecuencias no tanto por
la compra en sí, sino por lo que supone de abandono de la capacidad de decisión.
La función
de estas máquinas ya no es ayudarnos, sino sustituirnos, que es otra cosa. Si
fuéramos a una tienda y el comerciante nos mirara a la cara y decidiera qué es
lo que necesitamos o nos diera lo mismo que otras veces porque ya sabe lo que queremos o necesitamos,
seguramente reivindicaríamos nuestra libertad de decidir y no volveríamos a esa
tienda. Pero parece que nos fiamos más de las máquinas que de las personas,
algo que también es fruto de una serie de operaciones para ganar nuestra
confianza, que va de la inocencia absoluta a presumir de tener la máquina perfecta (la vanidad es de siempre un resorte
psicológico importante para las ventas).
Reducimos
lo más valioso que tenemos: la capacidad de decidir, que está por encima de la
posibilidad de acertar o equivocarse. Vamos avanzando claramente hacia un
tiempo autoritario, cuya característica más clara es decidir por nosotros. Para
que les funcione necesitan de una serie de recursos retóricos, que se centran
en nuestro miedo a equivocarnos y en la superioridad atribuida al que decide,
sea experto, dirigente o máquina.
La
máquina se disfraza con la idea de que nos
conoce bien, mejor que nosotros mismos. Los avances en tecnología se
complementan con los que permiten controlar el comportamiento y la decisión.
Hoy se hacen enormes inversiones en este tipo de procesos, que en última
instancia son procesos de compra de voluntades y ventas de personas o bienes,
ya sean de "consumo" comercial o político.
Para decidir por usted tiene que conocerle bien, tener acceso y manejar todos sus datos, acciones, compras, lugares, etc. Todo eso se procesa y da un resultado. No se trata solo de que le satisfaga, sino de que esos datos son guardados y pueden ser usados más adelante para otro tipo de decisiones. Una vez ganada su confianza, el algoritmo pasa a tener un segundo objetivo que a lo mejor usted desconoce.
Que se
diseñen máquinas o programas para decidir por nosotros, que estos se nos
cuelguen en ese objeto múltiple que es teléfono móvil, no es una buena señal.
Ya sea por pereza, por ignorancia o por un mal entendido sentido del progreso,
no se debería renunciar a decidir, aunque uno se equivoque. Rectificar, nos decían, es de sabios. No equivocarse nunca es
otra cosa.
Puede que su teléfono sea "inteligente", pero no por eso deje usted de serlo.
