El algoritmo y la burbuja

Joaquín Mª Aguirre (UCM)

En Retina, la sección en la que se debaten temas tecnológicos (Inteligencia Artificial, en este caso), M. Victoria S. Nadal plantea algunas cuestiones pertinentes sobre los famosos "algoritmos", palabra omnipresente cuando se trata ahora de las redes y de lo que ocurre en ellas. Los algoritmos son programas en los que entran los datos, son tratados por la secuencia de acciones programadas y nos dan un resultado conforme a aquello para lo que estaban construidos. Un algoritmo muy sencillo serviría, por ejemplo, para filtrar los datos de una comunidad, seleccionar a las mujeres primero, seleccionar quiénes son madres después, y finalmente enviarles un mensaje de felicitación en el próximo "Día de la Madre". Podría completarse con un proceso similar en el que seleccionaría quiénes son sus hijos e hijas y les propondría regalos en su "muro". Podría ser más complejo y analizar los gustos de las madres, manifestados a través de sus "likes" o la información buscada en Google y seleccionar propuestas de regalos para ofrecérselas a los hijos. 

Esta es la versión bonita. Sabemos que hay otras que lo son menos, como la versión realizada por Cambridge Analytica, en donde ya no se trata de regalar sino de captar votos para unos candidatos "presionando" a los electores gracias al conocimiento acumulado sobre ellos por sus datos recogidos. De unas condiciones simples, como las expresadas, se puede pasar a otras más complejas y de mayor profundidad en cuanto al descubrimiento de las intenciones. El grado de complejidad de los algoritmos aumenta por la potencia de cálculo y los datos disponibles, que son cada vez más.

La autora del artículo se centra en un aspecto, la relación entre lo que se ofrece y lo que no se ofrece:

El contenido y la publicidad personalizada llegan con la promesa de ofrecerte servicios que se adaptan a tus gustos y necesidades. Pero, a cambio, el algoritmo filtra cantidades inmensas de información que te estás perdiendo porque cree saber qué es lo que te interesa leer. Al tamizar el contenido que nos llega a través de las redes sociales, están también limitando nuestra visión de la realidad. En esta situación, ¿cómo puedes pensar por ti mismo cuando un algoritmo filtra lo que lees?*

Es una buena pregunta. En realidad, existe un punto en el que los algoritmos dan el paso de ofrecernos "lo que buscamos" a hacernos buscar lo que "ellos quieren". Esto se produce como efecto a medio y largo plazo con el hecho apuntado por M. Victoria S. Nadal. En teoría, la selección iría dejando fuera todo aquello que considera está alejado de nuestros intereses y nos pasaría a ofrecer más de lo mismo con ligeras variantes. Una vez detectado el deseo, se tiende a la saturación. Piense en ese camarero que le pone ya directamente lo que usted ha tomado en anteriores visitas sin preguntarle. Al final se nos ha sustraído la capacidad decisión.

Todos los esfuerzos de las redes son para ofrecernos contactos y lugares que nos pueden gustar. Para ello nos han estudiado. Pero esto tiene un aspecto importante: no encierra en nosotros mismos sin dejarnos evolucionar hacia otras ideas. La exposición a aquello con lo que estamos de acuerdo nos saca de la realidad, una realidad a la que debemos estar abiertos para poder convivir. Lo que se fomenta, de esta forma es la intransigencia y el alejamiento del diálogo.

Se señala en el artículo:

Paradójicamente, la Red nació para conectarnos y darnos un acceso más amplio a información más diversa, lo que podría ayudarnos a desarrollar un pensamiento más crítico y generar nuevas inquietudes. Sin embargo, con el trabajo sin descanso de los algoritmos filtrando información para nosotros, el universo al que tenemos acceso en internet se va reduciendo poco a poco y cada vez es más necesario buscar proactivamente nueva información.

El activista Eli Pariser ya avisaba de esta burbuja que crean los filtros en 2011. "Lo que hay dentro de la burbuja que te rodea depende quién eres y qué te gusta. Pero tú no eres quien decide directamente qué entra en esa burbuja, lo hacen los algoritmos", explica Pariser. "Y lo más importante: no vemos todo lo que se elimina". Al final se refuerzan nuestras ideas preconcebidas y caemos en el error de creer que todo el mundo piensa igual que nosotros. Además, seguir solo a cuentas con las que estamos de acuerdo reafirma nuestras ideas, pero hace que nos perdamos otros puntos de vista que podrían llevarnos a conclusiones distintas y más enriquecedoras.*

Quizá parte de la constante radicalización que estamos viendo en muchos campos, la virulencia de la reacciones, se deba a ese efecto doble de aislamiento y refuerzo. Nos hace alejarnos de otros puntos de vista (el algoritmo nos lo sustrae) e intensifica aquellos que deberían gustarnos (el algoritmo nos los ofrece como preferentes). Este doble movimiento tiene que tener, por fuerza, un efecto sobre las personas.

Lo peor es que, al no ser conscientes del funcionamiento, creemos que realmente la información que se nos ofrece es la única existente. La otra se ha borrado de nuestros mapas informativos por considerar que sería "ruido" para nosotros.

La llamada "Economía de la Atención" percibe el mundo de la información como un gigantesco escenario en el que se lucha por el principal bien: nuestra atención. Se trata, pues, de descubrir —por eso compiten— como captar nuestra atención. Pero también compiten por otra cosa, eso que han llamado "fidelización", que no es otra que vincularnos a determinados productos, servicios, ideas o personas mediante esas llamadas a la atención. La inversión en captarnos es grande y su éxito es mantenerla.

La empresa de "Inbound Marketing" InboundCycle expresa así sus objetivos de fidelización:

La fidelización o lealtad del cliente con nuestra empresa es hoy en día un factor fundamental para la buena marcha de un negocio, ya que de lo contrario no podremos beneficiarnos de ventajas como:

·       Retener clientes, que es siempre mucho más económico que conseguir nuevos, puesto que no es necesario poner en marcha acciones de marketing muy costosas, las cuales no siempre garantizan el retorno de la inversión.

·       Con la fidelización de clientes se consiguen, obviamente, más ingresos, que luego pueden utilizarse para cubrir gastos fijos o emprender nuevas líneas de negocio.

·       El cliente fidelizado no acude a la competencia, lo que nos ayuda a debilitarla.

·       Por otro lado, de los clientes fidelizados tenemos información muy valiosa que nuestros competidores desconocen, lo que nos sitúa en una situación ventajosa.

·       Permite aumentar tanto el ticket medio como la frecuencia de compra.

·       El cliente fidelizado tiende a convertirse en un "evangelista" de nuestra marca, es decir, nos va a recomendar en cuanto tenga ocasión.*

Si hacemos un ligero traslado de lo económico a lo político o social, los efectos son claros y se acercan a lo temido en el artículo de Retina- El País. El "inbound marketing" se centra en el control del cliente y haciendo que el entorno que se le ofrece desde una marca haga invisible las demás. "El cliente fidelizado no acude a la competencia, lo que nos ayuda a debilitarla", se nos dice. Se trata de levantar una barrera invisible que haga, mediante la inmersión en los procesos que establecemos, que lo distinto parezca tan negativo y alejado que no lo deseemos. Y ahí es donde, en política, entran las "fake news" en danza.

La manipulación para mantenernos dentro de la burbuja creada debe ser eficaz. Para eso se usa el desprestigio, la estigmatización, la difamación, etc. del otro. De esta forma nos reafirmamos en lo que se nos ha reforzado positivamente.

Lo que creemos espacios libres en las redes no lo son tanto.  El avance de la sociedad digital se basa en la observación y análisis de nuestros movimientos. No somos conscientes de cómo trabajan para captar nuestra atención e influir en nosotros en toda una serie de decisiones económicas o políticas.

Esto es lo que dice buscar desde el "inbound marketing", una etiqueta creada en 2005, que nos sirve para explicar los tipos de procesos y estrategias de los que somos centro:

El inbound marketing se diferencia de otras estrategias de marketing por algunos aspectos clave que conforman la metodología:

1. Buyer persona

Una estrategia de inbound marketing se centra en el buyer persona, una representación ficticia del cliente ideal. Ayuda a comprender mejor al cliente y hace más fácil la tarea de encontrar contenido o acciones que lleguen y satisfagan sus necesidades. En el inbound marketing, no queremos conocer "por encima" a nuestro cliente, queremos saber hasta el último dato posible sobre él.

2. Marketing de contenidos

A partir del punto de dolor del buyer persona, se crean contenidos que le aporten valor y que le ayuden a tomar su decisión de compra. Por otro lado, a las empresas, les permite ganar visibilidad a los buscadores y disponer de alicientes para generar una base de datos.

3. Segmentación

El inbound marketing acompaña al usuario durante su proceso de compra y le ofrece información de valor teniendo en cuenta la fase del proceso de compra en la que se encuentra (awareness, investigation, decision, action) y su perfil.

4. Marketing automation

Consiste en la utilización de un software informático para realizar ciertas tareas específicas de forma automatizada. Gracias a la implantación de la automatización del marketing, nos aseguramos la entrega del mensaje idóneo al público correcto en el momento perfecto.

5. Análisis

Al ser una metodología especialmente digital, el inbound marketing permite analizar las acciones puestas en marcha y la respuesta de los usuarios. Gracias a ello, se generan dinámicas de mejora continua de los resultados. ***

La estrategia puede servir perfectamente (con las variaciones de las empresas en cuanto a los modelos) para definir las acciones que se realizan. Una vez detectado el simpatizante o interesado, se genera una serie de acciones envolventes que se corrigen en función de las del propio sujeto. Es toda una técnica de "doma", de estímulos positivos y negativos, que le llevan a la fidelización.

El final nos deja transformado en adeptos a algo: un producto, una idea o una persona.  La automatización permite seguirnos, detectar nuestros movimientos, interpretarlos y redirigir hacia el "objeto de deseo".

La idea de que frente a la idea de libertad de decisiones, estas están limitadas por los procesos de ocultación de aquella información que nos pueda distraer o hacer cambiar de opinión, alejándonos de nuestras posiciones nos puede parecer excesiva. No lo es tanto. Los gobiernos autoritarios tienen mucho interés en tener sus propias redes por algo. La burbuja aislante entonces es total. Los refuerzos positivos (buenas noticias a nuestro favor) y negativos (malas de los demás) cumplen la función de acercarnos, alejarnos y reforzarnos en las ideas.

Se nos empujará a que conectemos con personas que sean "similares" a nosotros. Ellos actuarán como refuerzo y haciéndonos sentir como parte de "algo más grande". Ya no estaremos solos, sino en un grupo, cabalgando sobre el flujo constante de información.

El artículo nos da un par de consejos para evitar quedarnos dentro de la burbuja, aunque después de nos habla de su poca eficacia. Este es su final:

Aunque estas son algunas ideas efectivas para combatir el efecto de los algoritmos, lo cierto es que es una lucha perdida. Por eso, algunos entendidos apuestan por solucionar el problema desde dentro y proponen diseñar algoritmos que nos muestren no lo solo lo que creen que queremos ver, sino las cosas que tenemos que ver aunque no nos guste. "Si lo algoritmos van a seleccionar el contenido, si van a decidir qué vemos y qué no, tenemos que asegurarnos de que no solo se guían por la relevancia, sino que también nos muestran cosas incómodas, estimulantes e importantes, otros puntos de vista", explica Pariser. "No se puede tener una democracia que funcione si los ciudadanos no acceden a un buen flujo de información, por eso necesitamos que los programadores incluyan cierta ética en los códigos que están escribiendo".*

La democracia no se vende en supermercados ni se suscribe uno. Lo que hacen precisamente son formas poco democráticas en la medida en que recortan nuestras posibilidades de elección. Pero siempre tendrán un tecnicismo que les disculpe. Al fin y al cabo, nos dice todos: lo hacen para mejorar nuestra "experiencia".

Más allá de lo económico, en lo político se plantea problemas muy serios . La estabilidad de nuestras democracias es incierta con manipulaciones que llevan a la creación de bloques de intransigencia e ignorancia, que nos dicen lo que queremos escuchar más allá de cualquier otra versión. Si esperamos, como señala el activista Eli Pariser en el texto, un arranque de ética por parte de los que realizan los algoritmos o los plantean, podemos esperar sentados. No creo que sea esto lo que haya que hacer. Lo más probable es que se acabe produciendo una guerra de algoritmos, cada una con una función contraria. Es lo que suele ocurrir.

Al final de todo tenemos un problema filosófico real: aquello que los antiguos llamaron "amor por la verdad", por lo cierto o al menos que vive en agonía por ello. Los siglos anteriores han tratado de enfrentarse a esta carencia, pero nunca han dejado de señalar que aspiramos a un mejor conocimiento. Nuestros dos últimos siglos, por el contrario han hecho de las carencias un negocio. Aprovechan nuestras limitaciones humanas para manipularnos de manera más o menos elegante para llevarnos al amplio huerto.

Vivir en una burbuja no es bueno. Cuanto más abiertos estemos a las diferentes perspectivas de la vida podremos ser mejores críticos y, por ello, tomar mejor nuestras decisiones. Si la principal herramienta de conocimiento que tenemos en estos momentos —en cuanto que es la mayor concentración de información que la Humanidad ha tenido— la usamos centrándonos solo en pequeñas parcelas creadas para mantenernos en su interior no nos hacemos ningún favor a nosotros mismos.

Las técnicas para mantenernos en la burbuja son muchas, variadas y en evolución constante. Son una forma de nueva ignorancia provocada para poder controlar a las personas y dirigir sus acciones, . De nosotros depende detectarlas acciones que realizan para mantenernos "fidelizados".

Que la tendencia sea a reducir nuestro espacio informativo para no perturbar nuestra atención es preocupante. Obliga al usuario de las redes a combatir penalizando aquello que se le ofrece. En el campo comercial es grave pero lo es mucho más en el ideológico, pues implica que se nos condena a vivir en una selección informativa realiza por otros "interpretando" lo que nos puede interesar y tratando de fidelizarnos. Lo ocurrido con Cambridge Analytica y las consecuencias que veamos en ello será determinante para el futuro. Se abre un camino complejo, lleno de finas líneas fronterizas con lo admisible. Trasladar la cuestión a la ética de la parte que 

Lo dicho de los regímenes que se cierran a la información es preocupante. Lo que hacen es una doble burbuja, la exterior (aislándolos de la información del mundo) y la interior (creando una selección doctrinal de información). 

Quizá no sea una paradoja que al tener más información seamos más manipulables; quizá sea una consecuencia lógica que manifiesta la voluntad de poder, donde las metáforas se imponen haciéndonos ver el mundo a través de otros ojos.

* M. Victoria S. Nadal "Cómo educar a los algoritmos para que no elijan la información por ti" Retina - El País 30/04/2018  https://retina.elpais.com/retina/2018/04/26/tendencias/1524759010_020184.html

** "Fidelización de clientes: ventajas y principales estrategias para lograrla" Inboundcycle https://www.inboundcycle.com/diccionario-marketing-online/fidelizacion-clientes

*** "Inbound Marketing: qué es, origen, metodología y filosofía. Los 5 pilares del inbound marketing" 22/03/2018 https://www.inboundcycle.com/inbound-marketing-que-es