Decisiones o cuando llegue septiembre

Joaquín Mª Aguirre (UCM)

Ayer hablábamos de la educación y los retos que tiene por delante. El COVID-19 ha cambiado toda nuestra vida y la enseñanza forma parte esencial de ella. En estos momentos, la preocupación parece trasladada al Turismo y qué pasa con las terrazas, playas y hoteles, pero cuando pase la temporada, la realidad nos pasará factura si no hemos sido capaces de resolver, no los grandes planteamientos, sino el momento crucial de abrir la primera puerta para dar clases... o no abrirla.

Como en cualquier toma de decisiones (tenemos hasta importantes teorías para la toma de decisiones), esa primera va haciendo descender toda una serie de alternativas hasta llegar a la última de las que deben ser tomadas. Cada decisión abre una nueva decisión y esta otra y otra y otra. La cuestión problemática, claro está, que las decisiones de la cadena se reparten de forma descendente, es decir, los de arriba cierran unos caminos mientras que nos dejan menos posibilidades abajo.

La Vanguardia publica hoy un artículo sobre las consecuencias de las decisiones y quién debe tomarlas (una cuestión de poder), cómo se deben aplicar y quiénes las deben ejecutar. Son niveles distintos del problema, máxime en una sociedad democrática en la que se toman muchas decisiones en medio de conflictos sobre quiénes tiene las competencias de ida y vuelta (y cuándo deben volver a sus habituales decisores). Cuanto más arriba se toman las decisiones suelen alejarse más de la realidad, ya que tienden a ser muy generales. Es el riesgo de tomar decisiones que afectan a los que están por debajo en la cadena sin contar con ellos. Es cierto que tratar de satisfacer a todos no suele ser posible, pero al menos sí escucharlos y tratar de que las decisiones se ajusten a la realidad y no al contrario. Describen así algunos de los problemas planteados:

El plan de desconfinamiento establece ratios de 5 alumnos por profesor hasta 3 años; de 13, de 3 a 12; y de 15, para el resto. Aunque es posible que estas ratios no sean definitivas. Bargalló advirtió ayer que las clases de P-3, P-4 y P-5 podría pasar a ser de 5 alumnos. Las escuelas no daban crédito. Ya no solo es cuestión de espacio sino también de profesores. Porque el aula de 25 niños necesitará 5 profesionales para atender a niños pequeños, precisamente los que no van a llevar mascarilla y los que menos van a entender la cuestión de las distancias.

En todo caso, las escuelas, ante la advertencia, ya han calculado sus carencias (a razón de 4 m2 por niño) y están ingeniando las readaptaciones internas en todos los espacios de uso colectivos, incluidos patios y pasillos. Otras contemplan tirar paredes, poner carpas o, incluso, montar barracones.

Aún así los números no salen, especialmente en la ciudad de Barcelona y su área metropolitana. “Puede que después del verano se relajen estas medidas, pero si este es un escenario posible, hay que empezar a actuar porque esto no se improvisa”, sostiene la directora del colegio Virolai, Coral Regí, que ha contactado con un club de tenis cercano.*

La mayor parte de las opiniones expresadas en el artículo tienden a hablar de conflictos de este tipo o de otros. Hay conflictos de intereses, claro, pero hay conflictos con la realidad, con lo posible o incluso con lo deseable.

Muchas decisiones se toman pensando en futuros cambios. Otras se toman de cara a la galería. Y otras muchas, sencillamente, están mal tomadas, una posibilidad que al poder —al que tiene la capacidad de tomarla— se le suele escapar gracias al exceso de confianza.

La sociedades democráticas hablan, precisamente, para resolver los problemas de la mejor manera posible y teniendo en cuenta todas las opciones que se van a establecer. Pero los "estados de alarma" pueden llegar a ser "estados alarmantes" o "estados alarmados" si se piensa en el espectáculo político al que asistimos. La aceptación de las decisiones tiene mucho que ver con la credibilidad y el prestigio, algo que la práctica política se encarga de lapidar, ya sea como estrategia contra alguien lo hace bien o como crítica justificada al que lo hace mal. Pero el efecto tiende a ser el mismo: se resienten las decisiones tomadas porque se siembra la desconfianza.

La posibilidad de que el Consejero de Educación, el criticado en el texto Sr. Bargalló, desconozca las cuatro reglas de aritmética básica, efectivamente, siembra el desconcierto y tras ello la crítica y el temor de aquellos que van a tener que dar la cara en los centros ante padres, profesores y niños.

Ayer hablábamos de los problemas en la educación superior, que se ve también amenazada por los criterios actuales y las expectativas de los futuros. Toda decisión, por definición, se toma pensando en el futuro, lo que implica expectativas, pero estas se deben centrar en los recursos (de todo orden, como el espacio disponible, el número de maestros, etc.) y la evolución de las situaciones desde las perspectivas de hoy.

Un condicionante muy fuerte —aunque no se manifieste— es el grado de confianza en el cambio de situación. Muchos sectores hacen ejercicio de contención o de ralentización de sus decisiones pensando que antes de poder llevarlas a la práctica la situación puede cambiar tan radicalmente como llegó.

Esto es precisamente lo que ha hecho que muchos gobiernos no hayan tomado las decisiones cuando podían tomarlas y haberlas tomado con retraso, cuando ya había mucho terreno perdido y la bola de nieve rodaba ya imparable. Los países que muestran ahora los peores estados por el COVID-19 eran los que estaban mejor informados, pero han seguido manteniéndose en la inacción pensando precisamente que cuanto más tarde les llegara la enfermedad más probabilidades de vencerla antes había. La desesperación esperanzada de Trump por la llegada de una vacuna o de un medicamente es la mejor muestra de cómo se siguen tomando decisiones equivocadas porque no se tomaron las adecuadas cuando era el momento. Porque, sí, las decisiones tienen su momento, su instante en el que son eficaces y toda la eternidad para ser tomadas a destiempo. Tenía mucha razón la persona que citábamos hace unos días "tomamos decisiones dos semanas tarde y ahora estamos tomando decisiones dos semanas antes". Se refería, por supuesto, a los que tardaron mucho en cerrar y ahora se quieren dar mucha prisa en abrir.

En la educación, las decisiones se deben tomar ahora porque, ocurra lo que ocurra, hay que garantizar mínimos para cuando llegue septiembre, como pregonaba el título de la famosa y divertida película con Rock Hudson y Gina Lollobrigida, la dirigida por Robert Mulligan en 1961.

El 12 de marzo, el diario argentino Página12 reproducía un artículo de Tomás Pueyo, publicado en Medium, en inglés, dos días antes con el título "Coronavirus: Why You Must Act Now"**, donde planteaba los problemas de la decisión y su momento de una forma muy directa y clara. El artículo en Medium, nos dicen, tuvo 30 millones de visitas en la semana. Las fechas de publicación son importantes porque muestran ya que en ese momento los ciegos se había arrancado previamente los ojos.

Escribía Tomás Pueyo al comienzo del artículo en su versión española en Página 12, que han considerado de enorme importancia por su efecto:

Este artículo incluye las siguientes cuestiones, acompañados de múltiples gráficas, datos y modelos con abundantes fuentes de referencia:

¿Cuántos casos de coronavirus habrá en tu zona?

¿Qué pasará cuando estos casos se materialicen?

¿Qué deberías hacer?

¿Cuándo?

Cuando termines de leer el artículo, esto es con lo que deberías quedarte:

El coronavirus está yendo hacia a vos.

Lo está haciendo a velocidad exponencial: primero gradualmente y luego repentinamente.

Es cuestión de días. Quizás una semana o dos.

Cuando llegue, tu sistema sanitario estará saturado.

La gente tendrá que ser atendida en los pasillos.

El personal sanitario estará agotado. Algunos de ellos contagiados, otros morirán.

Tendrán que decidir qué pacientes reciben el oxígeno y cuáles dejan morir.

La única manera de prevenir esto es el aislamiento social hoy. No mañana. Hoy.

Esto significa mantener a cuanta más gente posible en casa, desde ya.

Como político, empresario o representante de tu comunidad, tienes el poder y la responsabilidad de prevenir esta catástrofe.

Puede que te asalten las dudas: ¿Y si estoy exagerando? ¿Se va a reír la gente de mí? ¿Se van a enfadar? ¿Estoy provocando el pánico? ¿No será mejor esperar a que otros hagan algo primero? ¿Estaré causando un daño irreparable a la economía?

Pero en 2–4 semanas, cuando el mundo entero esté en aislamiento, cuando estos pocos y tan preciados días de distanciamiento social te hayan permitido salvar vidas, nadie te va a criticar: te agradecerán que hayas hecho lo correcto.***

Creo que es difícil explicar con mayor claridad lo que, visto desde hoy (siempre es un hoy), hemos visto cómo se repetía, escenario tras escenario, país tras país. Los que proponían modelos abiertos y felices, hoy están entrando en crisis de distintos grados y velocidades en función de sus características sociales, hábitos, pirámide de edad, demografía, movilidad, etc. Nos preguntamos entonces si se tomaron las decisiones correctas.

Es necesario ganar tiempo para decidir evitando perder tiempo para discutir. El tiempo se echa encima y si las vacaciones son importantes para el sector del turismo, la educación afecta a todos los ciudadanos como conjunto y a una mayoría por las circunstancias personales y familiares.

De nada sirve tomar decisiones sobre los espacios si no se toman sobre el profesorado y su número. De nada sirve tomar decisiones sobre las ratio si después no hay presupuestos, espacios adecuados, personal suficiente, alumnos u ordenadores para asistir a distancia.

Si queremos ser eficaces, podríamos tener en cuenta estos sencillos consejos que ofrezco gratis:

1) las decisiones tienen su momento adecuado;2) necesitan el máximo de información disponible;3) no pueden satisfacer a todos, pero hay que buscar el máximo de acuerdo;4) no mezcles en ellas lo que no se debe mezclar;
5) calcula los efectos colaterales, que necesitarán nuevas decisiones que habrás de negociar;
6) y escucha, escucha, escucha..., pero a los que tienen algo interesante que aportar, no a los que se escuchan a sí mismos.

No tengo mucha esperanza, porque por algo estamos enseñando a las máquinas a tomar decisiones, pero puede que ayudara tener en cuenta esos principios elementales

El COVID-19 deja una vez más nuestros límites y carencias al descubierto. También nuestra obcecación, maldad y poco estilo político. Es lo que creo que demanda la mayoría ciudadana. Que se dedique el tiempo a decidir bien, que quiere decir escuchar, debatir y tomar la mejor decisión. El resto es politiquería (no confundir con el noble arte, cuando le dejan).

* "Las escuelas buscan espacios para dar clases en septiembre" La Vanguardia 22/05/2020 https://www.lavanguardia.com/vida/20200522/481318059362/escuelas-buscan-espacios-clases-septiembre.html

** Pueyo, Tomás "Coronavirus: por qué tenemos que actuar ahora" Página12 12/03/2020 https://www.pagina12.com.ar/253133-coronavirus-por-que-tenemos-que-actuar-ahora

*** "Pueyo, Tomás "Coronavirus: por qué tenemos que actuar ahora" Página 12 15/03/2020 https://www.pagina12.com.ar/253133-coronavirus-por-que-tenemos-que-actuar-ahora

La decisión automática y la norma número 9

Joaquín Mª Aguirre (UCM)

Los seres humanos tenemos una carga que a veces nos resulta muy pesada: elegir, decidir, tomar decisiones. Referirnos a esta capacidad como una "carga" no implica una valoración negativa; sobre ella se basa nuestra libertad de elegir y nuestra responsabilidad por las decisiones que tomamos en el ejercicio de esa libertad. Cuando no tenemos la posibilidad de elegir, nuestra responsabilidad desaparece diluida en la fatalidad.

Nuevos problemas aparecen cuando transferimos nuestra responsabilidad de decidir a otros, que serán quienes tomen las decisiones. La implantación de mecanismos automatizados para la toma de decisiones transfiere la responsabilidad a las máquinas, que serán las que decidan por nosotros. Pero no excluye nuestra responsabilidad ya que las máquinas aprenden de nosotros lo que deben hacer.

Hace unos días hablábamos aquí del problema del algoritmo diseñado por la empresa Amazon para evitara favoritismos en la selección de personal. Al analizar los resultados, se dieron cuenta que lo que la máquina había aprendido realmente en su proceso de absorción de información eran los "prejuicios" sexistas y que sus elecciones eran "humanas" en el peor sentido de la palabra. El algoritmo fue jubilado porque solo era una automatización del prejuicio.

El diario El País nos trae otro caso —ya lleva tiempo dando que hablar— de lo que ocurre cuando hacemos que las máquinas aprendan de nosotros. Se trata esta vez de la toma de decisiones sobre "a quién atropellar" por parte de los previsiblemente masivos coches de conducción automática. Conducir no es solo ir de un punto a otro y elegir el camino más corto, sino que en el camino te puedes encontrar —como en la vida— imprevistos que debes resolver en fracciones de segundo.

En el experimento de la máquina moral, como la han llamado, han participado ya más de dos millones de personas de 233 países y territorios (aún se puede jugar). Con sus casi 40 millones de dilemas resueltos, se ha convertido en una especie de tratado sobre lo que los humanos creen que es más o menos correcto.

"Vimos que hay tres elementos que las personas tienden a aprobar más", dice el investigador del Media Lab del Instituto de Tecnología de Massachusetts (MIT) y principal autor del estudio, Edmond Awad. Primero, entre salvar a un humano o un animal, el coche siempre debería atropellar a la mascota. La norma, además, primaría salvar al mayor número de personas. Así que si el conductor va solo y va a atropellar a dos peatones, que se estampe contra el muro. La tercera decisión más universal es que la mayoría cree que si un vehículo autónomo tiene que decidir entre chocar contra un niño o contra un anciano, el viejo debe morir para que el joven tenga la oportunidad de envejecer.

Aparte de estas tres decisiones morales que son casi universales, la investigación, publicada en Nature, muestra una preferencia específica según el tipo de personaje: De los que cruzan el paso de cebra, los que merecen más la pena salvar son, por este orden, un bebé a bordo de un carrito, una niña, un niño y una mujer embarazada. En sentido contrario, y dejando a un lado las mascotas, los delincuentes, los ancianos y los sintecho son los humanos más sacrificables.*

Lo que el estudio detecta no es ni bueno ni malo, es lo que hay, el resultado de una consultas a unos cuantos millones de personas que han participado en ese videojuego y han tomado sus decisiones.

El problema se plantea cuando eso puede ser tomado como "programa" de una máquina y se traduce en unas instrucciones sobre cómo debe resolver las situaciones de atropello. La diversidad de las reacciones según los individuos no es la uniformidad de las máquinas. Es decir: lo que los investigadores han detectado son resultados diversos y han mostrado el reparto en la población. Por ejemplo, puede que un 25% de los encuestados considere que atropellar a los "sintecho", si se da el caso, es preferible a atropellar a una mujer embarazada. Eso permite que el "sintecho" pueda jugar con un 75% de posibilidades de no ser elegido para la colisión como forma preferente. Pero si transferimos a la máquina esa decisión para su evaluación estamos convirtiendo un 25/75 en un 100 absoluto. Además surgen preguntas combinadas: una embarazada sin techo es un "embarazada sin techo" o una "sintecho embarazada". La máquina no admite estas ambigüedades. 

¿Cómo detecta una máquina la categoría "sin techo", ha de evaluar ropas, higienes, olores...? Habría que introducir un "modelo" descriptivo de lo que es un "sintecho" que es más bien una evaluación estereotipada, que el jugador aplica desde sus preconcepciones o prejuicios morales (deben ser eliminados). ¿Ocurriría algo parecido a lo sucedido con los "perfiles" para detener inmigrantes en los Estados Unidos? ¿Ocurriría como con el adolescente muerto a tiros en Estados Unidos por ser negro y llevar capucha, que fue lo que le convirtió en víctima de un autoerigido en "vigilante" del barrio? Es el caso de Trayvon Martin, asesinado en Florida y que aquí recogimos, el caso que dio lugar al "movimiento de las capuchas", que fue un intento de luchar con estereotipos.

El peligro que se corre es el mismo de la inteligencia selectiva de personal de Amazon, que demos forma a nuestros estereotipos al convertirlos en "datos" para que la máquina decida a quién debe atropellar en caso de producirse un accidente. Esas decisiones se deben tomar mediante el análisis de los datos y los datos son evaluados conforme a los criterios que introducimos en las máquinas para que lo hagan.

Lo que los resultados del videojuego-encuesta han mostrado es que esas decisiones se toman desde prejuicios, es decir, desde ideas preconcebidas sobre los que significan las personas, su vestimenta, estado, edad, etc.

El estudio muestra algunas cuestiones muy interesantes en este sentido de las preconcepciones:

Gracias a la geolocalización, el estudio pudo determinar el origen de los participantes, detectando marcadas diferencias regionales. Así, aunque las ancianas son las menos salvadas de entre los humanos solo por detrás de los delincuentes, los asiáticos tienden a salvarlas más que los occidentales. En Europa y EE UU hay una predilección sutil pero significativa por las personas de complexión atlética sobre los obesos. En los países del sur, tienden a salvar más a las mujeres sobre los hombres. Y en las naciones más desiguales, un porcentaje mayor de los participantes prefirió salvar al peatón con aspecto de ejecutivo.*

¿Cómo transferir esto a la máquina? Si dejamos que "aprendan" ellas mismas de los resultados humanos, serán solo un compendio de nuestras evaluaciones, por prejuiciosas que estas sean. El valor que le concedemos a la imagen personal, cuerpo y vestimenta, por ejemplo, es revelador. Los occidentales valoramos mas la "juventud" y el buen estado físico, mientras que la tradición del respeto a los ancianos es mayor en Oriente. ¿Es caballerosidad salvar mujeres antes que a hombres? ¿Por qué se puede prescindir universalmente de las ancianas, porque ya no cumplen una función reproductiva o sexual y son desechables? El prejuicio se convierte en acción, el atropello. ¿Cómo se sabe que el que tenemos delante del coche es un "delincuente"? ¿Quién es un "delincuente" atropellable un violador, un estafador, un asesino, un defraudador, un usuario de tarjetas black, un plagiario de tesis? El "delincuente" del video juego lleva un antifaz y una bolsa con dinero en una mano. Es un delincuente de comic, un estereotipo que no vamos a encontrar en la vida cruzando un semáforo. Lo mismo ocurre con los "sintecho", con sus parches en el abrigo. La máquina refuerza nuestros estereotipos.

Los resultados de la geolocalización ¿significan que los coches deberían tener distintas reglas de decisión en cada parte del mundo en función de esos resultados? La finalidad de estos estudios no es la mera curiosidad. Los primeros interesados son las compañías de seguros que quieren asegurarse las espaladas tras las primeros atropellos o accidentes producidos por estos coches que son automáticos pero no son perfectos. Creemos que las máquinas son "perfectas", pero evidentemente no todo depende de ellas. Por muy inteligente que sea el coche no lo es el mundo que le rodea, lleno de imprevistos.

Pero el concepto de imprevisto no significa nada, no existe, para la inteligencia artificial del coche y para su toma de decisiones. Y por muchas vueltas que le demos, siempre se quedarán cosas que no podremos introducir en el sistema. El mundo es complejo e inagotable y los datos son muchos, sí, pero finitos. El mundo no es tampoco uniforme, es culturalmente distinto y no vemos las situaciones de la misma forma; es el resultado de esas cosmovisiones que definen las culturas o paradigmas. Es lo que Edgar Morin llamó el fondo supralógico sobre el que se construye la lógica de nuestras decisiones, que nos parece natural, pero no lo es tanto.

El diario señala:

El único país que ha propuesto ya una guía moral para los vehículos autónomos es Alemania. En el verano de 2017 y a instancias del Ministerio de Transportes, un grupo de ingenieros, profesores de filosofía, expertos en derecho, representantes de los fabricantes, los consumidores y hasta las iglesias elaboraron un código ético con 20 normas. La mayoría no chocan con los resultados de este estudio. Pero sí lo hace su ambición de ser universalmente válidas. Pero hay un choque frontal con la norma ética 9, que dice lo siguiente: "En el caso de situaciones donde el accidente sea inevitable, está estrictamente prohibida cualquier distinción basada en rasgos personales (edad, género, o constitución física o mental).

Uno de los autores de este código es el profesor de Filosofía de la Universidad Técnica de Múnich Christoph Lütge. Para él, la igualdad debería mantenerse. "Tanto por razones legales como éticas, la programación no puede tratar de forma diferente a las personas con rasgos personales distintos. Sé que hay quienes dicen que hay experimentos que muestran que instintivamente favoreceríamos al niño. Pero eso no se puede convertir en una norma para una máquina. La ética no siempre puede seguir los instintos".*

La idea del profesor Lütge sale del país de Emmanuel Kant. La "norma número 9" viene a decir que no se debe decidir el destino de las personas por su forma o apariencia. Eso es una norma ética racional. Sin embargo, todo lo que la máquina puede medir y todo lo que se le ofrece al jugador son "apariencias", es decir, aquello que puede ser evaluado desde la percepción, desde lo sensible. Lo que la máquina aprenderá será a establecer diferencias (sexo, edad, educación, empleo, situación social...) basadas en lo que se percibe. Los sensores de la máquina es lo único que pueden detectar. La norma ética número 9 dice que todos los seres humanos somos valiosos por ser humanos. Los experimentos nos dice, por el contrario, que unos son más importantes que otros, que unos son prescindibles (las ancianas, por ejemplo) que otros. Es una máquina prejuicios porque "prejuicio" es una forma de hablar del "algoritmo" que tomará decisiones. La máquina no juzgará; solo establecerá el cumplimiento de requisitos en función de los datos disponibles y actuará.

La norma número 9 es racional. Lo que hace la máquina es la evaluación de nuestros prejuicios y establece una racionalidad instrumental, la ajusta a unos fines y actúa en función de ellos.

Creamos máquinas y procesos tras los que escondernos. Antes las máquinas nos ayudaban a completar nuestra trabajo y a reducir nuestros esfuerzos. Pero cuando lo que se pretende es sustituir nuestra imperfecta toma de decisiones, los problemas se multiplican, ya que nos damos cuenta de que son "nuestras" decisiones, que de ahí surge nuestra condición humana al aunarse nuestra libertad y responsabilidad. A la vez, comprendemos que esta no es solo personal, sino que se encuentra inmersa en un contexto comunitario, cultural. Somos responsables ante nuestra conciencia, pero también ante los otros que nos juzgan. A veces nos enfrentamos a los otros en nombre de nuestra conciencia, críticamente. Pero aquí de lo que se trata es de sustituirla mediante mecanismos automáticos. Y ni la vida ni la libertad ni la responsabilidad son automatismos, sino procesos profundos que no son fácilmente transferidos sin consecuencias. El filósofo Günther Anders ya trabajó sobre estas cuestiones de nuestras relaciones con las máquinas, sobre la libertad y los subterfugios que buscamos para escondernos tras ellas.

Si este experimento se hubiera realizado en la Alemania nazi de los años treinta, se habría introducido junto a las mujeres embarazadas, delincuentes, niños, sin techo, etc. la figura de otro peatón, el "judío", al que muchos habrían considerado perfectamente prescindible, incluso como una forma de ahorro para el gasto de los campos de concentración o de los gaseados posteriores. A muchos les habría resultado perfectamente natural y hasta un ejercicio de ciudadanía. Lo mismo podría decirse del aumento del racismo o la xenofobia que observamos en muchos países. ¿Atropellar a alguien con turbante o velo antes que a alguien sin ellos? ¿Por qué no? En la Guerra Fría, se introducen los "espías", los "desertores", los "comunistas", etc. El juego es infinito porque valoramos en función de diferencias creadas por prejuicios.

Enseñar a los coches a quién se debe atropellar preferentemente es un peligro, un riego y una cierta perversión moral, por mucho que se haya denominado al juego "la máquina moral". De hecho, la decisión de a quién aprovechar será nada racional y poco natural, ya que nadie nace con el odio o el desprecio. La única regla es la que enfrenta al salvarse uno mismo con el altruismo. Una situación que permite ponerse a pensar a quién es mejor atropellar, no es una situación real, en donde serán fracciones de segundo lo que se tenga para actuar. El mayor valor está en lo que el juego nos enseña de nosotros, de nuestros prejuicios, y lo que nos enseña de aquellos que pretenden empaquetarlos y suministrárselos a las máquinas como si fueran universales.

Cuando haya muchos coches circulando, como forma de precaución, las mujeres podrían salir a las calles con falsas barrigas de embarazadas o comprar muñecos para que parezcan bebés y tener más probabilidades de supervivencia en caso de accidente con coche automático por medio. Habrá que tener cuidado con los disfraces que se eligen para carnavales. ¿Tienen los ciudadanos derecho a saber cuáles son las prioridades de su coche en caso de accidente? ¿Conocerlas les hace corresponsables de lo que ocurra?

Los que no quieren tener la responsabilidad de tener un volante, no por ello dejan de tener oras responsabilidades. Quizá cuando se produzca un accidente, su sentimiento de responsabilidad sea mayor que los que trataron de evitarlo. El coche sin conductor es una aventura entre la seguridad y la libertad, que como bien supo ver Dostoievski, no nos libra de los peligros. Pero cada avance que nos quita responsabilidad no adentra en un camino peligroso. Hay muchos ejemplos de ello.

La portada de la obra "Driverless" no muestra a un despreocupado ser humano disfrutando cómodamente de la lectura de su libro mientras el coche se encarga de llevarle a su destino. Lo malo es que ese mismo coche se puede convertir en "destino" de aquellos a los que pase por encima en el camino según estudiados criterios selectivos. Para ir de un sitio a otro leyendo tranquilamente se inventó hace tiempo el transporte colectivo. Lo queremos todo.

* "¿A quién mataría (como mal menor) un coche autónomo?" El País  25/10/2018 https://elpais.com/elpais/2018/10/24/ciencia/1540367038_964708.html

Decisiones, hechos y futuro o el color de la tinta

Joaquín Mª Aguirre (UCM)

La realidad es compleja por mucho que nos guste simplificarla o explicarla de forma lineal, como una serie encadenada de causas y efectos. La verdad es que tratamos de controlar la incertidumbre con nuestra pretensión de explicación. No sabemos bien los efectos de lo que ocurre ni sabemos a ciencia cierta cuáles han sido sus causas reales, por más que demos explicaciones coherentes a posteriori. Lo importante es poder creer que comprendemos bien lo que ocurre, es decir, tener menos miedo a lo que nos descoloca, lo imprevisto, lo azaroso.

En su libro Deshaciendo errores (2016), una biografía conjunta de los científicos que revolucionaron nuestra idea pretenciosa de cómo tomamos decisiones que nos parecen racionales, Michael Lewis habla sobre sus formas de trabajo, sobre cómo surgieron sus ideas:

Todo lo que no le parecía notablemente importante, Amos lo descartaba, y así lo que salvaba adquiría el interés de los objetos que han se han librado de una despiadada matanza selectiva. Un improbable superviviente fue una hoja de papel con unas cuantas líneas mal mecanografiadas, extraídas de conversaciones que mantuvo con Danny en la primavera de 1972, poco antes de que terminara su estancia en Eugene. Por alguna razón, Amos la guardó:

La gente predice inventando historias.

La gente predice muy poco y lo explica todo.

La gente vive en la incertidumbre, le guste o no.

La gente cree que puede predecir el futuro si se esfuerza lo suficiente.

La gente acepta cualquier explicación que se ajuste a los hechos.

La advertencia estaba escrita en la pared, pero con tinta invisible.

La gente suele esforzarse mucho para obtener información que ya tiene y evitar los conocimientos nuevos.

El hombre es un artefacto determinista metido en un universo probabilístico.

En este partido se esperan sorpresas.

Todo lo que ya ha ocurrido tiene que haber sido inevitable.

(Cap. 7. Las reglas de la predicción)*

"Dani" es psicólogo Daniel Kahneman, quien sería Premio Nobel de Economía por los artículos publicados sobre los sesgos de la mente en la toma de decisiones. Teniendo en cuenta que la Economía, como muchos otros campos de la vida, son decisiones que tomamos especulando sobre los resultados, los dos investigadores se enfrentaron al reto de desmontar los errores de sobre la racionalidad electiva del "homo economicus", abstracción que representa un equilibrio y forma de evaluar que poco tiene que ver con la realidad. Los economistas, politólogos, sociólogos, historiadores, etc. les deben mucho, aunque no siempre se tomen en cuenta sus descubrimientos del funcionamiento de la mente humana. Sus errores confirman los puntos de vista expresados en la lista.

Las líneas que Amos Tversky guardó de las conversaciones con Kahneman son una escueta síntesis de algunas de las ideas que muestran una visión del ser humano muy distinta a la que sale desde los enfoques tradicionales, basados en la racionalidad y la experiencia.

Daniel Kahneman, Premio Nobel de Economía 2002

La idea es que "predecimos" el futuro desde sesgos psíquicos, una serie de condicionamientos que fueron estableciendo mediante experimentos, y que nos llevan a tomar decisiones. La siguiente fase es cómo explicamos lo ocurrido respecto a nuestras predicciones. Y cómo lo ajustamos para hacerlo inevitable y claro. Todo está escrito en la pared, como decía Tversky, pero con tinta invisible. Cuando las cosas ocurren, la tinta se hace visible, señalaba con ironía.

The Guardian nos trae un artículo de Rachael Revesz que me ha traído al recuerdo lo anteriormente expuesto. El titular del artículo es "The strange thing is that both Susan Sarandon and Debra Messing are right about Trump" dando cuenta de un enfrentamiento de las dos conocidas actrices y activistas anti Trump. ¿De dónde proviene la "extrañeza" de Revesz, la autora? Una pregunta que se nos lanza en el encabezamiento del artículo nos lo explica:

Would women have been so angry and ready to run for office had Hillary Clinton been elected? Would we have seen Cynthia Nixon running for New York governor and victories such as that of 28-year-old Alexandria Ocasio-Cortez? We need both hope and anger to move forward?**

La disputa proviene del apoyo previo que Sarandon prestó a Bernie Sanders, el oponente demócrata de Hillary Clinton en las primarias del partido. El sistema de primarias tiene un problema en el tiempo. Comienzas destrozando al rival de tu partido para después tenerle que apoyar después si te ha vencido. Sanders recogió en las primarias el mayor radicalismo de las filas demócratas, especialmente de los jóvenes, frente a una Hillary a la que se presentaba como un miembro del establishment, con lazos económicos fuera de la política, recogiendo las críticas que los Clinton habían recibido por las actividades de su fundación y un sinfín de detalles, como el abandono de la Secretaría de Estado con Obama para prepararse su candidatura y no verse demasiado involucrada por los actos de la persona que tuvo el detalle de llamarla al cargo siendo su rival en las primarias.

Las preguntas de Rachael Revesz son interesantes porque plantean que no siempre de  lo "malo" sale lo peor. La idea de Sarandon es que si Hillary Clinton hubiera ganado la presidencia, el movimiento airado de mujeres que ha surgido desde el día siguiente de su toma de posesión no se habría producido o habría sido mucho más débil. Esto ha tenido una respuesta contundente por parte de Debra Messing, diciéndole con malas maneras que cierre la boca.

La respuesta de Rachael Revesz en su artículo es razonable. Es el propio Trump el que ha acelerado el proceso de despertar de las reclamaciones de igualdad, de hartazgo ante el acoso a través del #metoo y demás muestras de que se había llegado al límite. El argumento de Revesz tiene su lógica: Sarandon no ha querido decir que "Trump sea bueno" sino que su perversión ha acelerado la reacción en contra, que no es lo mismo.

La llegada de Donald Trump ha supuesto un límite, una toma de conciencia clara de muchas personas en los campos en los que se han dado cuenta del efecto destructor del presidente. Señala Revesz:

We should be celebrating good news, because progress is so hard-won. More than 40,000 women in the US have expressed interest in running for office since the 2016 election, according to Emily’s List, a political action committee focused on enlisting pro-choice female candidates for office, compared to less than 1,000 women in the last election cycle.

There are so many women running and winning, in fact, that Dave Wasserman, house editor of the Cook Political Report, said 2018 might come to be remembered as the “Year of the Angry College-Educated Female”.

Would women have been so angry and ready to run for office had Hillary Clinton been elected? Would we have seen Cynthia Nixon running for New York governor and victories such as that of 28-year-old Alexandria Ocasio-Cortez? Anger is a specific and necessary force to bring about social change – it’s the kind of thing that causes Stephen Bannon to worry.

Anger is the lifeblood of the women’s marches, and the MeToo and TimesUp movements, and it’s what often encourages victims of abuse to speak out. It’s also the kind of emotion that prompts well-known actors to lose their calm on social media just because another woman looks for a silver lining in a terrible situation.**

En un sentido, Sarandon tiene razón, pero ¿qué significa "tener razón" en algo que no puede ser probado, sino simplemente expresado o razonado? En el fondo, Sarandon está creando una explicación racional para su falta de apoyo para con Hillary Clinton, mientras que Messing sigue quemada con la actitud de falta de apoyo a Clinton, de la que se responsabiliza a la campaña de Sanders contra ella. Pero nadie puede probar estar en lo cierto. La única certeza es que a amabas les guía una frustración, a una el no haber ganado Clinton y a la otra que no haya ganado Sanders, por lo que las especulaciones quedan marcadas por esa sensación.

Cada una de ellas ha creado su propia historia y la ha reajustado a lo ocurrido posteriormente. La idea de Sarandon parte de unos datos, la avalancha de mujeres que se han lanzado a presentarse a elecciones, una reacción enérgica ante la pérdida de una mujer, Clinton, en la carrera de la Casa Blanca.

El único hecho es la realidad de las presentaciones  a cargos políticos. Y después, por supuesto, la maldades de Trump. Las opiniones de las dos mujeres son "ciertas" aunque sean enfrentadas, porque no son excluyentes. Ambas parten de un hecho interpretado de forma sesgada por sus propios filtros y proyectando hacia el presente lo que entonces era futuro.

La autora del artículo, Rachael Sevesz señala:

But we need both Sarandon’s hope and Messing’s anger to progress. One is pretty useless without the other. If you are angry about Trump ripping families apart at the US border, then presumably you are hopeful that can change in the future. If you are hopeful for change, then you probably don’t like what’s happening in the first place.

La cuestión que se plantea entre ambas es irresoluble en los términos en los que se presenta. Evidentemente no se puede considerar "bueno" el mandato de Trump, pero ¿qué significa "bueno" en este contexto? ¿Puede un acto "malo" traer buenas consecuencias? Continuamente. Lo que no podemos comprobar es si una victoria de Hillary Clinton habría tenido mejores o peores consecuencias. Solo podemos contabilizar los actos de Trump y las reacciones positivas que ha habido en miles de mujeres para enfrentarse.

No siempre nos recargamos con energía positivas, sino que muchos de nuestros actos son respuestas ante actos negativos, como lo ocurrido con Trump. El debate se plantea porque no puede considerarse la elección de Trump cono positiva por más que haya servido para movilizar a las mujeres hacia cargos políticos y muchas de ellas estén presente tras las próximas elecciones en puestos a los que "quizá" no se habrían presentado tantas de no haber causado Donald Trump tanta irritación con cada medida.

Lo mismo podría decirse de las reacciones de los jóvenes ante el control de armas. De no haber manifestado Trump su apoyo al lobby de las armas y querer armar y entrenar a los profesores o que los "good guys" lleven armas a los institutos, probablemente la reacción juvenil —que aquí hemos tratado— no habría sido tan rotunda.

Hay una vieja historia china que cuenta cómo a un hombre le van pasando cosas que unos consideran positivas y el no quiere valorar, lo mismo ocurre cuando le hablan de las desgracias. Cada acción que "parece" buena tiene consecuencias malas y cada acción que parece "mala" acaba reportando beneficios. Al menos algunos, lo que no implica que no debamos aspirar a lo que creemos mejor. El hombre del relato ha aprendido que las cosas suceden y que lo bueno o lo malo es la valoración que le damos sin saber qué ocurrirá después. esto debería servir para moderar el optimismo y también ¿por qué no?, el pesimismo.

La llegada de Barack Obama a la presidencia no supuso un cambio en la mentalidad de los Estados Unidos por tener un presidente negro. Lo que se mostró después es que "trajo" la ola de racismo que ahora vemos alrededor de Trump, los supremacistas y los neonazis que ahora pululan. ¿Podríamos decir que fue Obama el que trajo a Trump? Bueno, en cierto sentido sí, aunque no se le puede responsabilizar a él de esto ni a los que le votaron.

Si volvemos a nuestros psicólogos de la teoría de la decisión del inicio. Vemos que las cosas ocurren, que nosotros tomamos decisiones con unas expectativas que nos gusta considerar como viables, pero que poseemos un enorme grado de incertidumbre ante el futuro. Los que predijeron el triunfo de Trump acertaron, pero lo que se ha producido después es un complejo entramado de influencias que son muy difíciles de determinar. Las situaciones de gran complejidad se producen en la vida de forma constante. Son nuestras mentes las que las simplifican pues nos gusta tener explicación para todo. Por eso dicen con acierto los psicólogos citados que antes de que algo se produzca todo es oscuridad, pero que una vez ocurrido se nos aparece como inevitable y encontramos todo tipo de explicaciones coherentes.

Lo realmente importante, como señala, Sevesz es confiar en algo complicado: en el futuro. Pero no un "futuro" que es incierto y un presente que provoca lo inesperado, sino una combinación de esperanza e irritación, con expresa bien la autora. Hacen falta las dos cosas para no perder el rumbo en los mares revueltos e imprevisibles de la realidad. La esperanza nos lleva adelante; la irritación saca la fuerza de lo que ya ha ocurrido y no queremos que se produzca.

Lo importante es lo que puede ser cambiado, aunque no sepamos a ciencia cierta los resultados. Es ahí donde la esperanza nos hace ver la mejoría. Luego la realidad, como conjunto de relaciones que solo acertamos a intuir, nos dará unos resultados u otros. El mundo no es sencillo y la capacidad de autoengaño es infinita, pero probablemente irrenunciable. Sueños cuando toque soñar; trabajo cuando despertemos. Discutir sobre lo que ya es pasado no tiene arreglo y discutir demasiado sobre nuestra forma de interpretarlo no tiene mucho sentido.

Bien está lo que bien acaba, dice Shakespeare. Lo malo es que solo la obra teatral termina. La vida es un "continuará" sin fin, con giros inesperados una temporada tras otra. Incómodos en la butaca, descubrimos que lo que esperábamos que ocurriera no ocurre y que aquel personaje tan simpático acaba siendo el villano de la siguiente escena.

No es nada fácil predecir el futuro ni interpretar o dar sentido al pasado. Uno y otro se basan en la dificultad de conocer y manejar la información necesaria para establecer una explicación ajustada. Tampoco sabemos hasta qué punto una respuesta es satisfactoria para todo lo que ocurre ni si todo se mueve por la misma motivación. Los hechos están ahí: Clinton perdió; Trump ganó. La mujeres se han revuelto contra él y ahora se presentan por miles a cargos públicos con grandes posibilidades de ganar. Pensamos que eso traerá un futuro mejor. Eso esperamos y así lo deseamos.

Los que deben asegurarse ambas es que sus enfrentamientos no vuelvan a ser un ingrediente más en el caldero del futuro, como lo fue en el pasado. No sea que de nuevo Trump y los suyos se aprovechen de ello. 

Eso también está escrito con tinta invisible en los muros del futuro.

* LEWIS, Michael (2016) Deshaciendo errores. Ed. Debate.

** Sevesz, Rachael "The strange thing is that both Susan Sarandon and Debra Messing are right about Trump" The Independent 13/09/2018 https://www.independent.co.uk/voices/susan-surandon-debra-messing-trump-women-people-color-midterms-2018-a8536191.html

Prejuicios e intuiciones

Joaquín Mª Aguirre (UCM)

The New York Times de ayer traía un interesante artículo de Michael Suk-Young Chwe, un politólogo de UCLA, con el título "Scientific Pride and Prejudice", haciendo referencia al célebre título de la obra de Jane Austen. Chwe es autor de la obra "Jane Austen, Game Theorist" en la que convierte a la autora inglesa en maestra de la "Teoría de juego", una disciplina sobre la toma de decisiones que ha tenido aplicaciones en los más variados campos.

El mundo moderno siente la necesidad de dar explicaciones sobre los procesos que se abren en la toma de decisiones. Ya no basta con decidir, sino que la Teoría de la Decisión, es decir, la comprensión de cómo llegamos a tomar decisiones, sobre qué mecanismos y supuestos se basa, pasa a ser relevante no solo para nuestro propio conocimiento sino para la mejora de nuestras decisiones, que pueden ser convertidas en "modelos" y "algoritmos" susceptibles de ser mejorados mediante su automatización.

El artículo tiene un arranque directo y nos sitúa en el centro de un problema:

SCIENCE is in crisis, just when we need it most. Two years ago, C. Glenn Begley and Lee M. Ellis reported in Nature that they were able to replicate only six out of 53 “landmark” cancer studies. Scientists now worry that many published scientific results are simply not true. The natural sciences often offer themselves as a model to other disciplines. But this time science might look for help to the humanities, and to literary criticism in particular.

A major root of the crisis is selective use of data. Scientists, eager to make striking new claims, focus only on evidence that supports their preconceptions. Psychologists call this “confirmation bias”: We seek out information that confirms what we already believe. “We each begin probably with a little bias,” as Jane Austen writes in “Persuasion,” “and upon that bias build every circumstance in favor of it.”*

Chwe tiene la razonable teoría de que la Ciencia, como todo lo humano, está sostenida sobre "prejuicios" que buscan confirmar lo que intuimos, ese "confirmation bias". Conforme avanzamos, la construcción que realizamos tiende a reafirmar ese principio establecido por el prejuicio que puede llevarnos finalmente al error. El patronazgo de Jane Austen está, en este sentido, plenamente justificado porque ella comprendió perfectamente —y así lo mostró a través de sus obras— que estamos sometidos a nuestros prejuicios, verdaderos obstáculos en nuestra comprensión del mundo y por ello sostén de nuestros errores evaluadores.

En las última décadas (quizá mucho antes), el pensamiento racional se ha mostrado como un ídolo con pies de barro, al menos, un ídolo en un pedestal menos estable de lo que pensábamos, lo que no dejaba de ser otro prejuicio. Se han multiplicado los estudios sobre los enmascaramientos que la mente produce para cubrir sus deseos y voluntad. Uno de los campos en los que más se trabaja, por ejemplo, es en la Economía, en donde la racionalidad de las decisiones contrasta con las que son tomadas bajo la presión del miedo y que producen los pánicos en las crisis que padecen los sistemas. ¿Cómo se traduce en aparente racionalidad  lo que no es más que miedo encubierto? ¿Hacia dónde corren los que tienen miedo?

La labor analítica de Austen consistió en mostrar el interior de las decisiones desde las perspectivas de futuro de sus personajes. Cada decisión que toman su héroes y heroínas es resultado de la información de que disponen en cada momento y del deseo, que es lo que hace interpretarla en un sentido u otro, como ilusión o temor.

Señala Chwe que los científicos, que pretenderían tomar decisiones "objetivas" deberían tomar lecciones del campo de las Humanidades, en el que la Teoría Literaria asume que los textos son "interpretados" siempre desde un horizonte de expectativas determinado. Chwe cita expresamente a Hirsch y a Hans-Georg Gadamer, el filósofo y crítico que llevó la Hermenéutica a primer plano. Señala el autor del artículo que en la Crítica Literaria parte del principio de la parcialidad del intérprete y no de su objetividad imposible, algo que debería ser aceptado también en el campo científico. Quizá Chwe debería matizar que esto no es una característica de la "crítica", sino de la "buena crítica", ya que la pretensión de "objetividad", desgraciadamente, no es exclusiva de la Ciencia, sino que forma parte de otro tipo, más amplio, de planteamiento, el deseo de imponerse. De la misma manera, existe una "buena práctica científica" que trata de evitar esos sesgos, ese dominio de la ceguera que lleva en un sentido impidiendo ver la realidad o, si queremos ser más precisos, construyendo una realidad parcial desde el deseo de ver. En ocasiones, esos prejuicios son intuiciones que llevan al éxito.

La buena crítica literaria parte del principio dialógico con el texto, de que la herramienta de análisis es el propio crítico como lector y no de la absurda y extendida creencia de que es el método el que nos distancia como subjetividad parcial. Lo realmente interesante de la crítica no es el texto aislado, sino su confluencia con el lector en la lectura. El error es pensar que es posible una lectura sin lector o que existe un lector que no es subjetivo.

Cuando he leído la primera frase del texto de Chwe — "Science is in crisis, just when we need it most"—, en mí se ha despertado un recuerdo que ha ido tomando forma musical y me ha llevado hasta una vieja canción de Randy Vanwarmer, "Just When I Needed You Most", que hace años que no escuchaba. No he podido desprenderme del "prejuicio" de que entre esa primera frase del artículo y la canción de Vanwarmer existe un extraño vínculo. ¿Es cierto o son imaginaciones mías? No lo sé, pero podría tratar de dedicar el resto de mi vida, con mayor o menor fortuna, a intentar convencer a los demás de ello. Incluso podría escribir a Michael Chwe para confirmarlo y ante su posible negación elaborar una serie de teorías complementarias que lo explicaran.

A mediados de los noventa tuve ocasión de entrevistar a un conocido poeta, profesor de estética, que acababa de sacar su primera novela, un texto que había comenzado mucho tiempo atrás y que entonces se publicaba. Después de un rato de charla sobre la obra, le dije directamente: "—A mí su texto me recuerda a la Enciclopedia de Novalis". Dio un salto en el sillón y me dijo: "¡Ese era el libro que tenía encima de la mesa mientras escribía la novela en los setenta!". Podía haberme dicho que no conocía el texto, desde luego. Pero lo que es indudable era que yo pude establecer la asociación mientras leía porque conocía previamente la obra de Novalis. Puede incluso que el autor no fuera consciente de la influencia estética que el texto de Novalis producía en él y que se tradujo en una serie de elementos que yo había detectado intuitivamente. Tampoco lo sé. Solo sé que mi reacción ante el texto fue esa y que lo que yo había detectado estaba en función de lo que yo era capaz de detectar porque conocía la obra de Novalis. Cualquier crítico que se acercara a su obra y no hubiera leído a Novalis sería incapaz de reconocerlo. Yo tuve suerte: lo que había leído se ajustaba a lo que estaba leyendo. Evidentemente, leyendo más se incrementa la posibilidad de encuentro respecto que no lee nada y va armado con un método milagroso.

Y esto que actuó aquí positivamente, puede hacerlo negativamente, es decir, convencerme de que la asociación que he realizado con el texto es real, aunque solo sea fruto de mi imaginación. Hay muchas obras críticas así. Como simple lector puesdo establecer las hipótesis imaginativas que quiera; como crítico debo justificarlas, argumentarlas.

La Ciencia no nos ha abandonado, desde luego. Lo que puede que nos haya abandonado son algunas de las prevenciones para curarnos de subjetividades que deben ser sometidas a crítica para evitar que se vuelvan circulares. Los condicionamientos de nuestros prejuicios, que están presentes en nuestra vida y se reflejan en las decisiones que tomamos, son peligrosos en unos casos y en otros tienen una función protectora. Lo malo es cuando se convierten en ceguera, cuando no logramos librarnos de ellos o, incluso, cuando estamos orgullosos de ellos. Más que en la Ciencia —la presión por los resultados es mala siempre e induce a no cribar los errores como se debiera—, debería preocuparnos el aumento de los prejuicios y de la radicalidad de la intransigencia. En vez de caminar hacia sociedades más permisivas y abiertas, parece que aumenta el deseo de imponerse a los otros, de convertir los prejuicios propios en verdades para los demás. Puede que no consigamos librarnos de nuestros propios prejuicios, pero si deberíamos curarnos del deseo de imponérselos a los demás.

* Michael Suk-Young Chwe "Scientific Pride and Prejudice". The New York Times Sunday Review 2/02/2014 http://www.nytimes.com/2014/02/02/opinion/sunday/scientific-pride-and-prejudice.html?src=me&module=Ribbon&version=origin&region=Header&action=click&contentCollection=Lo%20m%C3%A1s%20enviado&pgtype=Blogs