La mala inteligencia

Joaquín Mª Aguirre (UCM)

Desde hace algún tiempo los medios de comunicación se dedican a publicar artículos sobre la Inteligencia Artificial y, especialmente, sobre sus consecuencias. Hemos trasladado nuestra idead dual de la naturaleza humana (cuerpo y mente, el fantasma en la máquina) a las máquinas, que antes eran solo "cuerpo", y que desde la aparición de los ordenadores y su separación entre "hardware" y "software", es decir, entre la parte "material" y la parte "lógica", han producido una imagen de "alteridad" a lo humano.

Si el siglo XIX era un siglo naturalista, con la idea de la "bestia humana" y que dentro de todo inteligente Dr. Jeckyll habitaba un perverso e incivilizado Sr, Hyde, el siglo XX y el XXI has cambiado el modelo del espejo deforme al que enfrentarnos. La lucha "humano-animal" se resolvió aceptando nuestra parte animal e integrando la inteligencia como una evolución de la naturaleza. El ser humano ya no era algo enfrentado a la naturaleza, sino que era parte integral de ella, una evolución natural que llevaba hasta lo que somos. El encuentro de cada vez más "parientes" que se quedaron por el camino nos ha permitido hasta tener un entrañable sentido de la evolución, como el que tiene un tío en América. Ya hablamos con naturalidad de "parientes", de grados de parentesco, donde antes veíamos algo muy distinto.

Todo ello es importante porque nos ha permitido desarrollar (aunque sea de forma inconsciente en muchos) un sentido ecológico o de responsabilidad respecto a la naturaleza, entendida como hábitat humano compartido con los demás.

Pero la evolución de las propias máquinas hacia lo inteligente han creado varias fantasías que, como sabemos, acaban siendo realidades. El castigo de la inteligencia es recordar los sueños  y hacerlos realidad. Presionados probablemente por las angustias naturales de la extinción, producto de nuestro conocimiento evolutivo de otras especies (desparecen, por una causa u otra), empezamos a desarrollar ideas que nos llevan hacia delante, proyectivamente, hacia un futuro que imaginamos en el que de una forma y otra nos trasformamos o desparecemos. Conocedores que el esencialismo, universal y estático, no es más que un engaño de nuestro pensamiento, al comprender que estamos en continuo cambio solo podemos preguntarnos sobre qué y cómo seremos.

De fenómenos como este surgen fenómenos como el Poshumanismo, en el que algunos ven un futuro de superación de lo humano, de su debilidad inherente a lo vivo, y su fusión/sustitución con las máquinas, un mundo de prótesis y recambios mejorados en el que cada vez va quedando menos de la "pieza original", que se repara y ajusta con los nuevos recambios en el mercado.

Otros se lanzan a la especulación biotecnológica en la que el conocimiento de la genética y la bioingeniería nos hacen cuerpos resistentes al envejecimiento y a las enfermedades.

Otros ven nuestro futuro en las estrellas, lejos de este planeta, que habría cubierto solo nuestra infancia y adolescencia, del que saldríamos como los jóvenes que buscan su nueva casa, alejada de la residencia familiar. Se dedican a buscar posibles hogares para la especie humana, lugares a los que se pueda llegar, pese a las distancias y la pulverización del concepto de tiempo al enfrentar nuestra vida efímera a los grandes espacios del cosmos en los que distancia y tiempo se mide en años-luz. En estos días de celebración de la llegada del hombre a la Luna, comprendemos lo mucho que cuestan los pequeños pasos.

Soñamos, sí.

Pero conforme aquello que soñamos se hace realidad, nuestras especulaciones se hacen más humanas, afectan más a lo cotidiano; ya nos son sueños para el futuro, sino realidades que afectan a nuestra vida cotidiana. Entonces nos damos cuenta que todos esos bonitos sueños tienen su lado peligroso porque acaban usándose para lo mismo. Las promesas de vida eterna solo afectan a algunos, los beneficios para la "humanidad" solo están disponibles para unos pocos privilegiados, o aquello que nos iba a salvar se transforma en tecnología para destruir y dominar.

El diario El País nos trae en su sección de Ciencia Retina, un reportaje y un vídeo complementario titulado "Replicar la inteligencia humana: un sueño que ya cambia todo lo que conocemos", firmado por Zigor Aldama y Olivia L. Bueno (vídeo).

Estos son los dos primeros párrafos del artículo en los que se plantea la idea central:

La inteligencia artificial (IA) disparará la productividad, hará el mundo más eficiente y seguro, alargará la esperanza de vida, servirá para predecir el futuro, prevenir catástrofes e incluso para combatir el cambio climático. Las empresas que desarrollan esta nueva era basada en algoritmos y big data la presentan como el santo grial y pasan de puntillas por los evidentes peligros que también acarrea. Porque, según diferentes estudios y analistas, entre el 14% y el 40% de los puestos de trabajo actuales corre el riesgo de desaparecer debido al efecto combinado de estos sistemas y la robótica.

“El ser humano se verá obligado a formarse continuamente para no quedar obsoleto”, avanza Robin Li, consejero delegado de Baidu. Pero existe un escenario en el que ni siquiera esa formación continua sería suficiente para garantizar los puestos de trabajo: el de la singularidad tecnológica. Aunque todavía es un concepto más apropiado para historias de ciencia ficción, esta hipótesis dibuja un futuro en el que los avances tecnológicos desembocan en una superinteligencia que supera con creces la del ser humano. Y no faltan científicos que la consideran una posibilidad menos remota de lo que muchos otros quieren creer.*

 Todo texto se sustenta, de forma explícita o implícita en unos supuestos, que son los que le dan la coherencia. Lo que se describe se sustenta, como una pirámide invertida, en un punto que es el de partida, por más que se nos ofrezca a mitad de camino. A veces los supuestos no tienen porqué estar ni en el texto en sí, sino formar parte del entorno dialógico del momento. Son esas afirmaciones que no se cuestionan, que se dan por hechas y trasladan de forma sibilina la cuestión central a otro punto, lejos de las preguntas claras que podrían hacer desmoronarse el edificio lógico.

En el texto se parte de un principio no expresado que es el de la inevitabilidad del futuro. Es uno de los efectos retóricos más usados, sustraer la pregunta clave por otra que no afecte a la cuestión central. Te hacen "preguntas" para que no te hagas "la" pregunta.

El tono apocalíptico sobre el futuro se mantiene desde la primera línea y te va trasladando de un peligro a otro. Finalmente te tienes que rendir ante tanta evidencia dada por expertos sobre el desastre. Hablar de los "peores escenarios" es llevarnos de un lugar a otro para evitar hacer la gran pregunta: ¿por qué? ¿Por qué es ese "un futuro inevitable" y esas sus "consecuencias"? o ¿por qué, si es tan malo, lo desarrollamos?

La idea de una "singularidad tecnológica" tiene sus tintes apocalípoticos, pues expresa una especie de Big Bang de un nuevo universo tecnológico. Pero una singularidad es también un "agujero negro". Definir el futuro como un "agujero negro de la tecnología", que nos tragara, es una bonita forma de expresarlo.

¿Por qué invertir las preguntas y plantear que lo que está en juego no es el "futuro" del trabajo sino el "beneficio"? Casi todas las luchas que tenemos abiertas resuelven situación de equilibrio inestable por otras de desaparición de esta circunstancia. El equilibrio inestable entre trabajo y capital, creados por las necesidades mutuas, se resuelve en este caso por la desaparición del "otro necesario". Puedo tener una fábrica automatizada y no necesitar trabajadores, por ejemplo.

Hay más casos: la vida de pareja supone también una situación de conflicto inestable que se sexos se pueden modificar cuando la tecnología me permite la procreación sin la necesidad de un cónyuge del otro sexo. La mujer puede ser inseminada y el hombre puede "alquilar" un vientre. Incluso se puede prescindir del humano y tener una relación emocional y sexualidad con las máquinas, como planteaba la película "Her" (emocional) o las que plantean robots sexuales destinados a compensar la pérdida o rechazo del otro.

Pero estos futuros que se nos ofrecen son ilusiones que nos evitan enfrentarnos a las verdaderas causas de los problemas, como puedan ser la codicia o el egoísmo. Creamos las necesidades y extremamos los conflictos para tener que evitar enfrentarnos a la verdadera raíz.

¿Por qué no se plantea que el futuro del empleo no está en las máquinas sino en las humanísimas manos de los que quieren ser más ricos? El único dato que se nos da en todos los campos es el crecimiento abismal de las desigualdades. No estamos haciendo una sociedad mejor, sino una sociedad en la que algunos viven mejor, mucho mejor que otros. La verdadera pregunta que se nos sustrae es esa.

Para no contestarla creamos unos escenarios falsos que nos distraigan o, mucho mejor, unos villanos que es a quien se responsabiliza para dirigir ira y frustración contra ellos. Me ha sorprendido mucho que a toda esta primera fase apocalíptica del artículo le siga otra responsabilizando a China —para El País o para quienes lo sustentan, una verdadera obsesión— de la desgracia futura. China es la cabeza de turco perfecta.

Nos explican:

¿Podría el futuro superar a la ficción? Sobre todo en China, el país que se ha propuesto liderar el desarrollo de la inteligencia artificial: ya es el que más invierte en el sector, el que más instituciones públicas tiene investigando y el que más patentes registra: un 57% del total, frente al 13% de EE UU y el 7% de la Unión Europea, según el informe de 2018 Artificial Intelligence, a European Perspective, de la Comisión Europea. Y cuenta con 17 de las 20 instituciones de investigación más relevantes en el ámbito de la IA, de acuerdo con un estudio de la Organización Mundial de la Propiedad Intelectual. “Aunque me gustaría que EE UU ganase la carrera de la IA, si tuviese que apostar lo haría por China”, afirma Thomas H. Davenport, autor de La ventaja de la IA. “China tiene muchas ventajas: un Gobierno determinado, una fuente inagotable de dinero, un creciente número de científicos inteligentes y una enorme población que adora lo digital”, argumenta.

También es el país con menos barreras éticas y legales. Eso permite que los científicos se adentren en terrenos que otros países consideran pantanosos. “Siempre hemos pensado que la inteligencia humana era imposible copiarla y ahora sabemos que algún día podremos comprenderla lo suficientemente bien como para replicarla. Eso supone que no es irremplazable”, asegura Wu Shuang, científico jefe de Yitu, una de las empresas de IA más punteras de China y doctor en Física por la University of Southern California. “Todavía estamos en la fase de dotar a las máquinas de capacidad de percepción y lejos de pasar a las de razonamiento y toma de decisiones. Pero estoy convencido de que las máquinas terminarán adquiriendo sentido común y de que serán capaces de tomar decisiones cotidianas mejor que los humanos”, apostilla Wu, especializado en aprendizaje automático y redes neuronales profundas.*

La capacidad de China de ser el malo de la película es infinita. Parece que toda la paz del universo depende de que China esté a la zaga en todo. La seguridad, en cambio, viene de que el país que lanzó la bomba atómica, que creó el sistema defensivo apodado popularmente como "guerra de las galaxias", que está creando puntos de fricción por todo el planeta, vaya por delante en la carrera de la Inteligencia Artificial.

Desde que se ha convertido a China en algo peor que en un "enemigo", en un "competidor", parece que todo lo malo viene de allí. China, convertida en la fábrica del mundo, gracias a la codicia de las empresas occidentales, es culpable de tratar de saltar al segundo escalón tras la industria como la conocemos. El peligro pues, no es la Inteligencia Artificial, sino que China adelante a los Estados Unidos y Europa. Nuestra geopolítica de cómic permite contar la historia como una película de James Bond.

Ni 5G ni inteligencia artificial, ni Huawei, etc. Una inteligencia china parece un destino peor que el de Terminator. ¡"Barreras éticas y legales"! ¡Bendita hipocresía!

Tras los dos párrafos anteriores se nos dice:

Wu se rasca la cabeza después de 50 minutos de entrevista y reconoce que no tiene tan claro que el ser humano vaya a salir bien parado de la nueva etapa en la que se adentra.*

Y cuando un chino se rasca la cabeza...

En vez de temer al futuro inevitable, deberíamos aplicar esa ética de la que presumimos en ver dónde está el problema. Primero era la automatización que quitaría puestos de trabajo. Primera falacia: no es la automatización lo que elimina puestos de trabajo; es nuestra codicia que antepone el beneficio y deslocaliza cuando le interesa y amortiza después. China no tiene nada que ver con esto, sino una forma de economía irresponsable que es la que abre las enormes diferencias sociales, está destruyendo el planeta acabando de forma irresponsable los recursos y antepone el beneficio a cualquier otro principio ético o responsabilidad. La globalización económica es la gran forma de penetración del mundo occidental en el que está en desarrollo para poder evitar los elementos negativos del desarrollo que se hace más brutal al desplazarlo a países en los que las bajas condiciones de vida obligan a aceptar lo que se les ofrece. No se acepta en cambio, la tercera pata de la globalización, la movilidad de las personas, como vemos cada día.  Creamos tensiones por la degradación de la vida, por la violencia en países próximos o lejanos, pero no queremos que la miseria o violencia que creamos o permitimos, llegue hasta nosotros. El mundo debe estar dividido en dos partes mientras que los capitales y empresas colonizan los países más débiles. La llegada de Trump al poder ha permitido comprender sin subterfugios, en toda su crudeza, la violencia que se ejerce sobre el mundo.

¿Por qué no invertimos en una educación más responsable, más ética (en vez de dudar de la de los demás? Si el problema es la pérdida del trabajo es sencillamente porque creamos empresas que no lo requieren, no por ninguna "ley" histórica. Eso es una falacia. Suprimimos el trabajo porque unos quieren ser más ricos de lo que son y han perdido algo que estaba en la base de la economía clásica desde su principio, su sentido social. Lean a Adam Smith, por favor, en vez de inventárselo. No hay mucha reinversión del beneficio, sino la inversión en la especulación no productiva. Eso se vio durante la crisis anterior; se separaron los tipos de bancos para evitar los mismos errores, pero ya estamos en las mismas. Cuando nos dice que esta generación vivirá (ya lo hace) peor que la de sus padres, ganando menos y teniendo que pagar más por menos cosas, no debemos pensar en "leyes" sino en "voluntades". El futuro lo hacemos cada día.

Otra cosa es que nos avergüence reconocerlo o hacernos responsables.

Invirtamos en ética, es decir, compromiso, sentido de la comunidad; estemos orgullosos de lo que hacemos y no simplemente de nuestra riqueza de cuyo origen nos tendremos que avergonzar. Dejemos de etiquetar a los demás como el origen del mal para evitar que se descubra la porquería que circula por nuestras cañerías sociales.

Creo que nunca ha habido una etapa en la que se aceptara de forma tan natural la explotación, que se teorice y que se pongan los intelectos al servicio de causas antisociales, de la manipulación de la opinión pública y que se permitiera la exhibición de la codicia como un gran valor social y personal.

Pero la segunda fase es la más divertida. La idea de una Inteligencia Artificial que no nos necesite, ese agujero negro que se nos trague a todos, que cree un mundo implacable en el que nosotros, pobres humanos éticos, descubramos que John Connor solo era un mito y nos encontremos al borde de la extinción.

Volvamos al planteamiento anterior. Todo lo que haya será creado para nosotros. Esa forma de IA a la que le sobramos nosotros será también invención, diseño de nuestro propio e imperfecto cerebro animal.

De nuevo, subterfugios por todas partes. Esa máquina no desarrollará su propia ética, sino la que le pongan sus amos blancos. Recordemos el caso, tratado aquí, del algoritmo machista de Amazon, desarrollado para la selección de personal. Es algo más que una anécdota; es el recordatorio que todo lo que hagamos los humanos no será más que una prolongación de nosotros mismos. La máquina somos nosotros mismos haciendo lo que no nos atrevemos a hacer para quedar medianamente bien. Nosotros somos la mejor máquina de crear excusas, de convencer a otros de que no somos responsables de lo que hacemos. Llevamos unos cuantos miles de años creando civilizaciones con "normas sagradas", "formas naturales", etc. que no hacen sino ocultar nuestra "voluntad de poder", por usar el término de Nietzsche.

Desde que han saltado las alarman sobre la automzatización de los puestos de trabajo, con la consiguiente pérdida, las empresas del sector organizan foros y seminarios, publican artículos, intentando tranquilizar a la gente, asegurándoles que no va con ellos. Pero va con todos, porque en el proceso sin freno del desarrollo, la ventaja que tienes un día la tienes que mejorar al siguiente porque si no te pasan por encima. Es una rueda ciega que va más allá de Schumpeter.

Decía el otro día una científica en una entrevista que "no nos debíamos preocupar tanto por la caída de un asteroide que nos destruyera como por lo que hacemos destruyendo el medio ambiente". Tiene toda la razón, es muy bonito preocuparse por la caída de asteroides mientras destruimos el planeta con nuestras acciones irresponsables. Es un ejemplo de lo que señalamos anteriormente como maniobras de despiste, de evitar que nos fijemos en la raíz de los problemas. No es fácil negociar el futuro cuando lo que haces es negociar tu jubilación, forma cotidiana de llamar futuro. Nuestra esperanza humanas ya no son cambiar el futuro, sino que nos quede algo. ¡Un pobre consuelo! Como decía el filósofo Gianni Vattimo hace unos días en el mismo medio, "espero que todo esto no salte antes de que me vaya!" Eso es pesimismo.

El problema de la automatización deja de ser la automatización y toda la atención se concentra en el problema de que sea China quien lo desarrolle primero. Nadie se preocupaba por su teléfono Huawei hasta que empezaron a vender más que las marcas norteamericanas. Desde entonces, todo son peligros.

La automatización llegará y se creará una sociedad al borde de la explosión por los desequilibrios creados. Se avanzará entonces en la inteligencia de control social, en la videovigilancia, como ya se hace. En vez de invertir en elementos que controlen las tensiones de los conflictos, nos volcaremos en el control de las quejas. Para ello hay que crear suficiente mitos que lo expliquen y justifiquen porque unos se ahogan en los mares y otros disfrutan del jacuzzi, que justifiquen por unos los cruzan en pateras y otros en yates y crucero de lujo. Esto, dirán algunos, es así. No hace falta explicarlo.

En Japón y China se está desarrollando una corriente social —alguna vez hemos hablado de ella— que busca anular los principios de la competencia constante, de la comparación y lucha de unos por otros, como se nos enseña cada día, y trata de buscar la felicidad dentro de la propia persona. Cuanto menos deseas, menos sufres, nos enseña el budismo; cuanto menos tienes, menos pierdes. Aprender a ser feliz así es un buen planteamiento ético y respetuoso con la vida, la propia, la ajena y la del mundo en el que vivimos.

Nos lo advierten todos los días, pero nuestra inteligencia humana se ciega con facilidad. La codicia y la esperanza en que gracias a nuestros beneficios, a nuestra riqueza, vamos a poder eludir las consecuencias las acabaremos pagando. ya lo estamos haciendo. 

Podemos echarle la culpa a la IA, pero eso es solo una forma de escondernos.

* Zigor Aldama y Olivia L. Bueno "Replicar la inteligencia humana: un sueño que ya cambia todo lo que conocemos" El País / Retina 26/07/2019 https://retina.elpais.com/retina/2019/07/25/tendencias/1564047718_874415.html?autoplay=1#boton_articulo-comentarios