¿Una IA machista?

 Joaquín Mª Aguirre (UCM)

Me imagino que los temas que más salen a la luz sobre la Inteligencia Artificial no son los que más gustan a los que se dedican profesionalmente a ella, a desarrollarla y a usarla en muchos campos en los que suponen algún beneficio. Por desgracia, los que los medios atienden (y expanden) son aquellos casos en los que están implicados claros aspectos y usos negativos.

Con la IA pasa algo parecido a lo que ocurre en aquellos países en donde es fácil adquirir armas. Igualmente, lo que sale a la luz son los usos negativos, como matanzas, tiroteos, asaltos, etc. En el caso de la IA, igualmente, se están haciendo grandes negocios amparándose en que está en la libertad de los usuarios el cómo se utilicen. Nada importa mientras produzca beneficios a alguien. Y ya hay muchos beneficiándose de este negocio al ponerlo en manos de cualquiera, al hacerlo fácilmente utilizables sin demasiados problemas. De hecho, una parte importante de los casos que salen a la luz se deben a acciones cometidas por menores. Y un segundo aspecto: con las mujeres como víctimas.

En RTVE.es nos encontramos con el recuento de una serie de problemas generados (socialmente) por la Inteligencia Artificial y que se dirigen al mismo objetivo: las mujeres. La IA es una herramienta y un producto. Como herramienta unos lo dedican a hacer cosas positivas; otros, en cambio, la utilizan para dar más fuerza a sus ataques a lo que consideran su principal enemigo: las mujeres y sus avances. De esto hemos tratado aquí varias veces.

Pero hay un segundo tema presente, los sesgos y el estereotipado de elementos transmitidos desde la "inteligencia humana" a la "artificial" con regreso. Es decir, los estereotipos y fobias salen de la sociedad, pasan por los algoritmos, donde toman forma, y acaban volviendo a la sociedad a través de los resultados producidos. La IA solo da forma, da un acabado impecable a la negatividad preexistente.

El problema es pues de orden social en varios niveles. El primero es el fallo educativo. Que sean niños y adolescentes los que se dedican a esto es un mal síntoma, una muestra de la "mala educación" con la que salen de sus ámbitos familiares y la nula capacidad educativa de corregirlo. Parte de esto tiene que ver con la horizontalidad, la comunicación entre pares, pero mucho con la vertical, es decir, con lo que se escucha en casa, por decirlo así, además de lo que se trasmite a través de esas grandes "mal educadoras" que son hoy las redes sociales.

Volvemos así al principio, a lo social, a las mentes maleducadas y ahora agresivas ante el deterioro y pérdida de sentido de la palabra "valores", como un deseo de orientación común hacia algo que entendemos como valioso para todos. Pero nuestras sociedades son sociedades de desacuerdo. Es lo que vemos cada día y cada día igualmente se nos ofrecen argumentos y energías en contra de algo. Solo se está de acuerdo en el valor del dinero. Todo lo demás es discutible y escenario de batalla.

La IA es un gran invento, como lo fue la pólvora, pongamos por caso. Se pueden hacer muchas cosas con ella. Pero en una sociedad sin demasiados valores, es como dar armas a los niños. La infancia es, claramente, el gran objetivo del consumo y del negocio. Lo que hagan con ello es secundario. La responsabilidad, dicen unos y otros con cierta ironía por no decir descaro, es de las familias, que es no decir nada. ¿Es delito?, se preguntan otros expertos. ¿Cuándo llegará la legislación que regule esto?, señalan.

El artículo repasa algunos casos recientes en España, como el de Almendralejo, con el uso de fotos de las compañeras de la escuela para generar imágenes pornográficas. Se le da voz a una de las madres de las víctimas, quien señala que

...la clave para ella está en los más jóvenes. Cree que los que generaron las imágenes desnudas de su hija y de una veintena de chicas no son conscientes de la gravedad del delito que han cometido. Pide que haya tolerancia cero con este tipo de agresiones y que se reconduzca a estos chicos, desde su punto de vista “recuperables”. “Si con esto corremos un tupido velo, ¿qué harán el día de mañana?”, se pregunta.* 

Es importante distinguir los tipos de casos que van apareciendo porque manifiestan muchas formas, pero con un mismo objetivo en su mayoría: la violencia contra las mujeres. Esto es lo realmente preocupante y no se puede obviar desde el punto de vista del deterioro social.

El panorama que se nos ofrece es peligroso porque se está usando a la infancia para entrar en esta dinámica negacionista de la igualdad, va creciendo además la idea absurda de que los hombres son las víctimas de las mujeres, creando espacio de captación cada vez más intensos a través de los grupos que les lanzan estas "tentadoras" venganzas por distintos motivos contra las mujeres. En el texto se señala:

[...] en lo que están de acuerdo todas es en la importancia de educar a las generaciones presentes y futuras. Al Adib considera que lo que ocurrió en Almendralejo pasa en todo el mundo, pero que las víctimas no se atreven a denunciar o no saben cómo hacerlo. Insiste en formar a las instituciones para que sepan cómo atender a las mujeres que se vean afectadas en violencias similares.*

El miedo, la intimidación constante por la amenaza de ser distribuidas por las redes sociales para hacer daño y destruir su reputación es cada vez más frecuente y acaba provocando estados de ansiedad, depresiones y tendencias suicidas. Todo esto provocado por lo que algunos quieren considerar como una especie de juego infantil. No lo es en absoluto. Es más bien parte de un juego diabólico en el que se incentivan estas actitudes desde diversos foros. Es el negacionismo descendente que llega desde los adultos misóginos hasta los menores que, al ser inimputables, muchos de ellos se dedican a destruir así a las niñas y adolescentes que no se pliegan a sus gustos o deseos. Lo que califican en el texto como "porno venganza" es una realidad en una sociedad que no puede aislarse de las redes, que necesita proyectar su imagen a través de ellas para poder tener actividad social y, por ello mismo, es víctima de esa necesidad. Cuanto más deseamos estar en las redes para vencer esta moderna forma de soledad en la que vivimos, más débiles somos, más expuestos estamos.

No es casual, decimos, que la mayor parte de esto se dirija hacia los jóvenes ya que son los más necesitados de la proyección social para crearse la naciente identidad, una mezcla donde lo social tiene gran peso. La necesidad de mostrarse ante los otros trae la posibilidad del ataque y la manipulación.

Los expertos y víctimas consultados se preocupan por legislaciones, definiciones de casos, etc. Denuncian las situaciones, pero la respuesta es el silencio o el encogimiento de hombros. ¿Quién se atreve a frenar, a legislar, a ponerle puertas a este campo que está dando tanto juego económico y social? Como señala uno de los expertos citados en el título de artículo, "lo que asusta es la maldad humana".

Dicen en elDiario.es que la app con la que se hizo el trucaje de las fotos de las menores de Almendralejo cobra 9 euros por 25 fotos. ¡Un gran negocio! ¡Con el buen negocio hemos topado!

* Lucía Blázquez "Sesgos y violencias machistas de la IA: "No me da miedo la tecnología, me da miedo la maldad humana"" RTVE.es 14/01/2024

https://www.rtve.es/noticias/20240114/objetivo-igualdad-sesgos-violencias-machistas-ia-no-miedo-tecnologia-miedo-maldad/2469099.shtml