Paradojas y peligros de la IA

 Joaquín Mª Aguirre (UCM)

Leer sobre la IA es tener la mente divida entre ventajas y problemas. El cristal con que se mira es fundamental en esta cuestión, pues beneficia o perjudica a unos y a otros. Cuanto más "inteligente" es la IA, estas diferencias se acrecientan y la cuestión se muestra en su mayor ambigüedad en cuanto a beneficios y perjuicios.

Si mira cualquier portada de periódico digital, verá que en su pantalla aparecen dos tipos de artículos, los que apuestan por un futuro mejor y los que denuncian riesgos y problemas.

En estos últimos están los que avisan que estamos haciendo una inteligencia demasiado lista y que apenas podremos controlarla en la medida en que ya no somos nosotros quienes la dirigimos, sino que ella misma forma parte del proceso.

En 20minutos, por ejemplo, vemos las preocupaciones de la Unión Europea para crear un entorno más seguro por el uso de la IA:

Como pilar estratégico, la UE lanzará una convocatoria para establecer una capacidad de evaluación propia que se espera esté operativa en el año 2027. Este organismo reforzará la función reguladora de la Oficina de IA, permitiendo una supervisión independiente de las capacidades y riesgos de los modelos a nivel global.

Para facilitar el despliegue tecnológico, la Agencia de la Unión Europea para la Ciberseguridad (ENISA) definirá un "blueprint" o esquema europeo de acceso estructurado. Esta guía permitirá que organizaciones públicas y privadas accedan a las capacidades de ciberseguridad más avanzadas basadas en IA bajo condiciones claras y transparentes.*

¿Qué quiere decir este galimatías tecnocrático? Que cuanto más avancemos en IA, más riesgos corremos y necesitaremos la IA para defendernos de la "otra IA", la que es un arma para burlar las seguridades. El progreso de la IA va en paralelo: armas para cometer delitos burlando la ciberseguridad y defensas para tratar de evitarlo, también a cargo de modelos de IA, porque ya somos incapaces de enfrentarnos a ellas solos. Paradójico, pero es así.

El negocio es así, redondo. Los avances en IA aseguran a unos y otros estar en primera línea y en renovación constante. Quedarse atrás significa que lo invertido no sirve de mucho, que existe ya una IA que te bloquea.

En Business Insider traducen el artículo de Jacob Zinkula sobre los estragos que las posibilidades de trabajo en la IA están haciendo en lo que se consideraba el paraíso tecnológico para el empleo, Google. Tras analizar los casos, el texto se cierra así:

[...] para algunos antiguos empleados de Google, ni siquiera la generosa remuneración que ofrece Google es suficiente para compensar las oportunidades creadas por el auge de la IA, ya sea unirse a una empresa de IA de rápido crecimiento o crear una propia.

"Si la única forma de obtener un verdadero beneficio en este momento de la IA es mediante la participación accionaria, en algún momento uno se pregunta si esa participación debería estar en su propia empresa", dijo Imran.**

Sí, el incentivo de la creación y desarrollo de herramientas por IA parece claro a la vista de los beneficios. La propia IA es causante de muchos de los despidos en muchos tipos de empresas, especialmente en aquellas que trabajan en IA. La única salida antes de que te acaben echando a la calle es producir tu propia IA.

Los que sobrevivan tendrán que ajustarse a este ritmo suicida pues su destino es ser superado rápidamente por otros en esta carrera de velocidad en la investigación.

Si tenemos en cuenta que la mayoría de las empresas empiezan a ver a los trabajadores como una "carga" que puede ser sustituida por IA, los medios nos ofrecen artículos sobre los sectores más afectados y recomiendan empleos menos afectados por la IA, algo complicado pues ya se maneja en ámbitos cada vez más amplios, de la medicina al gimnasio. Ya tenemos noticias de operaciones de quirófano realizadas por máquinas controladas por IA o de todo tipo de asesorías, de técnicas a sentimentales. Las nuevas generaciones tienen "su mejor amigo IA"; los ancianos ansían vencer la llamada "soledad no deseada" con un cariñoso y atento robot con el que dialogan, se sinceran y comparte recuerdos.

Entre las IA que son capaces de romper las barreas de seguridad de las IA ya anticuadas y los IA de compañía, por decirlo así, el mundo se está transformando. El presidente de los Estados Unidos usa la IA para el insulto y para mostrarse como imprescindible e infalible. En escalas más modestas tengo amigos y conocidos que se retratan como miembros de sus equipos campeones de Liga o como aviadores de la II Guerra Mundial.

Lucho cada día con mi teléfono que intenta colocarme una IA que trata de explicarme todo lo que aparece en pantalla. Lo rechazo, pero ella no ceja.

De nuevo, nos enfrentamos a una situación de "shock del futuro". Vamos tan deprisa que no somos capaces de comprender lo que hacemos, solo de sufrir sus consecuencias. Por mucho que intentemos legislar y controlar, las siguientes IA estarán diseñadas para burlar las trabas. Lo que se suele decir que el delito va primero y la prevención después. Cuando nos enteramos, ya hay algo más eficaz.

Dejo un sector, el educativo, especialmente sensible a la IA. No hay comida en la que no se discuta el uso fraudulento de la IA en la realización de los trabajos de las asignaturas. Lo que presentan es cada vez más IA y menos alumno. ¿Para qué leer, para qué pensar si la IA lo hace por ti? Pero entonces ¿cuál es el sentido de la educación, en qué consiste el aprendizaje? Con saber manejar el programa de turno es suficiente. Hace falta una seria reflexión en el sistema educativo sobre esto.

Los programas de más éxito son los que aparentan mejor, camuflan bien. Su función es obtener una buena nota y no saber más. Un mal aprendizaje social. Cuando advertí hace unos años que esto ocurriría, no me hicieron mucho caso. Hoy es el tema del día: sobran los profesores. Los libros que los lea el chatbot y luego me los cuenta.

La IA nos afecta para bien (unos ahorran tiempo, ahorran trabajo, ahorran empleados, algunos se hacen ricos) y para mal (nos despiden, dejan sin trabajo a muchos, se devalúa el saber, nos estafan, etc.). Ante este panorama, las próximas decisiones (con o sin IA) son cruciales y, probablemente, tardía.

 

* Emilio Ordiz "Bruselas anuncia un plan para que la UE tenga en 2027 capacidad propia para evaluar riesgos de modelos de IA" 20minutos 7/07/2026  https://www.20minutos.es/internacional/bruselas-anuncia-un-plan-para-que-ue-tenga-2027-capacidad-propia-para-evaluar-riesgos-modelos-ia_7011567_0.html

** Jacob Zinkula "Ni un millón de dólares al año retiene al talento en Google: el 'boom' de la IA desata la fuga de cerebros hacia OpenAI y Anthropic" Business Insider trad. Lidia Sánchez 7/07/2026 https://www.businessinsider.es/big-tech/ni-un-millon-dolares-ano-retiene-talento-google-boom-ia-desata-fuga-cerebros-hacia-openai-anthropic_7011083_0.html