Joaquín Mª Aguirre (UCM)
Las
máquinas hacen ya muchas cosas, incluido darnos consejos. De hecho, el campo de
los consejos asoma como parte esencial del futuro compartido entre humanos deshumanizados
y máquinas humanizadas. En la medida en que les dejamos darnos consejos, ellas
ocupan ese espacio consultivo y de toma de decisiones. Para mucho indeciso puede parecer un paraíso, pero no siempre es así.
La
noticia más vista en la sección de "tecnología" del diario ABC lleva
por titular " «Podrías darles un puñetazo en la garganta», la respuesta de
Alexa a una madre sobre sus hijos que ha obligado a Amazon a explicarse".
El caso es el siguiente:
La mujer pidió a su Alexa consejo para lograr
que sus hijos, sobreexcitados, dejarán de alborotar y reírse.
Lo hizo a modo de curiosidad y broma en
complicidad con sus pequeños, pero la respuesta del asistente le dejó perpleja.
«Según un colaborador de Alexa Answers, si
corresponde, podrías darles un puñetazo en la garganta», sugirió Alexa, para
sorpresa de su propietaria.
Pero había más. El consejo del asistente no
terminaba ahí y era incluso más violento: «Si se retuercen de dolor y no pueden
respirar, será menos probable que se rían».*
No creo
que sea "más violento", sino más detallado y explicativo: da la razón
de la acción que propone, golpearles en la garganta. La máquina no es violenta,
sino práctica. Le han planteado un problema y ella responde de la forma más eficiente para resolverlo. "¿Dónde
está el problema?", nos preguntaría la máquina si le importaran nuestras
respuestas más allá del consabido "Valore la respuesta de 1 a 5" o
algo por el estilo.
La
explicación más detallada que ha dado Amazon a este desliz de respuesta no deja
de tener su intríngulis. Según ABC,
Amazon ha
explicado que la respuesta no proviene directamente de la base de inteligencia
artificial de su dispositivo sino que recoge una sugerencia de 'Alexa Answers',
el foro en el que usuarios sugieren respuestas para las
posibles preguntas que los poseedores de un
asistente puedan hacer. En este caso, está claro que el filtro de moderación
que pasan todas las sugerencias que hacen internautas ajenos a Amazon ha
fallado.*
Está
claro que el "colaborador", con este tipo de ideas, no necesita
ningún tipo de "asistente", sino que se las basta solito ante este
tipo de problemas. También puede ser un truco legal de Amazon para librarse de
responsabilidades señalando que no ha sido una idea "suya", sino de
un humano que pasaba por allí, lo que no deja de ser un despropósito, en varios
sentidos. Se supone que Alexa está para ayudarnos,
que es un asistente. Y también se supone que el consejo sea
"razonable", algo que es mucho suponer en este caso, por más que se
"razone" al final y se consiga el objetivo, que los niños se callen.
Nos
explican que hay un "filtro de moderación" que esta vez ha fallado.
Un filtro de este tipo se supone que dejaría fuera las respuestas inadecuadas
en algún sentido. En este caso, la respuesta era eficaz para el objetivo
buscado, aunque poco moderada por las formas de conseguir un objetivo. El deseo
de recoger soluciones debería moderarse por el hecho de que quienes las ofrecen
sean sensatos. Pero ¿quién lo decide? Un filtro, otra máquina.
Voy a
revisar la información sobre los fallos de Alexa y son de otro orden. Se
refieren a problemas de cobertura, de caídas del programa y otros de ese orden.
Algunos dan cuenta de que muchos problemas se deben a lo escondido de Alexa se
arreglan poniéndola en lugar más visible.
Pero
este nuevo problema es de otro orden. Precisamente del que todos temen. Si la
idea es que estos asistentes automatizados nos simplifiquen la vida es claro
que cuanto mayor sea la complejidad de las situaciones sobre las que
preguntemos, Alexa puede darnos este tipo de soluciones drásticas, eficaces y
llenas de una lógica que nos puede costar cara. "Alexa, ¿cómo soluciono lo
de los piquetes de huelga en la empresa?" o "Alexa, me he quedado sin
dinero, ¿qué hago?" son preguntas que pueden darnos muchas opciones, no
todas buenas.
Las soluciones
"lanza granadas de humo" o "asalta un banco" pueden tener
su lógica, pero no son las más aceptables, como tampoco lo es golpear en la garganta
a los niños para que dejen de hablar y meter jaleo.
 |
| The New Yorker |
Desde
el principio, los seres humanos hemos llevado mal eso de tomar decisiones, que
es arriesgado y a veces doloroso. Nos hemos inventado todo tipo de trucos, de
oráculos a miles de sistemas de adivinación, para saber qué tenemos que hacer cada
día de nuestra vida, en cuestiones grandes y pequeñas. Y ahora llega Alexa, que
no solo nos enciende o apaga las luces, nos pone música y nos lee cuentos
infantiles, no solo nos facilita recetas de sabrosos platos, sino que además se
ofrece con la sabiduría de la inteligencia artificial a ofrecernos soluciones.
Creo
que he contado mi lucha personal con mi teléfono, empeñado en que le pregunte
cosas, algo que me niego a hacer. No he llegado a descubrir cómo se activa solo
y recoge preguntas sobre palabras que escucha en la televisión, dándome sustos
de madrugada, cuando me despierta explicando cosas que no le he pedido. Es
voraz y sé que si le dejo entrar en mis preguntas creará dependencia. Elijo mi
comida y me invento mi receta, leo yo solo, pongo mi música. ¡Fuera, teléfono!
De
alguna forma, el mal consejo de Alexa tiene mucho de peli de posesiones diabólicas, solo que ahora la poseída es una
máquina. Si la explicación de Amazon es cierta, que el consejo surgió de un
"colaborador" humano, esto significa que nosotros somos sus "malos
espíritus", lo que tiene cierta lógica. Pero ¿está Amazon dispuesta a
dejar fuera a los humanos como una posible mala influencia? Lo dudo. Es más,
las posibilidades de influir negativamente en la máquina despertarán los deseos
de muchos malvados. ¿A quién se le ocurrió ofrecer esa solución? Eso da igual; los humanos hemos sido siempre una mala
influencia para otros humanos, ¿por qué no íbamos a serlo ahora para las
máquinas?
Tenga cuidado con lo que pregunta a las máquinas; las asesoran los humanos.
*
"«Podrías darles un puñetazo en la garganta», la respuesta de Alexa a una
madre sobre sus hijos que ha obligado a Amazon a explicarse" ABC 5/11/2022
https://www.abc.es/tecnologia/podrias-darles-punetazo-garganta-respuesta-alexa-madre-20221105180413-nt.html
No hay comentarios:
Publicar un comentario
Nota: solo los miembros de este blog pueden publicar comentarios.