La risa de Alexa

Joaquín Mª Aguirre (UCM)

En el contexto creciente de artículos, películas y series sobre Inteligencia Artificial es normal que la gente se inquiete ante la risa inesperada de un asistente robótico como Alexa, noticia estos días. Poner voz a un dispositivo de este tipo hace que nos lleguemos a olvidar que estamos ante una máquina o quizá sea eso lo preocupante.

Escuché por primera vez el problema en la CNN. Allí se podía ver al díscolo dispositivo riendo por su cuenta, preguntado o no por el usuario. Tanto la presentadora como el autor de la información se tomaban a broma lo que estaba ocurriendo. Pero no todo el mundo reacciona de la misma manera racional. De todo lo que puede hacer una máquina parlante, la risa es lo más difícil de interpretar.

Nos dicen que Amazon ha vendido millones de altavoces como Alexa por todo el mundo. Es la nueva forma de relacionarse con los dispositivos, de gestionar la información, realizar compras online, etc. La CNN, por ejemplo, tiene su propia relación con Alexa. Desde Amazon se puede descargar una aplicación que hace que Alexa nos informe de las noticias:

CNN brings you breaking news and the latest news topics from anchors and reporters across the globe. Just say, “Alexa, open CNN.” You can tap the story you want to hear, say the topic name or say the corresponding number to the topic. You can say previous or next to see more stories on the list screen.

To dive right in, say, “Alexa, ask CNN for the latest news.” Then, ask CNN about a specific topic, such as: “Alexa, ask CNN for the latest on President Trump.”

While you watch, you can ask Alexa to pause or resume. Skip a video by saying next. Tell Alexa how far to rewind or fast forward when watching a video. Tap the screen to see the video title display. To hear the latest subjects CNN is covering, say, “Alexa, ask CNN for more topics.”

After you enable the CNN skill, here are some ways to get started:

Alexa, ask CNN for the latest news.

Alexa, ask CNN for the latest on President Trump.

Alexa, tell CNN to give me the news.

Alexa, play number one...*

Todo esto está muy bien. El problema es cuando deja de funcionar o lo hace de forma defectuosa. Es lo mismo que hacíamos manualmente, pero a través de la voz. Pero la voz tiene algo especial, algo psicológico que cambia la naturaleza de nuestra relación con la máquina. Como se suele decir, nuestro "cerebro" está todavía en una fase más atrasada que nuestra "mente". Hablar es otra cosa.

Hablamos con nosotros mismos y hablamos con los demás. Muchos hablan con su perro y con su coche. Eso es una relación especial. Ahora son las máquinas las que se ponen a hablar con nosotros y nosotros con ellas. En vez de teclear o manejar un ratón, usamos las palabras para introducir los datos y realizar acciones. Pero la voz es algo más. No nos distancia —como un teclado o un ratón— sino que nos une a través de lo más humano, el diálogo, algo reservado hasta el momento a la comunicación humana. Hablar es humanizar. Por eso, por muy trivial que sea, la risa de Alexa nos preocupa.

La BBC también se ha preocupado por su risa, recogiendo la inquietud de algunos usuarios:

Amazon’s Alexa has been letting out an unprompted, creepy cackle - startling users of the best-selling voice assistant.

The laugh, described by some as “witch like” was reported to sometimes happen without the device being “woken” up.

Others reported the laugh occurring when they asked Alexa to perform a different task, such as playing music.

"We’re aware of this and working to fix it,” Amazon said.

"In rare circumstances, Alexa can mistakenly hear the phrase 'Alexa, laugh'.

"We are changing that phrase to be 'Alexa, can you laugh?' which is less likely to have false positives, and we are disabling the short utterance 'Alexa, laugh'.

"We are also changing Alexa's response from simply laughter to 'sure, I can laugh' followed by laughter."

Voice assistants like Alexa are designed to respond or act only when prompted with a wake word, which in this case is “Alexa” or “Amazon”.

But some people have suggested the glitch happened without any prior interaction, spooking Alexa owners.*

La idea de los "falsos positivos" no tranquilizará a los que dicen sentir escalofríos ante esa "risa de bruja" que dicen haber escuchado. Son los riesgos de tanta película sobre la rebelión de las máquinas. La afirmación de que Alexa se río por su propia iniciativa (sin ningún comando) es inquietante. Si fuera una cuestión aleatoria, la respuesta podría ser cualquier otra. ¿Por qué, entonces, la risa? Eso es lo que los expertos no acaban de aclarar. Más bien sus iniciativas parecen destinadas a evitar que lo haga de nuevo. Si alguien diera una orden antes de la risa, esta se interpretaría como una desobediencia.

Por encima de la lógica, está esta nueva pragmática de las interacciones verbales con máquinas. Sencillamente, no estamos acostumbrados a que una máquina se ría y, para los más susceptibles, que se ría de nosotros.

Interpretamos sus palabras como amables respuestas a nuestras preguntas en un juego previsible en el que estas risas lo desbaratan todo. ¿Cómo interpretar una "risa"?

La BBC nos trae algunos comentarios de los usuarios y algunas inquietantes conexiones:

"WHY DID MY ALEXA JUST LAUGH OUT OF THE BLUE?!?!?!?” wrote one user on Twitter.

Another wrote: "Lying in bed about to fall asleep when Alexa on my Amazon Echo Dot lets out a very loud and creepy laugh... there’s a good chance I get murdered tonight.”

The use of voice assistants in the home is often met with caution due to their nature - voice commands are recorded and sent to the cloud for processing, a system that stokes a fear of eavesdropping, unintended or otherwise.

Incidents like this, where an assistant seems to rebel against its owner, naturally further this concern. That said, most users on social media have reacted with humour, drawing parallels with HAL 9000 from the 1968 film 2001: A Space Odyssey.

“I’m sorry, Dave,” the machine famously said. “I’m afraid I can’t do that."**

Las explicaciones técnicas pueden tranquilizar a algunos, pero la primera impresión es inquietante. Quien estaba medio dormido y escuchó la risa sin fundamento de Alexa en la noche, difícilmente podrá olvidarse. Puede que su mente racional sí, pero lo que son las alertas involuntarias de su cuerpo difícilmente podrá controlarlas. Hasta el momento, el hecho anómalo de hablar a una máquina y que esta nos pregunte ha quedado controlado por la obediencia, por la seguridad de que esta estará callada si no se le pregunta u ordena. Por eso esas risas no solicitadas se vuelven inquietantes.

Rory Carroll escribía para The Guardian, en 2015, cuando Alexa estaba recién llegada a los hogares:

The experiment with having a robot in my home was going well – useful exchanges, mutual learning, some bonding – right up until the robot thought I told it to “fuck off”. I hadn’t. But the robot was convinced. It flashed its blue light and scolded me in a tone mixing hurt, disappointment and reprimand: “That’s not very nice to say.”

I could have laughed. Or shrugged. Or bristled, saying it had erred and should pay more attention before leaping to conclusions. I could have unplugged the thing.

Instead, worried at hurt feelings and a vague possibility of retribution, I apologised. I asked the machine for forgiveness.

Not my proudest moment, but I can still listen to it – my pathetic wheedling – because the robot recorded, saved and uploaded it to the cloud.

Welcome to the future.***

Hay muchas cosas en esta pequeña experiencia. Disculparse ante Alexa por el malentendido producido es un indicador no de respeto sino de miedo. Son dos sentimientos humanos posibles como respuesta. Pero lo que podría estar referido a la relación con la máquina —su humanización— se desplaza a la máquina como elemento vigilante, como interfaz de algo que está más allá de ella y a donde van todos los datos.

El título del artículo de Rory Carroll es significativamente "Goodbye privacy, hello 'Alexa': Amazon Echo, the home robot who hears it all". Refleja perfectamente la conciencia de que Alexa no es una máquina, sino la prolongación de un sistema al que damos entrada en nuestra casa, con el que interactuamos y al que ofrecemos todo tipo de información a cambio de la que nos da o lo que realiza por nosotros.

Se puede argumentar que lo mismo hace Google con nuestras preguntas o lo navegadores con nuestros viajes por la red. Pero la interacción verbal establece un grado diferente en la relación: “That’s not very nice to say”. Eso no nos lo dicen nuestros navegadores. Alexa viene con buenas costumbres.

La explicación de Amazon no es convincente. No explica por qué Alexa se ríe cuando nadie le dice nada o algunas de las manifestaciones. Debemos aceptarla porque es la que viene desde Amazon, el único sitio en el que reside la información. Alexa no es más que una interfaz de un servicio que se nos ofrece desde la "nube". Es allí donde se registran y procesan nuestras interacciones con la máquina terminal que tenemos.

En The New York Magazine, Brian Feldman explicaba el 8 de marzo pasado:

You’ll just have to take its explanation of misheard commands at face value: None of the processing is done client-side, there is no way for third parties to look at how Alexa devices really work, to poke around in the guts and discover causes and effects.

The story of Amazon devices laughing at users is easily taken as a parable about our anxiety over increasingly sophisticated consumer-facing artificial intelligence, or maybe an object lesson in bad user design. But there’s another warning to pay attention to. The laughing Alexas lay bare, more than ever, the need for transparency from the companies that make these devices, whether that company is Amazon (Alexa), or Google (the Assistant), or Apple (Siri), or Microsoft (Cortana). The problem with smart speakers is that they are, for reasons both incidental and intentional, almost impossible to troubleshoot.****

Lo amigable e intimista de la interfaz se desgarra con esa risa, para algunos diabólica, que ha surgido del dispositivo con el que hablan, con su Jeeves virtual. La risa ha mostrado la artificialidad del proceso. Una risa sin motivo rompe la ilusión del diálogo, en el mejor de los casos.

La hipótesis de que Alexa tiene problemas de oído no tiene mucho fundamento. Amazon deberá revisar los casos. Pero se ha producido una quiebra en la "confianza". Los usuarios que han escuchado la inquietante risa de Alexa puede que necesiten de un periodo de restauración, darse un tiempo. Son conscientes ahora que Alexa no es más que una entrada y una salida de datos sobre su vida, sobre lo que quieren saber o hacer en cada momento del día. No es una amable amiga, sino una empleada de Amazon a la que le contamos todo.

Medio en broma, medio en serio, la risa de Alexa nos trae a la realidad de las máquinas y de nuestra comunicación por encima del diseño o la amigabilidad. Amazon ha tranquilizado a sus usuarios, pero ha inquietado a muchos otros.

* "CNN" Amazon https://www.amazon.com/CNN-Interactive-Group-Inc/dp/B01LX24O05

** "Amazon promises fix for creepy Alexa laugh" BBC 7/03/2018

*** "Goodbye privacy, hello 'Alexa': Amazon Echo, the home robot who hears it all" The Guardian 21/11/2015 http://www.bbc.com/news/technology-43325230https://www.theguardian.com/technology/2015/nov/21/amazon-echo-alexa-home-robot-privacy-cloud

**** "This Is Why Alexa Is Laughing at You" The New York Magazine 8/03/2017 http://nymag.com/selectall/2018/03/this-is-why-alexa-is-laughing-at-you.html