Las caras de San Francisco

Joaquín Mª Aguirre (UCM)

En medio de nuestro agujero negro político electoral, se nos ha pasado una noticia que tiene y tendrá trascendencia, una señal en la corriente de los tiempos: la prohibición por parte de la Junta de Supervisores de la ciudad de San Francisco del uso de la tecnología de reconocimiento facial.

Una de las características de las pérdidas de libertades y derechos es lo rápidamente que nos acostumbramos a ellas. Resulta sorprendente lo duro que es conseguir un derecho y la facilidad con la que nos acostumbramos a su pérdida, casi sigilosa en nuestros días. La noticia saltó en los medios norteamericanos y no ha tenido la trascendencia que debiera. Si aquí nosotros debatimos por el gobierno, en los Estados Unidos se está debatiendo sobre las libertades y derechos frente a ellos. Es el efecto positivo que la llegada de Donald Trump ha hecho posible. La llegada de un personaje como Trump al poder ha sacudido muchas conciencias que se han vuelto sensibles a los enormes recortes de libertades y abusos de poder que les amenazan, de los ataques a la prensa al uso de privilegios presidenciales para declarar "estados de emergencia" sin que está exista en la realidad para burlar al poder del las cámaras de representantes y senadores.

Estados Unidos es un laboratorio del futuro, de lo que tendremos aquí. Antes eran años y ahora son pocos meses. Los Trump aparecen repartidos por el mundo y son aplaudidos y jaleados por masas que son cada vez más inconscientes de lo que están desencadenando en un mundo cada vez más peligroso y conflictivo. Trump usa la política exterior para distraer de la doméstica, en donde se están realizando retrocesos en los campos de la educación, la sanidad, los derechos civiles, las cuestiones igualitarias de género, la ecología, los presupuestos de ciencia, el cambio climático, etc.

El hecho de que San Francisco haya decidido desconectar las tecnologías de reconocimiento facial es porque se ha percatado del peligro que ha supuesto su intensidad y cobertura, cada vez mayores, en un universo en el que es posible la existencia real del Gran Hermano.

En su artículo sobre la noticia, titulado "San Francisco Bans Facial Recognition Technology", The New York Times describe el planteamiento de las autoridades de la ciudad:

SAN FRANCISCO — San Francisco, long at the heart of the technology revolution, took a stand against potential abuse on Tuesday by banning the use of facial recognition software by the police and other agencies.

The action, which came in an 8-to-1 vote by the Board of Supervisors, makes San Francisco the first major American city to block a tool that many police forces are turning to in the search for both small-time criminal suspects and perpetrators of mass carnage.

The authorities used the technology to help identify the suspect in the mass shooting at an Annapolis, Md., newspaper last June. But civil liberty groups have expressed unease about the technology’s potential abuse by government amid fears that it may shove the United States in the direction of an overly oppressive surveillance state.

Aaron Peskin, the city supervisor who sponsored the bill, said that it sent a particularly strong message to the nation, coming from a city transformed by tech.

“I think part of San Francisco being the real and perceived headquarters for all things tech also comes with a responsibility for its local legislators,” Mr. Peskin said. “We have an outsize responsibility to regulate the excesses of technology precisely because they are headquartered here.”*

El hecho de que sea San Francisco una de las ciudades centro de la tecnología no nos puede hacer olvidar que ha sido también una ciudad de libertades, una ciudad refugio cuando los movimientos de intolerancia asolan el país.

La cuestión se vuelve a plantear en su crudeza una vez más: el equilibrio entre libertades y derechos y seguridad. Cada vez que se produce un atentado, las cámaras nos muestran a los sospechosos y ayudan a identificarlos.  Eso no lo puede negar nadie, pero también que su eficacia no está en la prevención (la seguridad) sino en la identificación posterior a los atentados que se hayan podido cometer.

La salida de las imágenes al exterior, su publicación, son un intento de transmitir seguridad, pero también el reconocimiento explícito del objetivo de la seguridad: evitar las muertes. Cualquier experto en seguridad le reconocerá en privado que una persona con una mochila es "una persona con una mochila" y que solo después de que haya explotado es "una persona con una bomba". Lo mismo ocurre con atentados como los últimos vistos cometidos en Indonesia, en los que todos los avisos de sistemas de vigilancia fueron ignorados por las autoridades. Cesar al Ministro del Interior es un gesto político, pero nos muestra el fracaso absoluto de los sistemas de seguridad. Buscar después es un intento de salvar la cara.

Los sistemas de reconocimiento, las cámaras repartidas por las ciudades, capaces de cubrir toda su superficie, son útiles en gran medida cuando sabemos qué buscar. La otra opción es almacenar todo lo que se pueda y tratar de encontrar en ello patrones, "casualidades". Para ello necesitan del almacenamiento y de tratamiento masivo de datos. Y esos datos son la representación informacional de los ciudadanos, su "huella".

Existe un mundo duplicado del real. Es el mundo de nuestras huellas, de nuestros rastros informáticos en cada acción que realizamos, allí por donde pasamos.

Las páginas que visitamos, los "likes", las zonas por las que pasamos cada día con nuestros teléfonos encendidos, el torniquete del transporte, los pagos que realizamos, etc. Todo ello forma nuestra otra vida, la duplicada como datos. Son las huellas de nuestros registros, nuestra vida traducida y almacena, convertida en un registro procesable.

La decisión de la ciudad de San Francisco afecta a un tipo de tecnología que nos identifica y sitúa allá donde nuestra cara sea "reconocida". En realidad el "reconocimiento" es un registro, probablemente la creación de un "perfil" mediante el cual se puedan ir asociando "momentos", apariciones. Se identifica, se registra, se archiva. Los progresos de la Inteligencia Artificial hace que llegue un cuarto momento que es el que se crean o identifican patrones y se asignan posibilidades, equivalente a valores.

Las posibilidades de asignar valores a comportamientos, situaciones o lugares hacen aumentar la complejidad de la vigilancia automática. El inmenso caudal de datos que se genera obliga a la automatización, ya que no hay grupo humano capaz de manejar el conjunto, solo partes mínimas, focos locales.

Es en gran medida aquí donde se plantea un problema real: la automatización de los procesos que se alejan de nuestra capacidad de tratamiento. Cuanto mayor sea la vigilancia, en términos de producción de datos observacionales, menor es nuestra capacidad de análisis, por lo que tenemos que seguir automatizando. Es un círculo vicioso al final de los cuales se encuentran cada vez más casos, que deben ser tratados de nuevo mediante procesos de automatización, hasta que se llega a un punto de información en que entra la decisión humana. Y entonces se produce el fracaso: el error humano en la valoración. Tras el atentado surgen entonces las imágenes que nadie vio, las acciones que nadie valoró, los actos que nadie supo interpretar.

San Francisco ha decidido valorar el derecho a la privacidad ante lo que supone un peligro mayor que el del terrorismo: la pérdida de libertades. La cuestión va más allá del reconocimiento facial, ya que la recogida de datos es una constante en las grandes compañías.

La idea del Big Data ha hecho que lo que antes era un estorbo destinado a ser borrado ahora pueda ser útil de muchas maneras. Los defensores del Big Data argumentan que tiene una enorme utilidad y que repercute en beneficio de consumidores y ciudadanos. Es lo que argumentan las empresas. No hay muchas dudas de los aspectos positivos en este sentido. Pero la cuestión no es esa, sino los malos usos y quienes los manejan.

The Washington Post trae hoy mismo otro problema relacionado con el almacenamiento de datos. Esta vez Trump y la Casa Blanca están en el centro. El titular es "White House campaign to collect data on social media bias raises free speech, privacy alarms, experts say" y muestra la cuestión de los usos y los fines:

“The White House move is a major escalation of the right-wing effort to pressure tech companies to leave vile content online, instead of doing the right thing and policing their platforms,” said Democratic Sen. Ron Wyden (Ore.). He pointed to federal law that paves the way for tech companies to craft and enforce their own policies without being held liable for their decisions.

“I’ve long warned that asking the government to police free speech would have dangerous consequences,” Wyden said. “It flies in the face of the Constitution.”

Outside the Capitol, digital-rights advocates said Trump had complicated some of their work to find and study online censorship. The Electronic Frontier Foundation, for example, long has called on Facebook, Google and Twitter to be more transparent about the content they allow or block. The group’s work has focused on preventing governments from adopting laws that hamstring speech and collecting stories from activists and marginalized communities who have been affected.

“This kind of sucks all the air out of the room,” said Jillian C. York, the director for international freedom of expression at the foundation.

“Companies have become so big.... They should, and have, a moral responsibility to take human rights into account,” she said. But York said the foundation would be especially concerned if the Trump administration sought to regulate in response. “While we think companies have a moral responsibility to step up on this, seeing them regulated is not the answer."**

No es fácil encontrar respuestas. San Francisco ha dado una respuesta a parte del problema. El fondo es mucho más amplio ya que esto no es solo una "acción" sino un escenario de una nueva forma de sociedad, la de la Información, en donde los datos son materia prima, los ciudadanos son "digitalizados" para fines comerciales, seguridad o políticos, y la vigilancia se convierte en un aspecto cotidiano, no en la respuesta a la seguridad. El terrorismo es más la excusa que otra cosa.

Pese al control de vigilancia, hay atentados. Pero en el momento en que se produzca un atentado sin vigilancia se aprovechará para responsabilizar a los partidarios de restringir los métodos. No hace falta ser adivino para saber que si hay un atentado en San Francisco, se responsabilizará a su equipo de gobierno por haber prohibido el reconocimiento facial en la ciudad. Pese a que no se pueda probar su eficacia, se les hará responsable.

La velocidad con la que todo se transforma no permite demasiada reflexión y en la mayoría de los casos las reacciones se producen cuando ya los sistemas se han instalado. La decisión de San Francisco tiene gran significado porque manda un mensaje claro, una actitud, desde una de las grandes ciudades de los Estados Unidos. El mismo miedo que fortalece el negocio de las armas en los Estados Unidos no debe llegar a la seguridad cibernética. Las armas no han convertido a los Estados Unidos en el país más seguro, sino en el más inseguro.

Vigilancia, automatización, etc. no están haciendo del mundo un lugar más seguro, sino con menos privacidad, que otro de esos derechos al que hemos renunciado muy fácilmente, sin ser conscientes y cuyo sentido hay que explicar a las generaciones que lo venden por una app gratuita. La manipulación política ha hecho tomar una mayor conciencia de los riesgos de que exista ese doble informacional que revela nuestra conducta y permite manipularnos sin ser conscientes de ello, ofreciéndonos, como por arte de magia, aquello que deseamos sin saberlo o que esperamos. La tecnología permite recoger y procesar todo aquello que forma parte de nuestra vida y queda fuera del foco de la atención. Es la mayoría de nuestra vida, lo que hacemos automáticamente.

Ya sea por la vía de la seguridad o por la de la manipulación política o económica, debemos empezar a ser conscientes de lo que perdemos sin resistencia. Antes nos reíamos del que tapaba con cinta la cámara de su portátil; ahora no tanto.

Es un nuevo mundo en el que el máximo problema es que nadie te conozca. San Francisco, como decía la canción de Tony Bennett, puede quedarse con tu corazón, pero no necesita tu cara. Con todo la lucha será dura porque la cara no es el único elemento que determina la privacidad, pero sí el más significativo y, se podría decir, simbólico. Los ciudadanos de San Francisco recuperan sus rostros.

* "San Francisco Bans Facial Recognition Technology" The New York Times 14/05/2019 https://www.nytimes.com/2019/05/14/us/facial-recognition-ban-san-francisco.html 

** "White House campaign to collect data on social media bias raises free speech, privacy alarms, experts say" The Washington Post 17/05/2019 https://www.washingtonpost.com/technology/2019/05/17/white-house-campaign-collect-data-social-media-bias-raises-free-speech-privacy-alarms-experts-say/?utm_term=.24e738a3c19c