En el evento AWS re:Invent de 2017, Amazon anunció su producto de reconocimiento de imagen «Rekognition«.  Este evento anual es mareante, no solo por la cantidad de productos que se anuncian, sino por la creciente facilidad para integrarlos, en una especie de Lego gigante, donde los límites de lo posible los dictan tu imaginación y tu bolsillo. En el re:Invent de 2018 anunciaron más cosas todavía (¡estaciones de recepción de señales de satélites «on demand»!), pero eso lo dejamos para otro post.

Vuelvo a 2017. Cuando oímos hablar de «Rekognition», algunos nos echamos a temblar. Porque funciona no solo para imágenes estáticas, sino para videos, incluido en streaming, y porque si te pones el gorro distópico, no dejas de pensar en malos usos para esa tecnología. 

Pues este año ha salido a la luz una patente publicada por Amazon que combina «Rekognition» con el producto estrella de Ring, una compañía recién comprada por el grupo de Jeff Bezos. Adivinen qué fabrica Ring: timbres para la puerta. Ahora imaginen todos los timbres, todos los telefonillos, con una cámara que está constantemente grabando y que constantemente esté utilizando «Rekognition» para identificar caras y después compararlas con «fotomatones» de personas con un antecedentes penales. Conecten el sistema con la centralita de la policía local. Y añadan a la mezcla que el reconocimiento facial es especialmente fallón cuando se trata de personas de faz morena o mujeres. El último ingrediente es que estos sistemas sofisticados dan una sensación de falsa seguridad: se les supone una infalibilidad que no tienen. 

¿El resultado? Una pesadilla legal para los pobres «falsos positivos» que decidan salir a pasear y tengan la mala suerte de ser filmados por un timbre «Ring».

Aquí se pueden leer lo mismo que explico yo, pero más bonito y en inglés: ACLU Northern California.