Que Amazon esté intentando vender a toda costa su tecnología de reconocimiento facial nos parece del todo normal. Lo que no lo es tanto es que esta misma tecnología haya puesto en evidencia a sus creadores, dejando a casi una treintena de congresistas estadounidenses a los pies de los caballos. Pero, ¿por qué?
Bueno, Amazon está empeñada en demostrar que su tecnología puede contribuir a aumentar la seguridad en Estados Unidos. Sin embargo, la ACLU (Unión Estadounidense para las Libertades Civiles) considera todo lo contrario y ha presentado evidencias.
Al probar la herramienta de reconocimiento facial de Amazon para comparar las fotos de 2.500 delincuentes con los miembros del Congreso, han aparecido hasta 28 coincidencias. Es decir, habría casi una treintena de políticos que habrían sido identificados como criminales, cuando en realidad no lo son.
Did you see this? @amazon face surveillance technology FALSELY matched me w/ someone else’s mugshot. I’m outraged & worried by the impact this tool will have on #CommunitiesOfColor when put in the hands of law enforcement! @JeffBezos: We need to talk ASAP. https://t.co/xFOy8duef1
— Rep. Jimmy Gomez (@RepJimmyGomez) July 26, 2018
28 congresistas estadounidenses identificados como delincuentes
Las bromas fáciles están servidas, así que no vamos a hacerlas. La ACLU ha publicado el listado de todos los políticos que han sido identificados como criminales, pero que están lejos de serlo. El uso de la tecnología de Amazon ha puesto en evidencia a sus creadores, pero lo cierto es que la empresa ya ha emitido sus quejas y manifestado su desacuerdo por la manera en que la ACLU ha realizado las pruebas y sacado conclusiones al respecto.
Amazon considera que la ACLU no ha usado correctamente el software. Según han detallado, la ACLU hizo dichas pruebas a través de la herramienta llamada Rekognition, de Amazon, usando un valor de confianza del 80%. Y aunque las coincidencias están, el nivel de confianza que recomienda Amazon para la identificación de personas en agencias y organizaciones policiales es de al menos un 95%.
Y se explican. Consieran que un nivel de confianza del 80% es aceptable para fotos de animales, objetos o muebles, pero no se trata de un porcentaje adecuado para la identificación de personas de una manera cierta y segura.Un portavoz de Amazon declaró a CNET que el porcentaje que ellos suelen recomendar a sus clientes siempre es del 95%.
La ACLU se defiende: Amazon no está haciendo bien su trabajo
La ACLU ha explicado al medio CNET que al usar el software, Amazon no se cuestiona qué tipo de uso hará el usuario. Si se trata de un departamento de policía o una empresa que se dedica a identificar tipos de objetos. El umbral establecido por defecto en el programa es del 80%.
Sin embargo, una fuente cercana a Amazon ha explicado que cuando la compañía trabaja con la policía u otros organismos oficiales, Amazon les explica cómo se evitan o reducen los falsos positivos. Esto no impide que otras organizaciones o empresas usen el software sin haber establecido antes una relación con Amazon, para así aprender cuál es la mejor manera de trabajar con la herramienta y obtener resultados certeros.
Explican los expertos que en realidad, el sistema de reconocimiento facial de Amazon es efectivo en un 80% de los casos. Incluso más que la tecnología usada por la Policía Metropolitana del Reino Unido. Hay que indicar, por otra parte, que los falsos positivos forman parte de la realidad de esta tecnología y que el sistema solo debería ser útil para acotar la búsqueda de determinados sujetos. No para detener sistemáticamente a aquellos que hayan sido identificados por el sistema como sospechosos.
La ACLU considera que este tipo de tecnologías pueden poner en peligro las libertades de los ciudadanos y alentar a los policías a arrestar, confiscar material o apuntar con un arma a las personas que Amazon haya señalado como sospechosas.
