IBM se niega al reconocimiento facial

El año pasado IBM creó una de las bases de datos faciales más grandes a nivel mundial. Lo hicieron con el objetivo de reducir los sesgo, ya que estos software sufren sesgos de edad, raza y etnia lo que puede hacer que las herramientas no sean fiables para la aplicación de la ley y la seguridad.

Estudios que han demostrado los sesgos en el reconocmiento facial

En 2018, se reveló por primera vez los sesgos que traían de serie muchos sistemas de reconocimiento facial. Este trabajo junto con posteriores estudios del mismo estilo se realizó por la pareja Joy Buolamwini y Timnit Gebru.

Uno de los últimos estudios se realizó en diciembre de 2019, en él el Instituto Nacional de Estandares y Tecnología encontró «evidencia empírica de la existencia de una amplia gama de precisión entre las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que se evaluaron«.

Problemas encontrados en el reconocimiento facial

El reconocimiento facial desarrollado por Amazon, que se llama Rekognition y del que ya os hemos hablado aquí, emparentó incorrectamente a 28 miembros del Congreso con caras escogidas entre 25.000 fotos públicas. Este software es uno de los que utilizan las fuerzas del orden y, después, de que se desvelara esta información ha sido uno de los más criticados.

Otras de las grandes polemicas relacionadas con el reconocimiento facial fue la de la compañía Clearview AI. Se descubrió que su herramienta de reconocimiento facial, construida con más de 3.000 millones de imágenes compiladas en parte a partir de raspar sitios de redes sociales, estaba siendo ampliamente utilizada por empresas del sector privado y agencias de aplicación de la ley. 

Otros de los temas que trata la carta de Krishna es la reforma policial, argumentando que más casos de mala conducta policial deberían ser puestos bajo el control de la corte federal y que el Congreso debería hacer cambios en la doctrina de inmunidad calificada, entre otras medidas. 

- Contenido relacionado -