IBM deja el negocio del reconocimiento facial por su potencial para la vigilancia masiva y la discriminación racial

En medio de la marea causada por todo el movimiento ‘Black Lives Matter’, motivado en última instancia por la muerte a manos de la Policía del ciudadano afroamericano George Floyd, el gigante tecnológico IBM ha hecho una auténtica declaración de intenciones: ya no ofrecerá software de análisis o reconocimiento facial de uso general.

Así es como la policía puede vigilar digitalmente y acceder a un teléfono móvil durante una protesta

Así lo ha asegurado en una carta al Congreso su CEO, Arvind Krishna: “IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestro valores y Principios de Confianza y Transparencia”.

“Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deberían emplear la tecnología de reconocimiento facial y cómo”, añadía Krishna.

La descarga de apps de escáner policial se dispara en EE. UU. a raíz de las protestas por la muerte de George Floyd

La inteligencia artificial, continua diciendo el CEO, es “una herramienta poderosa que puede ayudar a la policía a mantener seguros a los ciudadanos. Pero los vendedores y usuarios de los sistemas de Al tienen una responsabilidad compartida para garantizar que se evalúe el sesgo de AI, en particular cuando se utiliza en la aplicación de la ley, y que dichas pruebas de sesgo se auditen y se informen”.

La compañía tampoco seguirá desarrollando o investigando este tipo de tecnología, según dijo a The Verge.

Una llamada de atención a la conducta policial

Signal anuncia una nueva función para difuminar los rostros, disponible para Android e iOS

En su carta, Krishna también aboga por una reforma policial: “El Congreso debería someter más casos de mala conducta policial a la competencia del tribunal federal”, pedía el CEO de IBM, y alienta al organismo a “hacer modificaciones a la doctrina de inmunidad” que impide que las personas busquen causas “cuando la policía viola sus derechos constitucionales”.

“El Congreso también debería establecer un registro federal de mala conducta policial y adoptar medidas para alentar u obligar a los estados y localidades a revisar y actualizar las políticas de uso de la fuerza", subraya.