IBM ya no ofrecerá software de análisis o reconocimiento facial de propósito general, dijo este 8 de junio el CEO de IBM, Arvind Krishna, en una carta al Congreso. La compañía tampoco seguirá desarrollando o investigando la tecnología, IBM le dijo al portal The Verge. Krishna dirigió la carta a los senadores Cory Booker (D-NJ) y Kamala Harris (D-CA) y las representantes Karen Bass (D-CA), Hakeem Jeffries (D-NY) y Jerrold Nadler (D-NY).
“IBM se opone firmemente y no tolerará el uso de ninguna tecnología [de reconocimiento facial], incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestro valores y principios de confianza y transparencia”, dijo Krishna en la carta. “Creemos que ahora es el momento de comenzar un diálogo nacional sobre si las agencias nacionales de aplicación de la ley deben emplear la tecnología de reconocimiento facial y cómo”.
El software de reconocimiento facial ha mejorado mucho en la última década gracias a los avances en inteligencia artificial. Al mismo tiempo, se ha demostrado que la tecnología, debido a que a menudo es proporcionada por compañías privadas con poca regulación o supervisión federal, tiene prejuicios en función de la edad, la raza y el origen étnico, lo que puede hacer que las herramientas no sean confiables para la aplicación de la ley y seguridad y maduras para posibles abusos de los derechos civiles.
En 2018, la investigación realizada por Joy Buolamwini y Timnit Gebru reveló por primera vez la medida en que muchos sistemas comerciales de reconocimiento facial (incluidos los de IBM) estaban sesgados. Este trabajo y los estudios posteriores de la pareja llevaron a la crítica general de estos algoritmos y a los intentos continuos de rectificar el sesgo.
Un estudio del Instituto Nacional de Estándares y Tecnología de diciembre de 2019 encontró “evidencia empírica de la existencia de una amplia gama de precisión en las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que fueron evaluados”, por ejemplo. La tecnología también ha sido criticada por su papel en las violaciones de privacidad.
Cabe destacar que el estudio del NIST no incluyó tecnología de Amazon, que es una de las pocas compañías tecnológicas importantes que vende software de reconocimiento facial a las fuerzas del orden. Sin embargo, Rekognition, el nombre del programa, también ha sido criticado por su precisión. En 2018, la Unión Estadounidense de Libertades Civiles descubrió que Rekognition emparejó incorrectamente a 28 miembros del Congreso con rostros elegidos de 25,000 fotografías públicas, por ejemplo.
Otra compañía, Clearview AI, ha sido objeto de un intenso escrutinio a principios de este año cuando se descubrió que su herramienta de reconocimiento facial, construida con más de 3 mil millones de imágenes compiladas en parte a partir de sitios de redes sociales, estaba siendo ampliamente utilizada por empresas del sector privado y las fuerzas del orden. Desde entonces, Clearview recibió numerosas órdenes de cese y desistimiento y está en el centro de una serie de demandas de privacidad Facebook también recibió la orden en enero de pagar $ 550 millones para resolver una demanda colectiva por el uso ilegal de la tecnología de reconocimiento facial.
IBM ha intentado ayudar con el tema del sesgo en el reconocimiento facial, en 2018 lanzó un conjunto de datos públicos para ayudar a reducir el sesgo como parte de los datos de entrenamiento para un modelo de reconocimiento facial. Pero también se descubrió que IBM compartía un conjunto de datos de capacitación por separado de casi un millón de fotos tomadas de Flickr en enero de 2019 sin el consentimiento de los sujetos, aunque las fotos se compartieron bajo una licencia Creative Commons. IBM dijo en un comunicado que los investigadores verificados solo tendrían acceso al conjunto de datos y solo incluirían imágenes que estaban disponibles públicamente. La compañía también dijo que las personas pueden optar por no participar en el conjunto de datos.
En su carta, Krishna también abogó por la reforma policial, argumentando que más casos de mala conducta policial deberían someterse a la competencia del tribunal federal y que el Congreso debería hacer cambios a la doctrina de inmunidad calificada, entre otras medidas. Además, Krishna dijo que “necesitamos crear vías más abiertas y equitativas para que todos los estadounidenses adquieran habilidades y capacitación comercializables”, y sugirió que el Congreso considere ampliar el modelo de escuela P-TECH a nivel nacional y ampliar la elegibilidad para las Becas Pell, que son financiadas por el gobierno federal y se otorgan a estudiantes para pagar sus estudios de educación superior.
Con información de: The Verge
