Inteligencia Artificial para la seguridad

Inteligencia Artificial para la seguridad

La Inteligencia Artificial (AI) utilizada para el reconocimiento facial se ha presentado como una oportunidad para mejorar los sistemas de vigilancia, monitoreo y gestión de información de las instituciones de seguridad. Pese a los beneficios demostrados en las pasadas décadas, las dudas sobre el respeto a los derechos ciudadanos, la privacidad y las libertades de los ciudadanos han creado un amplio debate, que incluso, cuestionan su aplicación y han llevado a detener su uso en algunas localidades.

El reconocimiento facial es el proceso de identificar o verificar la identidad de una persona usando sus características biométricas, específicamente del rostro. Los sistemas dedicados a ello: capturan, analizan y comparan patrones basados en los detalles faciales de la persona contenidos en fotografías y videos, para que después los rostros sean traducidos a información digital comparable. Con ello, quienes utilizan los sistemas pueden identificar, buscar o dar seguimiento en tiempo real a las actividades de las personas.

El uso de la inteligencia artificial para este fin se ha extendido alrededor del planeta, al igual que las dudas sobre su uso y funcionamiento. China, es el país con mayor experiencia en su aplicación, al ser un régimen totalitario y carecer de contrapesos para su uso, le ha permitido desarrollar y utilizar sistemas de monitoreo y vigilancia de reconocimiento facial, entre otros, para identificar a las personas y su comportamiento, criminal o no, que es utilizado para establecer las libertades o prohibiciones individuales para las personas.

Los sistemas utilizados en China son un ejemplo de hasta donde se puede llegar con las tecnologías de reconocimiento facial para el monitoreo, vigilancia y control de las personas y sus comportamientos, que difícilmente se pueden establecer, con la misma potencia, en las democracias occidentales. Pese a ello, estos sistemas se encuentran en uso en las instituciones de seguridad de alrededor del mundo para contrarrestar, bajo diferentes capacidades, el crimen, terrorismo y otro tipo de amenazas a la paz social.

El Reino Unido es otro de los ejemplos del uso de reconocimiento facial, los ciudadanos, caracterizados por ser celosos de la privacidad y el respeto a sus derechos ciudadanos, desde hace más de una década cuestionan el uso de los sistemas y su uso en las instituciones de seguridad. Inclusive se debate el diseño de los algoritmos utilizados en el reconocimiento facial y se han demostrado las fallas, de hasta el 95%, que tienen y las repercusiones para las libertades y derechos de los ciudadanos. Pese a ello, las policías del país siguen utilizando de forma extensiva estos sistemas de reconocimiento facial.

En otros lugares, los ciudadanos han frenado su uso, las ciudades de Portland, Boston, San Francisco y Oakland en Estados Unidos, en distintos niveles han vetado el reconocimiento facial para labores de monitoreo y vigilancia en el sector público y, en la primera ciudad antes mencionada, en el privado. En el mismo sentido, las empresas desarrolladoras de sistemas como Microsoft, Amazon o IBM, han anunciado su negativa a suministrar a las instituciones policiales pese a ser desarrolladores de los más prometedores proyectos de tecnologías del reconocimiento.

Los sistemas de reconocimiento facial, pese a las críticas y fallas, son y seguirán siendo utilizados a nivel global por las instituciones de seguridad. Los recortes presupuestales y la modernización de modelos para basar en evidencia sus procesos de toma de decisiones y la presión y vigilancia social buscarán seguir descansando en estos sistemas y en los modelos matemáticos científicos que prometen evitar las fallas humanas y el sesgo de los oficiales de policía, así como ampliar las capacidades de vigilancia y monitoreo con a bajos costos.

En México, la CDMX, Coahuila Nuevo León y Puebla han o pretender comprar e instalar sistemas de reconocimiento facial. Posiblemente en los próximos años las cámaras gubernamentales de monitoreo CCTV en lugares públicos y las dispuestas en los vehículos de las instituciones de seguridad tendrán los sistemas para identificar y dar seguimiento a las personas de interés para la autoridad, las que tengan órdenes de presentación o detención, probablemente desarticular organizaciones y disminuir la criminalidad y la violencia.

El uso de las tecnologías de reconocimiento utilizadas por el sector público y/o el privado en todo tipo de labores difícilmente podrá ser evitado; las capacidades para el monitoreo, la vigilancia y el conocimiento de los comportamientos de las personas son de gran utilidad para reducir costos, prever sus necesidades e inclusive predecir los gustos de las personas. Sin embargo, estas tecnologías tendrán que ser probadas constantemente, transparentados los modelos matemáticos que las sustentan y auditados los datos con los que se hacen las comparaciones.

La responsabilidad y riesgo público de un error de estos sistemas en las instituciones de seguridad y policiales puede ser fatal y afectar seriamente la vida y dignidad de las personas. Algo muy distinto a una fallida campaña de publicidad a la medida para una persona. Las instituciones deberán cuidar su uso y responsabilizarse por los errores; así como, por el momento, ser incrédulos de sus resultados.

Recomendación estratégica: Ante la necesidad de ampliar constantemente las capacidades de las instituciones de seguridad y los beneficios para tanto el monitoreo como la vigilancia del reconocimiento facial es necesario concientizar y educar a los ciudadanos sobre su uso y límites, crear un marco normativo respetuoso de la privacidad y los derechos humanos; así como, reestructurar y resguardar la información y datos que utilizarán las instituciones de seguridad para efectuar las comparaciones de reconocimiento facial. Los países deberán de cuidar su uso y vigilar la cientificidad de sus sistemas para que cuenten con la legitimidad que les permita utilizarlos para la lucha contra la criminalidad, el terrorismo y los desórdenes sociales.

Agradezco los valiosos comentarios de Misael Barrera Suárez, Licenciado en Relaciones Internacionales por la Universidad Nacional Autónoma de México y especialista en seguridad e inteligencia. Síguelo en @MisaelBarreraS

Fernando Jiménez Sánchez es investigador CONACyT comisionado a El Colegio de Jalisco. Miembro del Sistema Nacional de Investigadores y coordinador del Webinar en Estrategia y Seguridad de CIS Pensamiento Estratégico; Doctor en Análisis y Evaluación de procesos Políticos y Sociales por la Universidad Carlos III de Madrid, máster en Análisis y Prevención de Terrorismo por la Universidad Rey Juan Carlos y Politólogo por la Universidad Nacional Autónoma de México. Síguelo en @fjimsan