El ‘Informe DiscapacIA’, elaborado por el Cermi Estatal, señala que un sistema de reconocimiento facial puede impedir que una persona con discapacidad acceda a un servicio esencial cuando los rasgos biométricos relacionados con su discapacidad no encajan en los patrones utilizados por la tecnología.
El problema se agrava si la verificación biométrica constituye la única vía de acceso. En ese caso, un fallo técnico deja de ser una incidencia menor y se convierte en una barrera efectiva, dado que la persona no puede utilizar el servicio y tampoco cuenta con un procedimiento alternativo que sea accesible.
El objetivo de este informe ha sido estudiar el impacto de la inteligencia artificial en los derechos de las personas con discapacidad. El documento propone evaluar estos sistemas desde la Convención Internacional sobre los Derechos de las Personas con Discapacidad y reclama que su diseño y aplicación incorporen accesibilidad, supervisión humana, igualdad y garantías frente a la discriminación.
Los errores pueden producirse cuando el sistema no ha sido entrenado con suficiente diversidad de rostros, movimientos o formas de interacción. De hecho, una discapacidad que afecte a la movilidad facial, la posición de la cabeza, el control muscular o la apariencia puede dificultar la identificación, aunque la persona sea quien dice ser.
La consecuencia no tiene por qué limitarse al reconocimiento facial. El mismo riesgo puede aparecer en sistemas que utilizan otros datos biométricos, como la voz, las huellas dactilares o los patrones de movimiento, si no han tenido en cuenta la variedad de capacidades humanas.
La normativa europea sobre inteligencia artificial considera de alto riesgo varios usos de los sistemas biométricos y exige que se utilicen de manera proporcionada, con garantías para los derechos fundamentales. Además, la Ley de Inteligencia Artificial de la Unión Europea prohíbe, con excepciones muy limitadas, el uso policial de sistemas de identificación biométrica remota en tiempo real en espacios de acceso público.
Por otro lado, la Convención de Naciones Unidas obliga a proteger a las personas con discapacidad frente a la discriminación y vincula esa protección con la accesibilidad. Según Naciones Unidas, estas obligaciones también deben aplicarse a las herramientas de inteligencia artificial, que tienen que evitar efectos discriminatorios derivados de tecnologías inaccesibles.
Por eso, ningún rasgo asociado a la discapacidad puede transformarse en una barrera para acceder a una prestación pública, una cuenta bancaria, un centro sanitario, un medio de transporte, una ayuda social o cualquier otro servicio esencial. En opinión del Cermi, antes de implantar una tecnología de este tipo, las administraciones y las empresas deben comprobar cómo funciona con personas diversas, detectar posibles sesgos y ofrecer siempre una alternativa accesible, segura y supervisada por una persona.
La accesibilidad no puede incorporarse después de que aparezca el problema. Tiene que formar parte del diseño, de las pruebas, de la contratación y de la evaluación continua del sistema. En caso contrario, una herramienta presentada como rápida y segura puede terminar trasladando todo el coste de sus errores a quienes ya encuentran más obstáculos para ejercer sus derechos.