El Comité Español de Representantes de Personas con Discapacidad (Cermi) ha advertido del riesgo de que la simplificación de algunos aspectos de la regulación europea sobre inteligencia artificial termine reduciendo las garantías destinadas a proteger los derechos fundamentales de las personas con discapacidad.
La entidad recoge esta preocupación en un informe en el que analiza los cambios que se plantean en el marco normativo de la Unión Europea y sus posibles consecuencias para este colectivo. A su juicio, el objetivo no debe ser frenar la innovación tecnológica, sino asegurar que sus beneficios se traduzcan en una mayor inclusión y accesibilidad.
Así, el Cermi señala que una reducción excesiva de las obligaciones para empresas, administraciones y proveedores podría dificultar la evaluación de los riesgos que entrañan determinados sistemas de inteligencia artificial. También podría hacer más complicado comprobar si cumplen los requisitos de accesibilidad universal, diseño para todas las personas y ausencia de discriminación.
Desde la perspectiva de la discapacidad, la organización reclama que cualquier revisión de la normativa mantenga intactas las salvaguardias previstas en el Reglamento europeo de Inteligencia Artificial, especialmente cuando estas tecnologías intervienen en ámbitos como el empleo, la educación, la protección social, la salud, la justicia o el acceso a bienes y servicios. En estos sectores, una decisión automatizada sesgada puede limitar derechos básicos o dejar a una persona fuera de un servicio sin que existan explicaciones suficientes ni una vía efectiva de reclamación.
El informe recoge la necesidad de conservar varios principios esenciales: accesibilidad universal, diseño para todas las personas, supervisión humana, transparencia, rendición de cuentas y no discriminación. El Cermi considera, además, que las organizaciones representativas de las personas con discapacidad deben participar de forma estructurada en la gobernanza y la supervisión de los sistemas de inteligencia artificial, sobre todo cuando se utilicen herramientas de propósito general integradas en grandes plataformas digitales.
La entidad también alerta de los riesgos asociados a la simplificación de la documentación técnica y a la posible desaparición del registro obligatorio de determinados sistemas en la base de datos europea. En su opinión, estas medidas podrían generar “cajas negras” regulatorias, dificultar el control social y complicar la detección de prácticas discriminatorias. De ahí que reclame datos de calidad y representativos, desglosados también por sexo y discapacidad, así como una vigilancia armonizada de los sistemas una vez puestos en el mercado.
El Cermi plantea igualmente que la formación en inteligencia artificial sea obligatoria para el personal que diseña, implanta o utiliza estas tecnologías. Considera que no basta con regular los sistemas; quienes toman decisiones sobre su desarrollo y aplicación deben conocer sus riesgos, sus límites y las obligaciones relacionadas con la accesibilidad y los derechos humanos.
La preocupación llega en un momento de aplicación progresiva de la Ley de Inteligencia Artificial de la Unión Europea. Desde el pasado 2 de agosto están vigentes las obligaciones de transparencia del artículo 50, que exigen informar a los usuarios cuando interactúan con un sistema de inteligencia artificial y establecer mecanismos para identificar contenidos generados o manipulados artificialmente. Estas obligaciones afectan, entre otros casos, a los chatbots y asistentes virtuales, que deben advertir de que el usuario está hablando con una máquina, y a los sistemas capaces de generar imágenes, vídeos, audios o textos, cuyos resultados deben incorporar marcas legibles por máquina que permitan detectar su origen artificial. También se contemplan obligaciones específicas para los contenidos que puedan constituir ultrafalsificaciones y para los textos generados o manipulados mediante inteligencia artificial destinados a informar sobre asuntos de interés público.
Para el Cermi, estas garantías son especialmente importantes en el caso de las personas con discapacidad, que pueden verse afectadas por errores o sesgos en sistemas de reconocimiento facial, biometría, reconocimiento de voz o clasificación automatizada. El uso de estas herramientas en procesos de selección laboral, trámites administrativos, educación o acceso a prestaciones puede provocar exclusiones injustas si no existe supervisión humana y si los sistemas no han sido diseñados teniendo en cuenta la diversidad de capacidades.
Finalmente, la entidad sostiene que la competitividad no puede imponerse a la dimensión social del proyecto europeo. Cualquier modificación de la normativa, concluye, debe reforzar la confianza en la inteligencia artificial sin convertir la simplificación administrativa en una desregulación gradual que reduzca la protección de los derechos fundamentales.