· CERMI
El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha presentado este miércoles, en el estudio de televisión de Servimedia, el informe DiscapacIA, un documento que analiza el impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad y plantea un modelo de evaluación de impacto desde la Convención Internacional sobre los Derechos de las Personas con Discapacidad de Naciones Unidas.
Informe DiscapacIA del CERMI Estatal
El diálogo, conducido por José Manuel González Huesa, ha contado con la participación de Pilar Villarino, directora ejecutiva del CERMI y presidenta de la Comisión de Transformación Digital e Inteligencia Artificial del CERMI, Gregorio Saravia, delegado del CERMI para los Derechos Humanos y la Convención de la ONU de la Discapacidad, y Luis Vañó, presidente del CERMI Comunidad Valenciana, que intervino de forma telemática.
Durante la presentación, Pilar Villarino subrayó que el informe nace en el marco del Día Nacional de la Convención y del vigésimo aniversario de este tratado internacional, recordando que el CERMI actúa como mecanismo independiente de seguimiento de la Convención. “La IA no es neutral”, afirmó Villarino, quien explicó que los sistemas de Inteligencia Artificial aprenden de datos y contextos sociales que pueden contener discriminaciones previas, con el riesgo de “sistematizarlas, ocultarlas, proyectarlas o amplificarlas”.
Villarino defendió que la Convención debe ser el “hilo conductor” para analizar el Reglamento Europeo de Inteligencia Artificial y garantizar que los sistemas de alto riesgo no generen nuevas formas de exclusión. Asimismo, destacó que el informe incorpora una mirada interseccional para analizar cómo la IA puede impactar de manera diferenciada en mujeres con discapacidad, personas mayores, infancia, jóvenes o personas LGTBI con discapacidad.
El documento se estructura en cinco partes, 21 capítulos, anexos y un resumen ejecutivo, y permite una lectura modular por ámbitos de interés, como empleo, educación, sanidad, servicios financieros, participación política o servicios públicos. Además, el CERMI desarrollará nuevos productos derivados del informe para facilitar su uso por parte de administraciones, entidades y organizaciones sociales.
Por su parte, Gregorio Saravia destacó que la Inteligencia Artificial “ha llegado para quedarse” y que debe abordarse desde el conocimiento y los derechos humanos, evitando tanto una visión basada en el miedo como una aproximación acrítica a la tecnología. En este sentido, recordó que detrás de los sistemas de IA “hay personas, decisiones y política”, por lo que también deben existir garantías jurídicas y control democrático.
Saravia alertó de que la tecnología no puede convertirse en “un espacio de anarquía” en el que prevalezcan únicamente intereses comerciales o empresariales. Por ello, reclamó que las personas con discapacidad y sus organizaciones representativas estén presentes en los espacios donde se diseñan, despliegan y supervisan estas herramientas, especialmente en cuestiones relacionadas con los datos, los ajustes razonables y la supervisión de los algoritmos.
El delegado del CERMI para los Derechos Humanos insistió además en que la Unión Europea está obligada por la Convención Internacional sobre los Derechos de las Personas con Discapacidad y que este mandato debe trasladarse de forma efectiva a la aplicación del Reglamento Europeo de Inteligencia Artificial.
En representación de los CERMIS autonómicos, Luis Vañó defendió la necesidad de incorporar una dimensión territorial a la supervisión de la Inteligencia Artificial, ya que muchos sistemas automatizados se aplican en ámbitos gestionados por las comunidades autónomas, como servicios sociales, sanidad, educación o dependencia.
Vañó advirtió de que la modernización tecnológica “no puede servir para reducir garantías, apoyos o derechos ya reconocidos” y reclamó que toda IA utilizada por las administraciones públicas sea accesible, explicable, supervisada y recurrible. Asimismo, defendió la creación de mecanismos estables de vigilancia y control, así como una mayor participación de los CERMIS autonómicos en la evaluación de impacto y supervisión de los sistemas de Inteligencia Artificial.
El CERMI subrayó que el informe identifica brechas estructurales y patrones de exclusión relacionados con discriminación algorítmica, accesibilidad, ausencia de datos desagregados, biometría o falta de salvaguardas jurídicas, y plantea más de 40 recomendaciones dirigidas a administraciones públicas, instituciones europeas, organismos supervisores y empresas tecnológicas.
Como conclusión, las personas participantes coincidieron en que la Inteligencia Artificial puede convertirse en una aliada para la inclusión si se desarrolla desde los derechos humanos, la accesibilidad y la participación efectiva de las personas con discapacidad. No obstante, advirtieron de que, sin garantías suficientes, también puede convertirse en una nueva fuente de discriminación y exclusión social.
l Acceso al INFORME DiscapacIA. Inteligencia Artificial de riesgo elevado y Derechos de las Personas con Discapacidad: enlace al informe.
Esta iniciativa ha sido posible gracias a la financiación procedente de la asignación tributaria del 0,7 % del IRPF y del Impuesto sobre Sociedades, destinada a actividades de interés general consideradas de interés social.
