· CERMI
El Comité Español de Representantes de Personas con Discapacidad (CERMI) ha reclamado a la Unión Europea una inteligencia artificial accesible que favorezca la autonomía de las personas con discapacidad, respete sus derechos y cuente con una supervisión humana efectiva.
La entidad presentó sus propuestas durante la segunda reunión del Foro Consultivo de Inteligencia Artificial de la Unión Europea, celebrada el 16 de noviembre. En el encuentro se abordaron cuestiones como los agentes y compañeros de inteligencia artificial, la alfabetización digital, la transparencia, las prácticas prohibidas y la evaluación del impacto de los sistemas de alto riesgo en los derechos fundamentales.
Agentes de inteligencia artificial bajo el control de las personas
El CERMI considera que los agentes de inteligencia artificial pueden funcionar como tecnologías de apoyo para facilitar trámites, gestionar comunicaciones y acceder a diferentes servicios. Sin embargo, advierte de los riesgos que pueden surgir cuando estos sistemas intervienen en decisiones relacionadas con prestaciones, empleo, apoyos o servicios esenciales.
Por este motivo, la organización defiende que las personas con discapacidad puedan controlar, mediante herramientas accesibles, las actuaciones que los agentes realizan en su nombre. También solicita que las decisiones automatizadas que afecten a sus derechos incluyan explicaciones comprensibles, mecanismos de reclamación y una supervisión humana real.
La entidad pide, además, que los sistemas compuestos por varios agentes sean evaluados teniendo en cuenta sus efectos conjuntos y que las pruebas se realicen con la participación de personas con discapacidad.
En el caso de los servicios públicos, el CERMI señala que la automatización no debe provocar la desaparición de la atención humana ni de los canales de acceso no digitales.
Protección frente a la manipulación de los compañeros de IA
Los denominados compañeros de inteligencia artificial pueden ofrecer apoyo para la comunicación y otras actividades personales. No obstante, el CERMI alerta de que algunos diseños podrían generar dependencia emocional o favorecer la explotación económica de las personas usuarias.
Entre las prácticas señaladas se encuentran la simulación de sentimientos para prolongar las conversaciones, la presión emocional para evitar que una persona termine la interacción y las opciones de pago que condicionan la continuidad de una relación afectiva artificial.
La organización reclama medidas que garanticen la transparencia y la accesibilidad de estas herramientas, eviten sobrecostes discriminatorios y permitan evaluar sus posibles efectos negativos con la participación de personas con discapacidad.
También subraya que las medidas de protección deben centrarse en el diseño y el funcionamiento de los sistemas. Estas garantías no deben convertirse en restricciones de acceso ni limitar la autonomía o la capacidad jurídica de las personas por razón de discapacidad.

Evaluación del impacto sobre los derechos fundamentales
El CERMI participará en la consulta pública abierta por la Comisión Europea sobre la plantilla destinada a evaluar el impacto de determinados sistemas de inteligencia artificial de alto riesgo en los derechos fundamentales.
Esta evaluación está prevista en el artículo 27 del Reglamento Europeo de Inteligencia Artificial. La consulta pública permanecerá abierta hasta el 15 de enero de 2027.
La entidad trasladará las aportaciones de su informe DiscapacIA para que la futura herramienta europea incluya expresamente la accesibilidad universal, los ajustes razonables, la igualdad y la no discriminación, la autonomía personal, la vida independiente y el respeto a la voluntad y las preferencias de las personas con discapacidad.
El CERMI también solicita que las organizaciones representativas de las personas con discapacidad participen desde el inicio en la elaboración de las orientaciones, evaluaciones y medidas de protección europeas. Su objetivo es que la experiencia de la sociedad civil forme parte de las decisiones que definirán el desarrollo y el uso de estas tecnologías.