La IA favorece que continúe la discriminación y los sesgos

¿La Inteligencia Artificial (IA) tiene en cuenta a las personas con discapacidad? ¿Está reproduciendo patrones de opresión y de exclusión? Son algunas de las cuestiones a las que quiere dar respuesta un estudio del Real Patronato sobre Discapacidad. Porque la IA también dispone de palabras como lisiado, inválido y tullido y podría utilizarlas en cualquier texto o aplicación, sin tener en cuenta, por tanto, la connotación negativa y la discriminación que se puede perpetuar hacia las personas con discapacidad.

Todo ello lo quiso analizar el Real Patronato sobre Discapacidad, dependiente del Ministerio de Derechos Sociales, en el estudio “Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad”. Los resultados de esta investigación, realizada con entrevistas a 864 personas con discapacidad con la asistencia técnica de la Fundación ONCE, muestran que si bien el 99,8% de las encuestadas conocen productos de inteligencia artificial, sólo el 12,3% las usa. La falta de accesibilidad de estos productos y el sobrecoste añadido son las barreras que impiden un mayor uso por parte de las personas con discapacidad.

“Algunas cosas muy útiles como la domótica son excesivamente caras”, “Deberían ser gratuitas para personas con discapacidad” o “Las pensiones son muy bajas. No podemos permitirnos esta tecnología”, son algunas de las respuestas de las personas encuestadas. Otros de los obstáculos, según los encuestados, son la complejidad de las instrucciones y los menús de estas tecnologías que incluyen numerosos tecnicismos. Por eso, piden “manuales que se entiendan para poder utilizarlos” o “hacerlo más fácil, ya que a veces no lo uso porque no lo entiendo”, como recalcan algunas respuestas.

Las personas encuestadas consideran que las tecnologías basadas en Inteligencia Artificial tienen en cuenta algunas discapacidades, pero no otras, y creen que deben ser accesibles para todos. Y proponen: “Algunas personas sordas oyen ruidos y no entienden las palabras, sería importante poder aislar los ruidos”, “Vídeos con subtítulos integrados y de buena calidad ortográfica y sintáctica” o “Llamadas telefónicas traducidas a texto”.

Patrones del pasado

La investigación recuerda que las personas con discapacidad fueron objeto de marginación histórica y actual, generando exclusión sistemática y estructural de acceso al poder, a los recursos y a las oportunidades, unos patrones de marginación impresos en los datos que dan forma a los sistemas de IA. Entre los riesgos, argumenta el estudio que la IA “aprende gracias a enormes cantidades de datos, pero si en estos datos no hay ejemplos positivos de las personas con discapacidad, tenderá a subrepresentarla, a ignorarla y, por tanto, a discriminarla”.

“La administración pública debe estar vigilante para que no se nutra del capacitismo y vuelva a repetir los patrones de opresión y de exclusión”, asegura el director del general de Derechos de las Personas con Discapacidad y del patronato, Jesús Martín Blanco.