Los debates e investigaciones en relación a los sesgos de la IA no han incluido, en gran medida, a la discapacidad. Esto es particularmente significativo si se tiene en cuenta las maneras en las que se conforman y estructuran los sistemas de IA. ESte sesgo impacta directamente en el ejercicio del derecho a la igualdad y a la no discriminación y aquí la cuestión de los datos se vuelve crucial.
Contacto: Plataforma Inventiva Fundación QUALISOrganización: Plataforma Inventiva Fundación QUALIS
Lugar donde se desarrolla: Argentina
Warning: CF7 DTX: Access denied to key: "Email Contacto" in dynamic contact form shortcode: [CF7_get_custom_field]. Please add this key to the Meta Key Allow List at http://inventiva.ar/wp-admin/admin.php?page=cf7dtx_settings in /home/inventiva.ar/public_html/wp-content/plugins/contact-form-7-dynamic-text-extension/includes/utilities.php on line 923
Los debates e investigaciones en relación a los sesgos de la IA no han incluido, en gran medida, a la discapacidad. Esto es particularmente significativo si se tiene en cuenta las maneras en las que se conforman y estructuran los sistemas de IA. Tal como señala el Relator Especial sobre los derechos de las personas con discapacidad, Gerard Quinn: “la IA se hace ‘inteligente’ a través del proceso de aprendizaje automático que depende de un conjunto de datos de entrenamiento, o ‘algoritmos’, que a menudo incluyen “datos moldeados por decisiones humanas previas y juicios de valor que pueden ser erróneos por muchos motivos”. Entre ellos, puede incluir una mirada capacitista que puede reproducirse y ser perjudicial.
La cuestión de los datos. Hacia una IA más diversa
La cuestión de los datos es fundamental. Tiene que ver con el funcionamiento mismo de la IA y más aún, con el momento del diseño y programación. Los sistemas de IA necesitan de grandes cantidades de datos para funcionar (Global Open Data Index ,GODI) y la calidad de éstos es crucial para funcionar en igualdad de condiciones.
Los algoritmos utilizados para sistemas de reconocimiento de voz, visión artificial o reconocimiento de imágenes, tiene un enorme potencial para las personas con discapacidad.
Sin embargo, en la actualidad, los algoritmos son entrenados sin tener en cuenta los datos acerca de la discapacidad o toman patrones de grupos mayoritarios, desechando o considerando como “ruido” aquella información minoritaria.
Ahora bien, si se trata de aportar datos de calidad que contemplen las particularidades y la diversidad, deberíamos preguntarnos por quiénes gestionan estos datos.
En muchos casos, esta información se encuentra en manos del Estado. Según la Comisión de Estadísticas de la ONU, las administraciones públicas cuentan con gran cantidad de datos que son la base para la toma de decisiones. De hecho, en los últimos años, algunas administraciones públicas han comenzado a utilizar tecnología Big Data para hacer más eficiente la gestión, así como han establecido alianzas público-privadas para la utilización de estos datos.
En el camino hacia la posibilidad de contar con bases de datos que cuenten con información cierta y precisa sobre la discapacidad, se vuelve importante avanzar en su recopilación. Esto, con el objetivo de que sirva como fuente de datos que generen una IA que tome en consideración a todos los sectores de la población.
En España, la Fundación ONCE es la que ha avanzado en este trabajo de creación de un inventario de bases de datos que incluyan datos sobre discapacidad. El mismo se compone de 487 fuentes de datos públicas que contienen información abierta, actualizada que a su vez preservan la identidad de la persona.
Las áreas principales vinculadas a estas fuentes son las referidas a derechos sociales, educación, empleo, movilidad, salud y turismo.
Resulta interesante tener en cuenta este punto como aquellas experiencias que se vienen desarrollando en torno a él con el fin de avanzar hacia una IA accesible e inclusiva.
FUENTE DE INFORMACIÓN: https://www.sindromedown.net/wp-content/uploads/2023/06/docu-IA.pdf
