Si discrimina, esta no es mi IA.
III Jornadas “Pensar la Justicia Digital Global"

El proceso de diseño, desarrollo e implementación de la IA aparece marcado por dinámicas profundamente discriminatorias. La transversalidad de los ámbitos de aplicación de estas tecnologías obliga a abordar la complejidad del fenómeno. Dentro del proyecto de Justicia Digital Global que impulsan Oxfam Intermón y la Direcció de Justícia Global del Ajuntament de Barcelona que trabaja sobre los impactos de la IA en las desigualdades, se enmarca esta jornada que está formada por dos diálogos con dos enfoques diferentes.

Por un lado, una conversación entre Paola Ricaurte y Milagros Miceli adoptará una aproximación global y discutirá sobre la influencia de los desequilibrios entre el norte y el sur globales en la consolidación de un modelo de desarrollo de la IA, que lleva implícita la discriminación desde su concepción. El modelo económico hegemónico, el papel de las grandes empresas del sector, los desequilibrios en las condiciones técnicas entre las geografías e incluso los marcos construidos por las regulaciones imprimen en los desarrollos de los sistemas de IA un carácter discriminatorio de origen.

Por otro lado, en un segundo diálogo entre Paola Villarreal, Salmana Ahmed y Afef Abrougui, se reflexionará sobre los vectores de discriminación articulados por los usos concretos de la IA, desde los recursos y los conjuntos de datos de entrenamiento, hasta los ámbitos de implantación de sistemas basados en IA, pasando por el propio diseño de los algoritmos. Las expertas expondrán cómo los artefactos tecnosociales que son las herramientas basadas en IA agravan el racismo institucional y la discriminación basada en el género, en el acceso a los servicios públicos, en la gestión del espacio público o en los mecanismos de control de la movilidad humana, por ejemplo.

El día 5 de diciembre se desarrollará un seminario internacional con acceso restringido en el que una treintena de personas de los ámbitos académico, de la sociedad civil, de las instituciones y del sector privado abordarán estos impactos de la IA en las desigualdades.