Resumen de Gender and Artificial Intelligence: Challenges and Imminent Possibilities

Mar Souto Romero, Mario Arias Oliva, Kiyoshi Murata, Orlando Manuel Martins Marques de Lima Rua

• español

  Resumen. Introducción: El presente trabajo presenta los aspectos relativos al género en el desarrollo de la Inteligencia Artificial. Comienza conceptualizando la IA, y situando su contexto y desarrollo histórico, paso previo para poder describir los actuales y futuros retos de género en la IA. Objetivo. Definir las principales áreas de estudio en género e IA, entre las que se encuentran la desigual participación de la mujer en el sector, así como los sesgos de datos y algoritmos, que hacen que los resultados puedan presentar sesgos de género. Metodología. El presente estudio ha realizado un análisis de contenido cualitativo, ya que la temática es emergente, y no existen todavía marcos teóricos y paradigmáticos asentados sobre los que realizar otro tipo de investigaciones. Resultados. Se presentan las principales áreas a tener en cuenta para lograr un desarrollo responsable y ético de la IA, integrando los aspectos presentados de género en el desarrollo futuro de esta tecnología. Aportación. Se describen los principales problemas existentes, presentado los aspectos a tener en cuenta en el desarrollo de la IA para evitar los sesgos de género, entre los que destacamos al explicabilidad, el desarrollo responsable y ético de los sistemas de IA, y la rendición de cuentas. Se presentan además otros retos, como la potenciación de la educación de la mujer en ámbitos STEM o su incorporación a la industria de la IA para evitar los sesgos de género en los equipos de desarrollo de algoritmos, así como el desarrollo de técnicas que permiten evitar los sesgos en el entrenamiento de conjuntos de datos y algoritmos.

• English

  Introduction. The present work addresses gender-related aspects in the development of Artificial Intelligence (AI). It begins by conceptualising AI and situating its context and historical development, as a preliminary step to describing the current and future gender issues related to AI. Objective. To define the main areas of study in gender and AI, including the unequal participation of women in the sector, as well as data and algorithmic biases that may lead to gender biases in outcomes. Methodology. This study has employed qualitative content analysis, given that the topic is emerging and there are no established theoretical or paradigmatic frameworks on which to base other types of research. Results. The study outlines key areas to consider for achieving responsible and ethical AI development, incorporating gender aspects into the future development of this technology. Findings. The study describes the main existing problems and highlights future challenges to address gender biases in AI. These challenges include explainability, the responsible and ethical development of AI systems, and accountability. Additionally, other challenges are presented, such as enhancing the education of women in STEM fields and their incorporation into the AI industry to avoid gender biases in algorithm development teams.