Gender Bias in Artificial Intelligence
Documento
Informações
Título
Gender Bias in Artificial Intelligence
Título (EN)
Gender Bias in Artificial Intelligence
Autor(es)
Rosileine Mendonça de Lima | Barbara Pisker | Victor Silva Corrêa
Instituição
Universidade Paulista
Tipo
Artigo
Publicado em
LIMA, Rosileine Mendonça de; PISKER, Barbara; CORRÊA, Victor Silva. Gender Bias in Artificial Intelligence. Journal of Telecommunications and the Digital Economy, v. 11, n. 2, p. 8–30, 2023.
Resumo (EN)
This study presents a Systematic Literature Review (SLR) of Gender Bias in Artificial Intelligence (AI). The research was conducted using two techniques: a domain-based approach to SLR process providing a bibliometric sample description and in-depth examination of the thematic categories arising from inductive categorization, extracted from reading and interpretation of the final 35 sample articles analyzed. In answering three key research questions on the types, causes, and overcoming (mitigating) strategies of gender bias in artificial intelligence, three thematic treemaps were constructed, enabling systematic overview as an essential contribution to the literature. The main types of gender bias found in AI are categorized as societal, technical, and individual. Societal and socio-technical aspects stand out as the leading causes of bias, while debiasing, dataset design and gender sensitivity were the most frequent among the main strategies for overcoming bias. The study also proposes theoretical, practical and managerial capacity building and policy implications that aim to influence broad socio-technical challenges and refer to changes necessary, aiming to create bias-free artificial intelligence.
Resumo
Este estudo apresenta uma Revisão Sistemática da Literatura (RSL) sobre o viés de gênero na Inteligência Artificial (IA). A pesquisa foi conduzida por meio de duas abordagens: um processo de RSL baseado em domínio, que forneceu uma descrição bibliométrica da amostra, e uma análise aprofundada das categorias temáticas resultantes de uma categorização indutiva, obtida a partir da leitura e interpretação dos 35 artigos que compuseram a amostra final. Para responder a três questões centrais de pesquisa — os tipos, as causas e as estratégias para superar (mitigar) o viés de gênero na IA — foram elaborados três mapas temáticos (treemaps), proporcionando uma visão sistemática do tema como principal contribuição para a literatura. Os resultados indicam que os principais tipos de viés de gênero na IA podem ser classificados em sociais, técnicos e individuais. Os aspectos sociais e sociotécnicos destacam-se como as principais causas desses vieses, enquanto as estratégias mais frequentes para mitigá-los incluem técnicas de eliminação de vieses (debiasing), aprimoramento do desenho dos conjuntos de dados (datasets) e promoção da sensibilidade às questões de gênero. O estudo também propõe implicações teóricas, práticas, gerenciais e para formulação de políticas públicas, voltadas ao fortalecimento de capacidades e ao enfrentamento dos desafios sociotécnicos, contribuindo para o desenvolvimento de sistemas de Inteligência Artificial mais justos, inclusivos e livres de vieses.
Palavras-chave
Bias | Gender | Artificial Intelligence | Systematic Literature Review
Financiamento
Vice-Reitoria de Pós-Graduação e Pesquisa - Universidade Paulista