04/22/2026
O caso da Amazon não foi um bug. Foi um reflexo.
A Reuters revelou em 2018 que a ferramenta havia sido treinada com dez anos de dados internos de contratação, num período em que a maioria dos contratados para cargos técnicos era homem. A IA aprendeu o padrão. Penalizou currículos com a palavra "mulheres". Desvalorizou formandas de faculdades femininas. Favoreceu verbos associados a perfis masculinos, como "executou" e "capturou".
O relatório "Women for Ethical AI" da UNESCO (2024) mostra o contexto mais amplo: apenas 30% dos profissionais do setor de IA são mulheres. Entre pesquisadores de IA, esse número cai para 12%. Quando a maioria das pessoas construindo essas ferramentas tem o mesmo perfil, os pontos cegos ficam invisíveis para quem está na sala.
Há um recorte dentro disso que precisa ser nomeado.
Em 2018, Joy Buolamwini e Timnit Gebru, pesquisadoras do MIT Media Lab, publicaram o estudo "Gender Shades" analisando algoritmos de reconhecimento facial de três grandes empresas de tecnologia. A taxa de erro para homens de pele clara era de 0,8%. Para mulheres negras, chegava a 34,7%.
O Instituto Nacional de Padrões e Tecnologia dos EUA (NIST) analisou 189 algoritmos e confirmou: a maioria apresentava desempenho consistentemente inferior para mulheres negras em comparação a qualquer outro grupo demográfico testado.
Uma ferramenta construída sem a perspectiva de quem ela vai afetar não é neutra. É incompleta.
E por isso meu convite para que mulheres se integrem nessa conversa.
No workshop de 5 de maio em Fortaleza, a gente parte daqui. Link na bio.
Fontes: Reuters / Jeffrey Dastin, 2018. UNESCO, "Women for Ethical AI", 2024. Buolamwini & Gebru, "Gender Shades", MIT Media Lab, 2018. NIST, 2019.
fotógrafa brasileira | IA para mulheres | fotografia para mulheres