Divulgação
“Com a digitalização de muitos setores, a penetrante natureza da IA exige que ela não ofereça apenas eficiência, mas também que seja inclusiva”, escreveu a programadora Xiaoman Hu, da gigante de tecnologia chinesa Huawei, em um artigo para a Tech Talks.
Em 2014, um time de engenheiros de software da Amazon construiu um programa para analisar currículos de candidatos a vagas na empresa. No ano seguinte, quando o programa já estava em funcionamento, a equipe se deu conta de que o sistema discriminava as mulheres. Os modelos computacionais foram treinados para barrar inscrições com base em modelos de currículos que haviam sido enviados à empresa durante um período de 10 anos, e, como a maioria deles era de homens, o próprio sistema entendeu que candidatos masculinos, portanto, eram melhores.
O caso da Amazon é mais um dentre os tantos que revelam as dificuldades enfrentadas por mulheres que atuam nas áreas de Inteligência Artificial e Ciência de Dados em todo o mundo. Além de serem minoria no mercado de Tecnologia – o que, em si, já se caracteriza como desigualdade de gênero – aqui no Brasil, a média de mulheres neste mercado é de 20%, segundo a Associação Brasileira das Empresas de Tecnologia (Brasscom). A participação limitada das mulheres no setor amplia o preconceito que os próprios sistemas e programas podem ter contra elas, uma vez que grande parte deles foi desenvolvido por uma equipe pouco diversa.
De acordo com dados do Fórum Econômico Mundial, as mulheres representam apenas 22% dos profissionais de Inteligência Artificial ao redor do mundo, ao passo que 78% são homens. No Brasil, segundo a Unesco, elas somam 17% de representatividade.
Os reflexos gerados dessa baixa participação das mulheres na Tecnologia têm sido cada vez mais discutidos. Em um artigo publicado recentemente pelas lideranças da Women in AI (WAI), organização sem fins lucrativos, é argumentado que a baixa presença feminina no setor pode impactar negativamente na criação futura de sistemas confiáveis. “A Inteligência Artificial que foi treinada em base de dados que apagaram as contribuições de mulheres e minorias não pode magicamente ver e valorizar o que não está lá. Para treinar nossos sistemas de IA para serem guardiões eficientes do nosso contexto cultural, nós precisamos treinar a próxima geração de seres humanos a enxergar com uma lente ética, para identificar e denunciar os vieses”, afirma Suzanna Raj, Conselheira da Intelligent Voices of Wisdom (IVOW), organização que busca preservar a cultura e a história por meio da IA.
Mulheres Negras
Além do episódio da Amazon, existem outros casos que evidenciam como esse viés pode se manifestar por meio da IA. Um deles é a tecnologia de reconhecimento facial, por exemplo, que tem sido questionada nos últimos anos por legisladores e especialistas em políticas públicas pela baixa precisão ao abordar mulheres e pessoas negras.
Um estudo do National Institute of Standards and Technology (NIST) divulgado em 2019, revelou que as taxas de falsos positivos (quando uma foto é equivocadamente identificada com outra) são mais altas para mulheres negras em sistemas de reconhecimento facial usados pelo FBI, o que pode levar, por exemplo, a falsas acusações de crimes.
A fim de diminuir essa tendência, é fundamental aumentar a presença de mulheres no setor de Tecnologia para que as bases e os tratamentos de dados possam ser mais sensíveis à diversidade de gênero. “Com a digitalização de muitos setores, a penetrante natureza da IA exige que ela não ofereça apenas eficiência, mas também que seja inclusiva”, escreveu a programadora Xiaoman Hu, da gigante de tecnologia chinesa Huawei, em um artigo para a Tech Talks.
Nesse sentido, é vital que as empresas de tecnologia se engajem no tema. A Shutterstock, um dos mais importantes bancos de imagens e vídeos do mundo, por exemplo, fechou uma parceria com a WAI para estimular artistas a criarem imagens e conteúdos mais diversos em termos de gênero e raça, a fim de estimular uma mudança de percepção na audiência de massa e contribuir para uma base de dados mais inclusiva.