Você acredita que algoritmos são imparciais? Muitos pensam assim, mas uma nova corrente chamada feminismo de dados vem para desmistificar essa ideia, revelando como a tecnologia pode, inconscientemente, reproduzir preconceitos e desigualdades sociais.
Essa abordagem, que mistura tecnologia e teoria social, saiu das universidades para influenciar gigantes da tecnologia e até a legislação, gerando um debate crucial sobre o futuro da inteligência artificial.
O Que é o Feminismo de Dados?
Algoritmos Têm Vieses Inerentes
O feminismo de dados defende que algoritmos não são neutros. Eles são o resultado de escolhas humanas, desde a coleta até o uso das informações.
Essas escolhas, muitas vezes inconscientes, podem fazer com que os sistemas automatizados reproduzam preconceitos e distorções sociais existentes.
A professora Sandra Ávila, da Unicamp, doutora pela Sorbonne e referência em IA, explica: “Feminismo de dados é sobre poder, sobre quem o tem e quem não o tem. E, no mundo de hoje, dados são poder.”
Origens e Popularização
O conceito ganhou força nos EUA por volta de 2020, com o livro das pesquisadoras Catherine D’Ignazio (MIT) e Lauren Klein (Emory).
Elas argumentam que as equipes de tecnologia, majoritariamente compostas por homens brancos de países ricos, tendem a excluir ou “invisibilizar” outros grupos nas decisões de coleta e organização de dados.
Impacto e Exemplos Práticos de Vieses Algorítmicos
Da Academia à Indústria e Legislação
Rapidamente, o feminismo de dados foi abraçado por grandes empresas como Google, Microsoft e Amazon, que passaram a usar termos como “IA responsável” e “equidade algorítmica”.
No Brasil, o projeto de lei que regulamenta a inteligência artificial, aprovado pelo Senado em 2024, já prevê regras para que empresas expliquem a tomada de decisões e avaliem discriminações por raça e gênero.
Isso significa que a responsabilidade por falhas discriminatórias dos sistemas passa para quem os gerencia, e não apenas para o código em si.
Casos Reais de Preconceito Tecnológico
Diversos casos comprovam a tese de que algoritmos podem ser tendenciosos, evidenciando o que os entusiastas chamam de privilege hazard (risco de privilégio):
- Em 2018, a Amazon desativou um sistema de seleção de currículos que dava notas mais baixas para mulheres, pois foi treinado com dados de contratações predominantemente masculinas.
- No mesmo ano, uma auditoria do MIT mostrou que programas de reconhecimento facial da IBM e Microsoft erravam muito mais ao identificar mulheres de pele escura (taxa de erro acima de 34% contra menos de 1% para homens de pele clara).
- Algoritmos para diagnóstico de câncer de pele apresentavam desempenho inferior em peles negras, conforme estudo que levou a professora Sandra Ávila a aprofundar-se no tema.
Esses exemplos mostram que o problema não se resolve apenas com mais dados, mas exige um olhar diferente para as especificidades de cada grupo.
Os Desafios e Críticas ao Feminismo de Dados
De Ajuste Técnico a Agenda Política
Apesar de identificar problemas reais, o feminismo de dados levanta questionamentos quando a correção de sistemas se transforma em agenda política.
Críticos apontam que a proposta vai além de ajustar bases de dados, buscando incorporar a ideia de “justiça social” na construção dos sistemas, antes mesmo da análise técnica.
Isso abre espaço para a participação de ativistas e pesquisadores sociais nas decisões sobre o desenho dos algoritmos, como sugere Sandra Ávila: “incluir as pessoas minorizadas para que elas tragam seus saberes e conhecimentos para desenvolver de outra forma”.
Falta de Clareza e Risco de Militância
Essa guinada ideológica preocupa parte da comunidade acadêmica e técnica, gerando debates sobre quem decide as regras dos algoritmos e o que, de fato, é um sistema “justo”.
- Falta de regras claras: Rafaela Weber Mallmann, da USP, aponta uma “abstração que limita a aplicação prática”, dificultando a transformação de discursos sobre justiça em ferramentas de engenharia.
- Risco de ciência virar militância: Alberto Cairo, professor da Universidade de Miami, questiona se o uso de emoção e causas políticas não pode manipular dados para apoiar uma agenda específica.
- Natureza humana de classificação: Fernando Osório, pesquisador da USP, lembra que a capacidade de classificar é inata ao ser humano e, por extensão, à IA, não sendo necessariamente um exercício de poder.
A discussão, portanto, transcende a programação e adentra o terreno da política: quando a ciência de dados abraça uma causa, ela ainda descreve o mundo ou tenta mudá-lo?
Conclusão: Um Debate Essencial para o Futuro da IA
Em suma, o debate sobre feminismo de dados é menos sobre os algoritmos em si e mais sobre os valores que moldam a tecnologia.
É uma discussão fundamental que precisa envolver não apenas laboratórios e salas de aula, mas toda a sociedade, para garantir que o futuro da inteligência artificial seja verdadeiramente equitativo e representativo.
A falta de um debate público amplo sobre o tema, conforme observado, ressalta a urgência de uma maior conscientização e engajamento.
