Alegações de que a IA pode aumentar a diversidade no local de trabalho são 'espúrias e perigosas'

May 06, 2023

Nos últimos anos, vimos o surgimento de ferramentas de IA comercializadas como uma resposta à falta de diversidade na força de trabalho, desde o uso de chatbots e raspadores de currículo para alinhar candidatos em potencial, até software de análise para entrevistas em vídeo.

Os que estão por trás da tecnologia afirmam que ela cancela preconceitos humanos contra gênero e etnia durante o recrutamento, em vez disso, usa algoritmos que leem vocabulário, padrões de fala e até mesmo microexpressões faciais para avaliar enormes grupos de candidatos a empregos para o tipo certo de personalidade e "ajuste cultural". "

No entanto,em um novo relatório publicadoem Filosofia e Tecnologia, pesquisadores do Centro de Estudos de Gênero de Cambridge argumentam que essas alegações tornam alguns usos da IA ​​na contratação pouco melhores do que uma "pseudociência automatizada" reminiscente da fisionomia ou da frenologia: as crenças desacreditadas de que a personalidade pode ser deduzida de características faciais e formato do crânio .

Eles dizem que é um exemplo perigoso de "tecnosolucionismo": recorrer à tecnologia para fornecer soluções rápidas para problemas de discriminação profundamente enraizados que exigem investimento e mudanças na cultura da empresa.

Na verdade, os pesquisadores trabalharam com uma equipe de estudantes de ciência da computação de Cambridge para desmascarar essas novas técnicas de contratação, criando uma ferramenta de IA modelada na tecnologia.

A "máquina de personalidade" demonstra como mudanças arbitrárias na expressão facial, roupas, iluminação e fundo podem dar leituras de personalidade radicalmente diferentes — e assim podem fazer a diferença entre rejeição e progressão para uma geração de candidatos a emprego competindo por cargos de pós-graduação.

A equipe de Cambridge diz que o uso de IA para restringir os grupos de candidatos pode, em última análise, aumentar a uniformidade em vez da diversidade na força de trabalho, pois a tecnologia é calibrada para procurar o "candidato ideal" da fantasia do empregador.

Isso pode fazer com que aqueles com o treinamento e o histórico corretos "conquistem os algoritmos", replicando comportamentos que a IA está programada para identificar e levando essas atitudes para o local de trabalho, dizem os pesquisadores.

Além disso, como os algoritmos são aprimorados usando dados anteriores, eles argumentam que os candidatos considerados mais adequados provavelmente acabarão sendo aqueles que mais se assemelham à força de trabalho atual.

"Estamos preocupados com o fato de alguns fornecedores estarem embrulhando produtos de 'óleo de cobra' em uma embalagem brilhante e vendendo-os a clientes desavisados", disse a co-autora Dra. Eleanor Drage.

"Ao alegar que racismo, sexismo e outras formas de discriminação podem ser eliminadas do processo de contratação usando inteligência artificial, essas empresas reduzem raça e gênero a pontos de dados insignificantes, em vez de sistemas de poder que moldam como nos movemos pelo mundo. ."

Os pesquisadores apontam que essas ferramentas de recrutamento de IA geralmente são proprietárias - ou "caixa preta" -, portanto, como elas funcionam é um mistério.

“Embora as empresas possam não estar agindo de má-fé, há pouca responsabilidade sobre como esses produtos são construídos ou testados”, disse Drage. "Como tal, esta tecnologia e a forma como é comercializada podem acabar como fontes perigosas de desinformação sobre como o recrutamento pode ser 'imparcial' e tornar-se mais justo."

Apesar de alguma resistência – a Lei de IA proposta pela UE classifica o software de contratação alimentado por IA como “alto risco”, por exemplo – os pesquisadores dizem que as ferramentas feitas por empresas como Retorio e HIreVue são implantadas com pouca regulamentação e apontam para pesquisas sugerindo o uso de IA na contratação é uma bola de neve.

Um estudo de 2020 com 500 organizações em vários setores em cinco países descobriu que 24% das empresas implementaram a IA para fins de recrutamento e 56% dos gerentes de contratação planejam adotá-la no próximo ano.

Outra pesquisa com 334 líderes em recursos humanos, realizada em abril de 2020, quando a pandemia se instalou, descobriu que 86% das organizações estavam incorporando novas tecnologias virtuais às práticas de contratação.

"Essa tendência já estava em vigor quando a pandemia começou, e a mudança acelerada para o trabalho online causada pelo COVID-19 provavelmente verá uma maior implantação de ferramentas de IA pelos departamentos de RH no futuro", disse o coautor Dr. Kerry Mackereth, que apresenta o podcast Good Robot com Drage, no qual a dupla explora a ética da tecnologia.