A popularização da inteligência artificial (IA) revolucionou diversos setores, incluindo o mercado de trabalho. Mais especificamente, o processo de contratação tem sido cada vez mais automatizado por meio de plataformas de contratação alimentadas por IA. No entanto, estão surgindo preocupações de que essas ferramentas podem estar descartando candidatos altamente qualificados.

IA na contratação: um panorama

Algumas das ferramentas que as empresas utilizam para triar candidatos com softwares de recrutamento baseados em IA incluem análise de linguagem corporal, avaliações vocais, testes gamificados e scanners de currículo. Os candidatos a empregos enfrentam esses prompts de máquina e a IA decide se eles são um bom ajuste ou ficam aquém.

Uma pesquisa realizada pelo IBM no final de 2023 com mais de 8.500 profissionais de TI de todo o mundo mostrou que 42% das empresas estavam usando triagem de IA para melhorar o recrutamento e os recursos humanos. Além disso, 40% dos entrevistados estavam considerando integrar a tecnologia.

IA corrigindo ou intensificando vieses?

Muitos líderes no mundo corporativo esperavam que a tecnologia de recrutamento baseada em IA eliminasse os vieses no processo de contratação. No entanto, em alguns casos, o oposto está acontecendo. Alguns especialistas afirmam que essas ferramentas estão triando erroneamente alguns dos candidatos a empregos mais qualificados, aumentando as preocupações de que o software possa estar eliminando os melhores candidatos.

“Não vimos muitas evidências de que não há viés aqui… ou que a ferramenta seleciona os candidatos mais qualificados”, diz Hilke Schellmann, autora dos EUA de O Algoritmo: Como a IA Pode Sequestrar Sua Carreira e Roubar Seu Futuro, e professora assistente de jornalismo na Universidade de Nova York.

Exemplos de falhas sistemáticas

Schellmann cita muitos exemplos evidentes de falhas sistemáticas. Em um caso, um usuário que havia sido eliminado enviou a mesma candidatura, mas alterou a data de nascimento para se fazer mais jovem. Com essa mudança, conseguiu uma entrevista. Em outra empresa, um examinador de currículos de IA foi treinado com currículos de funcionários já existentes na empresa, dando pontos extras se eles listaram “baseball” ou “basquete” – hobbies que estavam ligados a funcionários de sucesso, muitas vezes homens. Aqueles que mencionaram “softball” – normalmente mulheres – foram rebaixados.

Grupos marginalizados costumam “cair pelas frestas, pois têm hobbies diferentes, frequentaram escolas diferentes”, diz Schellmann.

Tecnologia acertada ou desastre eminente?

A importância de acertar essa tecnologia é destacada por Sandra Wachter, professora de tecnologia e regulamentação no Instituto de Internet da Universidade de Oxford. Ela está trabalhando para ajudar as empresas a identificar o viés por meio da co-criação do teste de Disparidade Demográfica Condicional, uma ferramenta disponível ao público que “age como um sistema de alerta que o notifica se seu algoritmo for tendencioso”.

Enquanto isso, Schellmann pede “guardrails e regulamentação” da indústria por governos ou organizações sem fins lucrativos para garantir que os problemas atuais não persistam. Se não houver intervenção agora, ela teme que a IA possa tornar o local de trabalho do futuro mais desigual do que antes.

Portanto, embora a IA ofereça uma promessa tremenda, garantir sua justiça e precisão no recrutamento requer trabalho contínuo e vigilância em sua implementação e uso.