Corporações americanas se uniram para formar o Data & Aliança de confiança, que desenvolveu um sistema de avaliação de software para combater o preconceito da IA.
Ao contratar funcionários, Os departamentos de RH estão cada vez mais recorrendo à inteligência artificial (IA) tecnologias para ajudar. Com a ajuda deles, Currículos são analisados, entrevistas em vídeo são realizadas e o estado mental dos candidatos é avaliado.
As grandes corporações americanas decidiram unir forças para evitar que estas tecnologias produzam resultados tendenciosos que poderiam perpetuar ou mesmo exacerbar a discriminação.
De acordo com O jornal New York Times, na semana passada eles lançaram o Data & Aliança de confiança, que inclui representantes de vários setores, em particular CVS Saúde, Deloitte, Motores Gerais, Humana, IBM, MasterCard, meta (empresa-mãe do Facebook), Nike e Wal-Mart.
A organização não se envolve em lobby ou pesquisa. Com a participação de especialistas corporativos e terceirizados, os dados & Trust Alliance desenvolveu um sistema de avaliação de software que utiliza IA. O sistema consiste em 55 questões cobrindo 13 tópicos, e seu objetivo é combater o viés algorítmico.
O software de IA atual é orientado por dados, então é importante quais dados são usados e como eles são usados. Se os dados para treinar os algoritmos forem em sua maioria homens brancos, então os resultados produzidos por esses algoritmos provavelmente discriminarão negros e mulheres. Se, por exemplo, os dados para prever o sucesso em uma empresa referem-se a funcionários que tiveram um bom desempenho no passado, os resultados produzidos pelo algoritmo podem reforçar preconceitos pré-existentes.
Conjuntos de dados aparentemente neutros, quando usado com outros, pode levar a resultados que discriminam os candidatos com base na raça, gênero, ou idade.
Pesquisa interna de dados & As empresas da Trust Alliance demonstraram que seus departamentos de RH usam software baseado em IA, muitas vezes provenientes de fornecedores terceirizados. Os usuários corporativos geralmente não sabem quais dados o fornecedor usou para treinar os modelos de IA, e como esses modelos funcionam.
Para desenvolver a solução, a aliança recrutou seus funcionários de RH, análise de dados, departamentos jurídico e de compras, bem como fornecedores de software e especialistas externos. Esta colaboração resultou em uma detecção de viés, sistema de medição e mitigação para aprendizagem de práticas de processamento de dados e desenvolvimento de software de RH.
Deixe-me lembrá-lo que eu também escrevi isso Cientista descobriu uma vulnerabilidade na máquina de Turing universal.
