L’intelligenza artificiale è oggi sempre più diffusa e utilizzata anche nelle organizzazioni, in particolare nella gestione dei processi HR, dalla selezione del personale alla valutazione delle performance. Proprio per questo, l’AI Act europeo classifica i sistemi impiegati in ambito lavorativo come sistemi ad alto rischio, riconoscendo la loro incidenza su diritti fondamentali e il potenziale impatto discriminatorio. In questo contesto, l’utilizzo dell’IA nei processi di recruiting solleva criticità rilevanti: gli algoritmi possono infatti contribuire a replicare e amplificare stereotipi di genere, in particolare nella fase di screening dei CV e di selezione dei/delle candidati/e. I sistemi di selezione automatizzata tendono a riprodurre i cosiddetti gender bias, ossia pregiudizi presenti nei dati o nei modelli su cui sono addestrati. Queste distorsioni derivano principalmente da due fattori. Da un lato, gli algoritmi sono progettati da esseri umani e riflettono, anche inconsapevolmente, i loro riferimenti culturali e valoriali. Dall’altro, i sistemi di machine learning apprendono da dati storici che possono incorporare disuguaglianze pregresse del mercato del lavoro, finendo per legittimarle e perpetuarle nel tempo. Se da un lato l’adozione dell’IA consente di velocizzare e standardizzare i processi di selezione, dall’altro rischia di escludere intere categorie di candidati, contribuendo ad ampliare il divario di genere. Anche l’UNESCO evidenzia come l’automazione e il machine learning possano rafforzare dinamiche discriminatorie, mettendo in discussione trasparenza, equità e correttezza dei sistemi decisionali. Per mitigare questi rischi non è sufficiente intervenire sui singoli comportamenti (come rendere anonimi i CV), ma è necessario agire a livello sistemico. Ciò implica, ad esempio, progettare algoritmi più trasparenti e verificabili, utilizzare dataset rappresentativi e privi di distorsioni, introdurre audit periodici sui sistemi e garantire sempre un controllo umano nei processi decisionali. Solo attraverso un approccio integrato – tecnologico, organizzativo e culturale – è possibile sfruttare il potenziale dell’IA nei processi HR senza compromettere i principi di equità e inclusione.