AI nel recruiting: perché selezione e valutazione richiedono controllo umano
L’AI nel recruiting può ordinare candidature, suggerire corrispondenze e supportare la valutazione, ma non elimina la responsabilità dell’organizzazione. Quando un sistema influenza l’accesso al lavoro, errori nei dati, criteri non dichiarati o automazioni opache possono incidere direttamente sulle opportunità delle persone.
Nel contesto dell’aprile 2025, l’AI Act era già entrato in vigore e dal 2 febbraio erano applicabili i divieti iniziali e le disposizioni sull’AI literacy. Le regole complete per i sistemi ad alto rischio avevano invece un’applicazione successiva secondo il calendario allora previsto. Preparare controllo umano, documentazione e competenze non era quindi un esercizio formale, ma un modo per ridurre il rischio prima delle scadenze.
AI nel recruiting: quando il rischio aumenta
L’Allegato III dell’AI Act include tra gli impieghi ad alto rischio alcuni sistemi destinati a pubblicare annunci mirati, analizzare o filtrare candidature e valutare candidati. La classificazione dipende dallo scopo previsto e dal modo in cui il sistema viene effettivamente utilizzato, non dalla semplice presenza della parola “AI” nel prodotto.
Un assistente che migliora la forma di una descrizione di ruolo non ha lo stesso impatto di un modello che assegna un punteggio e decide chi prosegue. La prima attività supporta la produzione; la seconda interviene in un punto decisionale che può incidere sui diritti.
Mappare i punti decisionali
| Fase | Uso possibile dell’AI | Controllo richiesto |
|---|---|---|
| Annuncio | Scrittura e targeting | Linguaggio, requisiti, pubblico ed esclusioni |
| Screening | Parsing CV e ranking | Criteri, falsi negativi, campioni esclusi |
| Valutazione | Test e sintesi | Validità, accomodamenti, spiegabilità |
| Colloquio | Trascrizione e note | Informazione, consenso ove richiesto, correzione |
| Decisione | Raccomandazione | Revisione umana sostanziale e motivazione |
La mappa deve indicare quali dati entrano, quale output viene prodotto, chi lo vede e quale conseguenza può generare. Senza questa descrizione, il team non sa dove esercitare il controllo.
Controllo umano che può cambiare l’esito
Human oversight non significa mostrare un punteggio a un recruiter e chiedere una conferma. La persona incaricata deve comprendere scopo e limiti del sistema, poter consultare le evidenze, riconoscere anomalie, ignorare la raccomandazione e fermare il processo.
Un protocollo operativo può prevedere:
- soglie che non producono esclusioni automatiche;
- revisione a campione delle candidature scartate;
- seconda valutazione per casi incerti o accomodamenti;
- registrazione del motivo della decisione finale;
- canale per segnalare errori e richiedere una revisione.
Se il revisore non ha tempo, competenza o autorità per modificare l’esito, il controllo rischia di essere solo apparente.
Dati, bias e validità del criterio
Un modello può replicare squilibri storici presenti nei dati o usare variabili che funzionano come proxy di caratteristiche sensibili. Anche un criterio apparentemente neutro può svantaggiare gruppi specifici se non è collegato a una necessità reale del ruolo.
Prima del test vanno definiti competenze e comportamenti osservabili. Durante l’uso bisogna confrontare tassi di avanzamento, errori e distribuzioni tra gruppi, con il supporto delle funzioni privacy e legali quando necessario. Una differenza statistica è un segnale da indagare; non dimostra da sola causa o discriminazione.
Il GDPR continua inoltre ad applicarsi al trattamento di dati personali, alla profilazione e alle decisioni automatizzate. Informativa, minimizzazione, tempi di conservazione, diritti degli interessati e valutazione d’impatto non vengono sostituiti dall’AI Act.
Domande da porre al fornitore
- Qual è lo scopo previsto e quali usi sono esclusi?
- Quali dati e variabili alimentano il risultato?
- Come viene validata la prestazione per ruolo e popolazione?
- Quali log, spiegazioni e possibilità di intervento sono disponibili?
- I dati del cliente vengono usati per addestrare altri modelli?
- Come vengono gestiti incidenti, aggiornamenti e modifiche sostanziali?
- È possibile esportare evidenze e cancellare i dati secondo le regole definite?
Le risposte devono entrare nel contratto, nella configurazione e nel registro degli strumenti, non restare in una presentazione commerciale.
KPI per un recruiting assistito e controllabile
Tempo di selezione e costo per assunzione descrivono efficienza, non qualità o equità. Vanno affiancati da percentuale di output revisionati, tasso di override umano, falsi negativi individuati nei campioni, completezza delle motivazioni, richieste di revisione, performance post-assunzione e stabilità del risultato dopo gli aggiornamenti.
La formazione può essere collegata alla matrice delle competenze: recruiter, HR manager, IT e responsabili di funzione richiedono livelli diversi di comprensione, verifica e responsabilità.
Fonti e riferimenti
- Regolamento (UE) 2024/1689 — AI Act
- Commissione europea, entrata in vigore dell’AI Act — 1 agosto 2024
- EDPB, decisioni automatizzate e profilazione
Nel processo di selezione è sempre chiaro chi può fermare o correggere l’automazione?
Possiamo mappare strumenti, decisioni, controllo umano e indicatori.