Quali sistemi di IA nelle risorse umane sono ad alto rischio (allegato III)

Tra tutti i reparti di un'azienda, le risorse umane sono quelle che con più probabilità usano un sistema di IA classificato ad alto rischio, e quelle che meno spesso lo sanno. Non perché lo strumento sia particolarmente sofisticato, ma perché l'allegato III del regolamento si concentra proprio lì: sulle decisioni che riguardano l'occupazione di una persona.

Che cosa dice l'allegato III sull'occupazione

Il punto 4 dell'allegato III classifica come ad alto rischio i sistemi di IA destinati all'assunzione o alla selezione di persone fisiche, in particolare per pubblicare annunci di lavoro mirati, analizzare e filtrare le candidature e valutare i candidati. Si aggiunge un secondo blocco: i sistemi destinati a decisioni che incidono sulle condizioni dei rapporti di lavoro, sulla promozione o sulla risoluzione dei contratti, ad assegnare compiti in base al comportamento o a tratti personali, o a monitorare e valutare prestazioni e condotta.

In altre parole: non serve un sistema esotico. Un filtro automatico dei curriculum, uno strumento che valuta i colloqui, un algoritmo che assegna i turni in base alla produttività storica o un pannello che valuta le prestazioni annuali rientrano tutti in questa categoria non appena intervengono in modo significativo nella decisione.

Che cosa aggiunge l'etichetta di alto rischio

Essere deployer di un sistema ad alto rischio non cambia solo l'applicazione dell'articolo 4: aggiunge gli obblighi specifici dell'articolo 26, che conviene conoscere prima di firmare qualsiasi contratto con un fornitore.

• Uso conforme alle istruzioni del fornitore, e verifica che i dati di input siano pertinenti e sufficientemente rappresentativi per la finalità del sistema.
• Sorveglianza umana da parte di persone con la competenza, la formazione e l'autorità necessarie, e con la capacità reale di annullare una decisione del sistema.
• Conservazione dei log generati automaticamente dal sistema per almeno sei mesi.
• Informazione ai rappresentanti dei lavoratori e alle persone interessate che saranno soggette a un sistema ad alto rischio, prima della sua messa in servizio.
• Notifica al fornitore e all'autorità di vigilanza in caso di rischio grave rilevato, e sospensione dell'uso durante l'indagine.

La sfumatura che spesso si ignora: informare prima, non dopo

L'obbligo di informare i lavoratori non è un adempimento successivo: l'articolo 26, paragrafo 7, richiede che sia soddisfatto prima della messa in servizio del sistema o del suo primo utilizzo sul posto di lavoro. Un'azienda che usa già un sistema di selezione e solo ora pensa a informare è, in senso stretto, già in ritardo.

Che cosa richiede davvero la sorveglianza umana

Non basta che una persona possa, in teoria, rivedere il risultato. L'articolo 14 richiede che chi sorveglia comprenda le capacità e i limiti del sistema, sia in grado di interpretarne correttamente l'output e possa decidere di non usarlo o di annullare una decisione basata su di esso. Un responsabile HR che approva automaticamente ciò che suggerisce l'algoritmo, senza una reale capacità di metterlo in discussione, non soddisfa la sorveglianza umana significativa richiesta dal regolamento. È esattamente questa la competenza che l'articolo 4 impone di acquisire.

Domande frequenti

Da dove iniziare

Se un processo di selezione, valutazione o promozione della tua azienda si basa su uno strumento automatizzato, conviene verificare prima tre cose: se quell'uso rientra nell'allegato III, se le persone interessate sono già state informate, e se chi sorveglia il sistema ha la formazione e l'autorità reali per annullarne le decisioni. La nostra valutazione gratuita aiuta a collocare il tuo caso concreto in questo quadro.