ADP governa gli agenti AI su paghe e HR con un consiglio etico e supervisione umana

Quando un'azienda gestisce le paghe di uno su sei lavoratori negli Stati Uniti, un errore dell'AI non è un dettaglio. È il punto di partenza di ADP, che ha costruito la governance dell'intelligenza artificiale prima che arrivassero gli obblighi di legge e oggi la applica agli agenti di ADP Assist. Ne parla Helena Almeida, vice presidente e AI legal officer dell'azienda, in un'intervista ad AI Business.

Il contesto: AI nei processi sulle persone

ADP è una società di servizi per risorse umane e paghe. Usa l'AI al proprio interno, per esempio nel team IT per la scrittura di codice e per automatizzare attività come la generazione di immagini e video. Ha poi inserito funzioni di AI generativa in ADP Assist, una suite di agenti che lavorano sui flussi di HR e paghe e che servono ad alleggerire il carico dei team dei clienti.

Sono ambiti in cui le decisioni toccano stipendio, lavoro e diritti delle persone. Per questo la governance non è un accessorio ma una condizione per vendere il prodotto.

Cosa ha costruito ADP

L'azienda ha principi di etica dell'AI e dei dati dal 2018 e, nello stesso periodo, ha costituito un consiglio etico con esperti interni ed esterni su legale, privacy, etica, HR e prodotto. Con l'arrivo dell'AI generativa, i principi non sono cambiati: l'AI deve essere equa, trasparente, sicura e prevedere il coinvolgimento di una persona nelle decisioni chiave che riguardano gli individui. Sono i processi e i team trasversali a essere aggiornati di continuo.

Per gestire le norme diverse tra Stati e Paesi, ADP osserva che le leggi condividono gli stessi principi: trasparenza per gli utenti, spiegabilità, gestione del rischio, privacy, sicurezza e programmi di monitoraggio. Basarsi su quei principi comuni permette all'azienda di sentirsi coperta rispetto a regolamenti diversi. Alcuni usi vietati in certe parti del mondo, perché pericolosi, ADP dichiara che non li adotterebbe in ogni caso.

La supervisione umana non è una casella da spuntare

La parte più utile dell'intervista riguarda la qualità del controllo umano. Secondo Almeida, non può essere un passaggio cerimoniale in cui qualcuno clicca per dire che c'è una persona nel processo. Serve un'occasione reale di partecipazione: chi controlla deve conoscere le regole dell'AI e avere abbastanza contesto per riconoscere risultati insoliti o dubbi.

Allo stesso tempo, la revisione umana non va imposta su ogni attività, perché non tutte hanno lo stesso rischio. Un processo che incide su stipendio, impiego o diritti legali richiede momenti di intervento umano progettati; i compiti amministrativi a basso rischio possono essere automatizzati senza.

C'è poi il tema dell'automation bias: se l'AI indica una risposta come giusta, le persone tendono a crederci e proseguire. ADP prova gli strumenti prima internamente, osserva come li usano i clienti e, se scopre che le persone dedicano più tempo ad attività amministrative e sicure che a quelle cruciali, corregge il design perché gli incentivi vadano nella direzione giusta.

Cosa può imparare un manager

• Costruisci la governance prima dell'obbligo. ADP lavora su principi dal 2018: quando arrivano nuove norme, adattare un impianto esistente costa meno che partire da zero.
• Crea un organo trasversale. Un consiglio con competenze legali, privacy, HR e prodotto, con voci esterne, evita punti ciechi.
• Usa i principi comuni come bussola. Trasparenza, spiegabilità, gestione del rischio, privacy e monitoraggio ricorrono in quasi tutte le normative: sono una base solida anche per l'AI Act.
• Gradua il controllo umano sul rischio. Dove l'AI incide su paga, impiego o diritti, progetta passaggi di verifica; dove il rischio è basso, automatizza.
• Rendi il controllo significativo. Forma chi supervisiona e dagli il contesto per riconoscere anomalie, altrimenti la verifica diventa una formalità.
• Combatti l'automation bias con i pilot. Osserva come le persone usano davvero lo strumento e correggi il design se l'attenzione finisce nel posto sbagliato.