L’Intelligenza Artificiale e l’illusione dell’oggettività

a cura di Alessandro Samele

🎯 In questo articolo:

Perché l’AI sta diventando un “rassicurante sostituto” del giudizio umano quando l’HR è in sovraccarico cognitivo.
Il cortocircuito decisionale tra stanchezza, pressione operativa e delega automatica della responsabilità.
Le principali distorsioni cognitive nelle scelte HR: similarity attraction bias, effetto alone e bias blind spot.
Che cos’è l’automation bias e come porta a errori di omissione e di commissione nelle decisioni assistite.
Il caso Amazon: quando un modello addestrato sui dati storici impara e replica discriminazioni preesistenti.
I rischi della people analytics: riduzionismo, proxy quantitativi fuorvianti e profezie che si autoavverano.
Perché “human-in-the-loop” non basta e cosa significa davvero governare con un approccio “human over the loop”.
Cinque leve operative e una lista di domande per usare l’AI in HR senza trasformare l’efficienza in un rischio sistemico.

Alcune settimane fa ho partecipato ad un evento dedicato al “mondo” HR dove il main topic era, tanto per cambiare, come l’AI generativa sta cambiando i comportamenti decisionali degli HR Manager.

Oggi parlare di AI e dei riflessi che la tecnologia ha sulle nostre vite, professionali e personali, è diventato un “have to talk about”. È impossibile organizzare un evento senza parlare di AI e quindi dopo aver ascoltato tutti i processi HR che vengono demandati già oggi alla tecnologia, mi sono fatto questa domanda.

Perché la mente umana delega così volentieri all’algoritmo, e come potremmo evitare che la ricerca dell’efficienza si trasformi in un rischio sistemico per selezione, performance e talent management?

Nel cercare una risposta alla domanda, mi sono ricordato di quanto successo il venerdì antecedente l’evento, durante l’incontro di lavoro con l’HR Manager di un’Azienda Cliente.

Sulla scrivania del manager c’erano accumulati oltre duecento candidature per una posizione chiave, aperta settimane prima, con decine di schede di valutazione delle performance da approvare e un report sul rischio di turnover da analizzare.

Parlando con il Cliente era evidente che la stanchezza cognitiva fosse al culmine… l’utilizzo del nuovo sistema di AI integrato con il loro ATS (Applicant Tracking System) sembrava fosse l’unica soluzione per scansionare quei profili, incrociare i dati storici ed elaborare una comoda e rassicurante “Top 5” dei candidati ideali su cui puntare.

A quel punto il Cliente parlando del loro sistema AI, ha detto una frase che mi è rimasta in mente: “Sai per fortuna abbiamo questo sistema informatico, è il modo per rilassare la mente, accetto i 5 nomi che mi suggerisce e passo oltre!”.

Secondo voi siamo di fronte a una vittoria dell’efficienza o stiamo assistendo a un pericoloso cortocircuito cognitivo?

È davvero una scelta strategica basata sui dati, oppure stiamo semplicemente delegando a una macchina la responsabilità di un giudizio che non abbiamo l’energia, o il coraggio, di prendere in prima persona?

Sento dire continuamente dagli esperti AI, che l’adozione dell’Intelligenza Artificiale nelle Risorse Umane promette di spazzare via decenni di pregiudizi, offrendo una lente finalmente neutrale per valutare il talento.

La realtà organizzativa si sta rivelando infinitamente più complessa, portando alla luce un paradosso, che personalmente ritengo insidioso: nel tentativo di sfuggire ai limiti della mente umana, rischiamo di automatizzare e scalare i nostri peggiori difetti su scala industriale.

Le trappole cognitive nelle decisioni HR

Il cervello umano è una macchina straordinaria per il risparmio energetico. Di fronte all’ambiguità e alla mole di informazioni tipiche, per esempio, delle decisioni HR, i manager ricorrono inconsapevolmente a scorciatoie mentali. Queste strategie facilitano la rapidità, al contempo aprono la porta a distorsioni sistematiche.

Un esempio lampante è il similarity attraction bias. Durante un colloquio, i selezionatori tendono a favorire individui che condividono le loro stesse caratteristiche, il medesimo background culturale, formativo o persino gli stessi interessi personali (Bunica, 2024, p. 1)¹. Il risultato è la creazione di team omogenei, un fenomeno che potrebbe soffocare la diversità di pensiero e frenare l’innovazione aziendale.

A questo si aggiunge il temibile effetto alone (halo effect), un errore cognitivo che porta a proiettare un singolo attributo positivo di un candidato, come la provenienza da un’università d’élite, sull’intera valutazione delle sue competenze (Thomas & Reimann, 2023, p. 8)².

Personalmente, ritengo che l’aspetto più critico di queste dinamiche, risiede in quello che la letteratura definisce il bias blind spot, ovvero il punto cieco dei pregiudizi.

Uno studio condotto su un campione di esperti del settore ha dimostrato come i selezionatori valutino il collega medio come altamente suscettibile a errori di giudizio (stereotipi, pregiudizi legati allo status quo), ritenendo se stessi immuni o profondamente obiettivi (Thomas & Reimann, 2023, p. 14)².
Quanto questa falsa sicurezza impedirebbe di riconoscere l’errore nel momento in cui avviene, rendendo le decisioni umane intrinsecamente fallibili?

L’inganno dell’algoritmo e l'”automation bias”

Per ovviare a questa fallibilità umana, oggi le aziende iniziano a rivolgersi all’Intelligenza Artificiale.

Il ragionamento appare lineare: se l’uomo è di parte, affidiamo la selezione e la valutazione delle performance alla matematica. L’Intelligenza Artificiale analizza milioni di dati senza stancarsi e senza simpatie personali.

In verità, l’inserimento dell’AI nei processi aziendali HR, genera un nuovo e potente rischio psicologico: l’automation bias.

Si tratta della propensione umana a utilizzare i suggerimenti automatizzati come sostituti euristici della ricerca vigile e dell’elaborazione delle informazioni (Mosier & Manzey, 2019, p. 3)³. La mente umana è notoriamente affetta da “pigrizia cognitiva”, cede volentieri il volante decisionale all’algoritmo, percepito come autorità infallibile. Questo fenomeno si manifesta attraverso due tipologie di errori critici:

I primi sono gli errori di omissione, che si verificano quando il manager non nota un’anomalia o un problema evidente semplicemente perché il software non ha generato alcun alert.
I secondi, invece, sono gli errori di commissione che avvengono quando il professionista esegue ciecamente la direttiva dell’algoritmo, ignorando deliberatamente informazioni esterne o il proprio buon senso che dimostrano chiaramente l’inesattezza del suggerimento (Danelid, 2024, p. 3)⁴.

Il caso più celebre in ambito HR riguarda il colosso Amazon. Nel tentativo di automatizzare lo screening dei curriculum, l’azienda sviluppò un modello di machine learning addestrato sui profili dei candidati assunti nei dieci anni precedenti.

Poiché l’industria tecnologica era storicamente dominata dagli uomini, l’algoritmo imparò rapidamente una regola non scritta: i candidati maschili erano preferibili. Il sistema iniziò a penalizzare attivamente i curriculum che contenevano la parola “femminile” (ad esempio, “capitano della squadra femminile di scacchi”) o i nomi di università esclusivamente femminili (Chen, 2023, p. 5)⁵.

L’Intelligenza Artificiale non aveva eliminato il bias, lo aveva appreso dai dati storici, lo aveva codificato e lo stava applicando con un’efficienza spietata, generando una discriminazione “agentica” mascherata da oggettività matematica.

Cosa dice la ricerca: oltre l’illusione del controllo

L’indagine accademica sui lati oscuri della people analytics smonta sistematicamente la narrazione dei fornitori di tecnologia, evidenziando come la fiducia cieca nei modelli generi conseguenze devastanti per la forza lavoro e per l’integrità organizzativa.

Il primo grande inganno è il riduzionismo. Le tecnologie di AI applicate all’HR tentano di quantificare e semplificare la natura complessa, sociale e imprevedibile delle interazioni umane e oserei dire anche della vulnerabilità umana, che poi è la nostra forza, trasformandola in metriche di performance.

Strumenti di tracciamento analizzano il traffico e-mail, i tempi di risposta o la frequenza delle riunioni per stabilire la presunta produttività di un knowledge worker, confondendo una misurazione parziale con la realtà oggettiva del lavoro (Giermindl et al., 2021, p. 5)⁶. Valutare un dipendente in base a questi proxy quantitativi porta a decisioni errate in tema di promozioni o licenziamenti, distruggendo la motivazione del personale e il patto di fiducia con l’azienda.

La dipendenza dai dati del passato genera un ulteriore rischio strutturale: le profezie che si autoavverano.

La ricerca ci conferma che quando gli algoritmi tentano di prevedere il rischio di abbandono aziendale o il potenziale futuro di un neo-assunto, le aziende tendono a focalizzare le risorse, come la formazione o i piani di sviluppo, esclusivamente sui profili segnalati come “top performer” dalla macchina. I dipendenti selezionati, ricevendo maggiori investimenti e attenzioni, inevitabilmente performano meglio di quelli esclusi (Giermindl et al., 2021, p. 6)⁶.

Di fronte a questa complessità, la normativa e la letteratura gestionale insistono sulla necessità della supervisione umana. Essere semplicemente “inseriti nel loop” non è sufficiente. Un dipendente che si limita a premere un tasto per confermare una decisione presa dalla macchina subisce una profonda erosione della propria competenza manageriale, perdendo gradualmente la capacità di ragionamento critico (Giermindl et al., 2021, p. 11)⁶.

La vera governance e sicuramente essere Leader, richiede una posizione di “human over the loop“: il supervisore deve operare al di sopra del sistema di controllo, possedendo l’autorità, l’indipendenza e la comprensione tecnica necessarie per ritirare la delega alla macchina quando i parametri etici o di sicurezza vengono violati (Salgado-Criado, 2025, p. 290)⁷.

Implicazioni pratiche: 5 leve operative per l’HR Manager

Per trasformare l’Intelligenza Artificiale da rischio incontrollato a reale vantaggio competitivo, la funzione HR deve smettere di agire come semplice consumatore passivo di tecnologia e assumere il ruolo di architetto del processo.

Ecco cinque leve operative per governare questa transizione.

1. Governance proattiva e audit continui: L’adozione di strumenti AI non è un’operazione informatica, è una trasformazione organizzativa. Occorre strutturare team multidisciplinari (HR, legali, data scientist, rappresentanti dei lavoratori) per valutare l’impatto dei sistemi automatizzati. Il monitoraggio non si esaurisce con l’acquisto del software.

2. Oltre la “Human-in-the-loop”: affermare la supervisione consapevole. Le organizzazioni devono progettare flussi di lavoro in cui il manager abbia il potere reale e la sicurezza psicologica per contraddire l’algoritmo. Introdurre occasionalmente scelte o valutazioni casuali nei set di dati proposti all’operatore costringe la mente a rimanere vigile, contrastando la pigrizia cognitiva. La supervisione deve garantire che l’algoritmo agisca come strumento di supporto alla decisione, lasciando all’essere umano la piena responsabilità legale ed etica dell’esito finale.

3. Bonifica dei dataset e selezione delle metriche: L’accuratezza di un modello predittivo dipende esclusivamente dalla qualità dei dati con cui viene nutrito. Prima di implementare un sistema AI, l’HR deve mappare i dati storici a disposizione, domandandosi quali disuguaglianze latenti vi siano codificate. È indispensabile rimuovere variabili che nascondono dati sensibili (come l’indirizzo di residenza o gli anni di interruzione della carriera, spesso legati a maternità o cura familiare) e definire metriche di successo che valorizzino la diversità, non la mera somiglianza con i top performer del passato.

4. Trasparenza radicale: Il rifiuto di una candidatura, l’esclusione da un piano talenti o un punteggio negativo di performance generati da un algoritmo devono poter essere spiegati. La trasparenza deve operare su due livelli: una spiegazione “globale” sul funzionamento generale del modello e sui dati che utilizza, e una spiegazione “locale” relativa alla singola decisione presa sul singolo individuo. L’opacità dei sistemi “scatola nera” distrugge la fiducia dei collaboratori e mina alla base il patto psicologico con l’impresa.

5. Formare al dubbio e al pensiero critico: Le competenze necessarie all’HR del futuro non si limitano alla data science. Bisogna addestrare selezionatori e manager alla “resistenza cognitiva”, insegnando loro a contestare attivamente le raccomandazioni del software. Stimolare l’approccio del “contro-argomentare”, ovvero imporre, per esempio, all’utente di scrivere le ragioni per cui l’algoritmo potrebbe avere torto prima di convalidarne la scelta.

Domande da farsi prima di usare l’AI

Prima di integrare un nuovo sistema predittivo nei processi di gestione del personale, i Leader aziendali e i team HR dovrebbero porsi le seguenti domande:

I dati storici che addestrano questo algoritmo riflettono la diversità che vogliamo costruire o replicano i pregiudizi del nostro passato?
Quali caratteristiche umane complesse questo strumento sta inevitabilmente riducendo a un semplice numero o a una percentuale?
Come misureremo l’efficacia del modello senza cadere nella trappola delle profezie che si autoavverano?
Il sistema è in grado di adattarsi dinamicamente per garantire sistemazioni ragionevoli per esempio a candidati con disabilità o percorsi atipici?
Siamo in grado di spiegare in modo chiaro e comprensibile a un candidato o a un dipendente le ragioni esatte per cui l’algoritmo ha preso una specifica decisione su di lui?
Abbiamo strutturato il processo in modo che il manager abbia un incentivo reale a contraddire la macchina, o lo stiamo spingendo implicitamente ad accettare passivamente il risultato?
Chi sarà ritenuto concretamente responsabile, a livello aziendale e legale, qualora l’Intelligenza Artificiale dovesse discriminare sistematicamente un gruppo di individui?

Oltre lo specchio digitale

L’Intelligenza Artificiale oltre ad essere un argomento di cui occuparci, non è un oracolo infallibile. È uno specchio ad altissima risoluzione che riflette, amplifica e accelera la natura delle nostre organizzazioni, con tutte le loro imperfezioni, i bias latenti e le disuguaglianze stratificate nel tempo.

Delegare alla macchina la risoluzione dei complessi dilemmi legati al talento umano è la via più rapida per un disastro etico e reputazionale.

Il futuro delle Risorse Umane non appartiene alle Aziende che sostituiranno il giudizio umano con la potenza di calcolo, appartiene a quelle che sapranno utilizzare la tecnologia per aumentare la consapevolezza, sfidare le proprie certezze e costruire processi più equi.

Non abdicare al proprio ruolo richiede coraggio. Chiedetevi oggi stesso: nei vostri processi decisionali state usando l’Intelligenza Artificiale per elevare le capacità dei vostri manager, o state solo cercando il colpevole perfetto per la prossima scelta sbagliata?

***

FONTI

Articolo di Alessandro Samele – Guest Blogger di RisorseUmane-HR.it

Alessandro Samele

Sono un Executive & Business Coach con oltre 20 anni di esperienza manageriale in posizioni di vertice e Leadership strategica. Master NLP Practitioner, mBIT Professional Certified Coach, Assessor iWAM - Extended DISC, affianco manager e team nel potenziare performance, consapevolezza e capacità di guidare il cambiamento.

altri articoli di questo autore

Risorse aggiuntive

Potrebbero interessarti anche questi articoli

Career Cloning: quando le organizzazioni assumono (e promuovono) se stesse: Come i sistemi di selezione e valutazione tendono a replicare i profili “già visti”, riducendo diversità, innovazione e capacità di cambiare davvero.
L’ “Effetto Alone” nella valutazione dei candidati: i selezionatori sono esseri umani: Perché un singolo segnale positivo può contaminare tutta la valutazione e come evitare scorciatoie che falsano la lettura delle competenze.
Debiasing HR: tecniche per mitigare i bias cognitivi nelle Risorse Umane: Tecniche pratiche per ridurre distorsioni decisionali nella selezione, dalla struttura dei colloqui alle checklist, fino alle revisioni tra pari.
L’IA è troppo sicura di sé? Attenzione ai bias nelle risorse umane: Quando la fiducia nell’output del sistema cresce più della comprensione del modello e aumenta il rischio di decisioni errate ma “ben confezionate”.
Intelligenza Artificiale e Consapevolezza Umana: Un taglio più riflessivo sul rapporto tra tecnologia e consapevolezza, utile per leggere cosa l’AI amplifica nelle organizzazioni.
HR Human or Robotic? L’illusione dell’oggettività. Oltre l’algoritmo: Uno sguardo sui rischi etici e organizzativi dell’automazione in HR, con attenzione alla responsabilità e alla qualità della supervisione.

Libri consigliati

Anna Rado e Alberto Giusti, AI per HR: Come l’intelligenza artificiale sta rivoluzionando le Risorse Umane e il futuro del lavoro, Brè, 2025.
Questo volume esplora applicazioni pratiche dell’AI nei processi HR, dai bias nei dataset storici alla supervisione umana, con case study reali che riecheggiano il caso Amazon e le leve operative che proponi. – nostra intervista agli autori
Alessandra Lazazzara e Stefano Za, Intelligenza artificiale nei processi HR: Una gestione aumentata del personale, Franco Angeli, 2025
Analizza distorsioni come l’effetto alone amplificato dall’AI, rischi di riduzionismo quantitativo e l’importanza di “human over the loop”, offrendo framework per audit etici e trasparenza. – nostra intervista agli autori
Fabio Chiriatti, Incoscienza artificiale: Come fanno le macchine a prevedere per noi, Luiss University Press, 2021.
Critica l’illusione dell’oggettività algoritmica, approfondendo automation bias, profezie autoavveranti e necessità di dubbio critico negli HR manager, in linea con le tue domande guida.

Daniel Kahneman, Pensieri lenti e veloci, Mondadori, 2020 Esplora i due sistemi di pensiero – veloce (intuitivo, soggetto a bias come similarity attraction e halo effect) e lento (razionale) – spiegando come la pigrizia cognitiva favorisca scorciatoie mentali nelle decisioni HR.
Cathy O’Neil, Armi di distruzione matematica, Bompiani, 2017. Denuncia come algoritmi opachi (“armi matematiche”) amplifichino pregiudizi nei dati storici, perpetuando discriminazioni in contesti come recruitment e people analytics, simile al caso Amazon

Glossario

Automation bias: tendenza ad accettare il suggerimento del sistema come “corretto”, riducendo controllo critico e verifica delle informazioni.
Errori di omissione: mancata individuazione di problemi o anomalie perché il sistema non segnala alert o eccezioni.
Errori di commissione: esecuzione del suggerimento automatizzato anche quando il contesto lo contraddice o lo rende inappropriato.
Similarity attraction bias: preferenza per candidati simili a chi valuta (background, stile, interessi), con effetto omologante su assunzioni e promozioni.
Effetto alone (halo effect): un singolo tratto positivo influenza l’intera valutazione, oscurando evidenze contrarie o carenze rilevanti.
Bias blind spot: convinzione di essere più obiettivi degli altri e difficoltà a riconoscere i propri pregiudizi nel momento in cui agiscono.
People analytics: uso di dati e modelli per descrivere o prevedere fenomeni HR (performance, turnover, potenziale), con rischi di proxy fuorvianti.
Proxy (metrica indiretta): indicatore “sostitutivo” della realtà (es. email o tempi di risposta come produttività) che può semplificare troppo e distorcere il giudizio.
Profezia che si autoavvera: la previsione influenza gli investimenti e le opportunità, producendo l’esito che il modello aveva previsto.
Human over the loop: supervisione umana sopra il sistema, con autorità e competenza per correggere, sospendere o revocare la delega tecnologica.

FAQ

1) L’AI elimina davvero i bias nella selezione?

No. Se addestrata su dati storici distorti, tende a replicare e amplificare quei bias, presentandoli come “oggettivi” perché numerici.

2) Che cos’è l’automation bias in HR?

È la tendenza a fidarsi troppo del suggerimento del sistema (ranking, score, shortlist) e a ridurre la verifica critica, soprattutto sotto pressione.

3) Qual è la differenza tra errori di omissione e di commissione?

Omissione: non si nota un problema perché il sistema non lo segnala. Commissione: si esegue un suggerimento errato ignorando segnali contrari o buon senso.

4) Perché “human-in-the-loop” può non bastare?

Perché il “controllo umano” rischia di diventare una firma automatica. Serve autorità reale, tempo e competenza per mettere in discussione l’output.

5) Cosa significa usare metriche proxy in people analytics?

Significa misurare indirettamente un fenomeno complesso con indicatori parziali. Se i proxy sono deboli o distorti, la decisione diventa fragile.

6) Qual è la prima misura pratica per ridurre i rischi?

Progettare la governance: audit periodici, criteri chiari di override, tracciabilità delle decisioni e formazione al dubbio per chi usa il sistema.