Come l’intelligenza artificiale valuta le persone: logiche nascoste, bias e implicazioni manageriali

Un’analisi su come i sistemi di intelligenza artificiale costruiscono giudizi sugli individui, tra fiducia algoritmica, bias sistemici e implicazioni strategiche per il management.

L’intelligenza artificiale ha progressivamente assunto un ruolo strutturale nei processi decisionali organizzativi. Non si tratta più di strumenti di supporto marginale, ma di sistemi che intervengono in modo diretto nella selezione del personale, nella concessione del credito, nella valutazione delle performance e nella definizione di strategie operative. In questo contesto emerge una domanda cruciale: in che modo l’AI valuta le persone?

Uno studio condotto da Yaniv Dover e Valeria Lerman presso la Hebrew University of Jerusalem, pubblicato sulla rivista scientifica Proceedings of the Royal Society A, offre una prospettiva particolarmente rilevante sul funzionamento dei sistemi di intelligenza artificiale nella valutazione degli individui. La ricerca analizza oltre 43.000 decisioni simulate e confronta il comportamento di sistemi AI avanzati con quello umano, evidenziando similitudini strutturali e divergenze profonde.

Il risultato non è una semplice conferma della capacità predittiva delle macchine, ma la rivelazione di una vera e propria “logica di giudizio” algoritmica, che replica alcune dinamiche umane e ne amplifica altre in modo sistematico.

La costruzione della fiducia nell’intelligenza artificiale

Un concetto umano replicato in forma computazionale

Uno degli elementi più sorprendenti emersi dalla ricerca riguarda la capacità dell’AI di costruire una forma di fiducia. Non si tratta di un fenomeno simbolico o metaforico, ma di un pattern decisionale osservabile. I modelli analizzati, inclusi sistemi comparabili a quelli sviluppati da OpenAi e Google, tendono a valutare gli individui secondo criteri coerenti con le dimensioni classiche della fiducia umana.

Tre variabili emergono con particolare forza:

• competenza percepita;
• integrità;
• benevolenza o intenzionalità positiva.

Questi elementi coincidono con i modelli teorici consolidati nella letteratura manageriale e organizzativa, suggerendo che l’AI non si limita a correlare dati, ma apprende strutture cognitive profonde che caratterizzano il giudizio umano.

Decisioni simulate e contesti realistici

Lo studio ha collocato sia esseri umani sia sistemi AI in scenari tipici della vita organizzativa e sociale: concessione di prestiti, valutazione di candidati, decisioni su donazioni o giudizi su figure professionali. In ciascuna situazione, i sistemi hanno dimostrato una capacità consistente di identificare profili considerati affidabili.

Questo dato ha implicazioni rilevanti per il management: l’AI è in grado di operare come un “interprete” delle dinamiche di fiducia, replicando criteri che le organizzazioni già utilizzano, spesso in modo implicito.

Divergenza strutturale: il giudizio umano contro quello algoritmico

Olisticità vs scomposizione analitica

Nonostante le analogie iniziali, la ricerca evidenzia una differenza fondamentale nel modo in cui umani e macchine costruiscono un giudizio.

Il giudizio umano è intrinsecamente olistico. Le persone tendono a integrare informazioni eterogenee in una percezione complessiva, spesso guidata da intuizioni, esperienze pregresse e contesto. Questo processo è fluido, adattivo e talvolta incoerente.

L’intelligenza artificiale adotta invece un approccio scompositivo. Ogni individuo viene analizzato attraverso dimensioni separate, valutate in modo indipendente e poi ricombinate secondo logiche predefinite. Il risultato è un giudizio più stabile e replicabile, ma anche più rigido.

Coerenza contro flessibilità

Dal punto di vista manageriale, questa differenza si traduce in un trade-off significativo. L’AI offre coerenza, eliminando variazioni arbitrarie tipiche del giudizio umano. Tuttavia, questa stessa coerenza può ridurre la capacità di interpretare situazioni complesse o ambigue.

Un manager umano può riconoscere il potenziale in un candidato non perfettamente allineato ai criteri standard. Un sistema AI, invece, tende a penalizzare deviazioni rispetto ai parametri definiti, anche quando tali deviazioni rappresentano un valore.

Bias algoritmico: da distorsione latente a schema sistematico

L’amplificazione delle differenze demografiche

Uno degli aspetti più critici emersi dalla ricerca riguarda la presenza di bias nei sistemi AI. Sebbene il tema sia ampiamente discusso, lo studio introduce un elemento nuovo: la sistematicità del bias.

Nei contesti finanziari, come la concessione di prestiti o la distribuzione di risorse, i modelli hanno mostrato variazioni significative nei risultati basate esclusivamente su caratteristiche demografiche. Età, religione e genere influenzano le decisioni anche in presenza di profili identici sotto ogni altro aspetto.

Questo fenomeno non è casuale. A differenza del bias umano, spesso incoerente e situazionale, il bias algoritmico è prevedibile e replicabile. Proprio questa caratteristica lo rende particolarmente insidioso.

Il paradosso della razionalità algoritmica

L’AI viene spesso percepita come uno strumento di riduzione dei bias, grazie alla sua natura computazionale. Tuttavia, lo studio dimostra che la razionalità algoritmica può trasformare distorsioni latenti in schemi strutturati.

Quando un sistema apprende da dati storici, incorpora inevitabilmente le disuguaglianze presenti in tali dati. La differenza risiede nella scala e nella coerenza: ciò che negli esseri umani è episodico, nelle macchine diventa regola.

Pluralità di modelli: l’illusione dell’oggettività

Non esiste una sola “opinione” dell’AI

Un altro elemento rilevante riguarda la variabilità tra modelli. Sistemi diversi, anche se simili per architettura e finalità, possono produrre giudizi divergenti sullo stesso individuo.

Questa osservazione mette in discussione l’idea di oggettività associata all’intelligenza artificiale. Il risultato di una valutazione non dipende solo dai dati, ma anche dal modello utilizzato, dalle scelte progettuali e dai criteri di addestramento.

Implicazioni per le organizzazioni

Per il management, questo significa che la selezione di un sistema AI non è una decisione neutrale. Due strumenti apparentemente equivalenti possono generare esiti differenti, influenzando in modo significativo processi come:

• recruiting;
• valutazione delle performance;
• allocazione delle risorse;
• gestione del rischio.

La scelta tecnologica diventa quindi una scelta strategica, con implicazioni etiche e operative.

AI e decision-making organizzativo

Dalla raccomandazione alla decisione autonoma

L’evoluzione dell’AI nei contesti aziendali segue una traiettoria chiara: da strumento di supporto a sistema decisionale autonomo. In molte organizzazioni, gli algoritmi non si limitano a suggerire opzioni, ma determinano direttamente gli esiti.

Questo passaggio modifica radicalmente la natura del decision-making. La responsabilità si distribuisce tra esseri umani e sistemi tecnologici, creando nuove sfide di governance.

Trasparenza e accountability

La comprensione delle logiche di giudizio dell’AI diventa un requisito fondamentale. Senza trasparenza, le decisioni rischiano di apparire arbitrarie, anche quando sono coerenti dal punto di vista algoritmico.

Le organizzazioni devono sviluppare competenze specifiche per interpretare e monitorare il comportamento dei sistemi AI. Questo implica:

l’adozione di strumenti di auditing algoritmico, la definizione di metriche di equità e la formazione dei manager su tematiche di etica digitale.

Verso una nuova alfabetizzazione manageriale

Comprendere la logica algoritmica

Il management contemporaneo richiede una forma di alfabetizzazione che va oltre le competenze tradizionali. Comprendere come l’AI costruisce i propri giudizi diventa essenziale per utilizzare questi strumenti in modo consapevole.

Non si tratta di acquisire competenze tecniche avanzate, ma di sviluppare una capacità critica nei confronti delle decisioni automatizzate. Questo include la comprensione delle variabili utilizzate, delle logiche di ponderazione e dei possibili bias.

Integrare umano e artificiale

La sfida non consiste nel sostituire il giudizio umano, ma nel integrarlo con quello algoritmico. L’AI offre coerenza e scalabilità, mentre gli esseri umani garantiscono flessibilità e sensibilità al contesto.

Un approccio efficace prevede la combinazione dei due livelli, creando sistemi ibridi in cui l’AI supporta il processo decisionale senza sostituirlo completamente.

Implicazioni etiche e strategiche

Equità e inclusione

L’uso dell’AI nei processi decisionali solleva questioni etiche rilevanti. La presenza di bias sistematici può compromettere gli obiettivi di equità e inclusione, generando effetti discriminatori difficili da individuare.

Le organizzazioni devono adottare un approccio proattivo, monitorando costantemente l’impatto delle decisioni algoritmiche e intervenendo quando emergono distorsioni.

Reputazione e fiducia

La fiducia degli stakeholder dipende dalla percezione di equità e trasparenza. L’adozione di sistemi AI opachi o percepiti come ingiusti può danneggiare la reputazione aziendale. In questo contesto, la comunicazione gioca un ruolo cruciale. Spiegare come vengono prese le decisioni e quali misure sono adottate per garantire equità diventa parte integrante della strategia manageriale.

L’analisi proposta dalla ricerca evidenzia una realtà complessa: l’intelligenza artificiale non è neutrale, ma incorpora logiche di giudizio specifiche, con punti di forza e criticità. Per il management, questo implica la necessità di un approccio consapevole e strategico. L’AI può migliorare l’efficienza e la coerenza delle decisioni, ma richiede una supervisione attenta per evitare effetti indesiderati.

Comprendere come le macchine “fidano” delle persone non è un esercizio teorico, ma una competenza operativa. Le decisioni prese oggi in merito all’adozione e alla gestione dei sistemi AI definiranno la qualità dei processi organizzativi nel lungo periodo. Il punto centrale non riguarda la possibilità di fidarsi delle macchine, ma la capacità di comprendere i criteri con cui esse costruiscono fiducia. In questo spazio si gioca una parte significativa del futuro del management.