L'intelligenza artificiale non può rilevare linguaggio, emozioni e livello di stress dei dipendenti in azienda

L'intelligenza artificiale è entrata da tempo nelle aziende della moda italiana, tantissime le sue applicazioni, dall'ecommerce alla gestione degli ordini, e molti gli sviluppi futuri. Quel che è certo, almeno per ora, è che non potrà essere impiegata per rilevare linguaggio, emozioni e livello di stress dei dipendenti. Non che i dipendenti e i collaboratori delle griffe ne siano immuni, anzi: la moda è un sistema complesso in cui creatività, ritmi intensi, competitività, esposizione mediatica possono incidere negativamente sul loro benessere (a dicembre 2025, per esempio, è stato costituito il Cem, Comitato Etico Moda, ente del terzo settore che nasce a Milano proprio per promuovere una cultura del lavoro più sana e trasparente).

A mettere un freno preventivo all'utilizzo dell'Ia nelle questioni emotive e di stress dei dipendenti è stato il Garante per la protezione dei dati personali.

L'Autorità, infatti, con il Provvedimento del 14 maggio 2026 (10255494) ha inviato un avvertimento a una startup italiana che ha sviluppato un componente aggiuntivo (plug-in) per le piattaforme di messaggistica aziendale Slack e Teams, finalizzato a rilevare, tramite intelligenza artificiale e analisi semantica delle chat, il livello di stress psicologico dei lavoratori che decidano volontariamente di utilizzarlo per ricevere suggerimenti personalizzati.

Il Garante pone l'attenzione sui rischi dell’impiego di tecnologie basate su modelli linguistici, che possono produrre risultati non trasparenti con effetti discriminatori dei diritti dei lavoratori

Le verifiche dell’Autorità, avviate a seguito di notizie di stampa, hanno evidenziato che la startup tratta i dati degli utenti del servizio in qualità di titolare del trattamento. Il datore di lavoro che acquista il servizio, invece, non può accedere né ai contenuti delle comunicazioni analizzate né ai risultati individuali elaborati dal sistema.

Considerata tuttavia la particolare delicatezza dei dati trattati, sottolinea, in una nota, il Garante per la protezione dei dati personali, nonché la possibilità di fornire ai datori di lavoro report aggregati sul livello di stress dei dipendenti, il Garante ha invitato la società ad adottare, sin dalla progettazione del servizio, misure adeguate a prevenire ogni rischio di accesso, anche indiretto, a informazioni relative alla sfera emotiva dei lavoratori.

Si tratta, infatti, di informazioni che il datore di lavoro non può legittimamente acquisire o trattare, in base alla normativa privacy, allo Statuto dei lavoratori e al Regolamento europeo sull’intelligenza artificiale, che vieta l’uso di sistemi di Ia destinati a dedurre o analizzare le emozioni delle persone nei contesti lavorativi.

Il Garante, conclude la nota, ha infine richiamato i rischi legati all’impiego di tecnologie basate su modelli linguistici e analisi semantica, che possono produrre risultati non sempre trasparenti, spiegabili o verificabili, con possibili effetti discriminatori o lesivi dei diritti dei lavoratori.

Nel provvedimento, il Garante ritiene "opportuno evidenziare che l’utilizzo di sistemi di intelligenza artificiale richiede di considerare anche le implicazioni sostanziali derivanti dalla capacità di tali tecnologie di generare inferenze ulteriori, talvolta anche non immediatamente prevedibili o controllabili, rispetto ai dati originariamente trattati. Tale capacità inferenziale – propria dei modelli di machine learning e, in particolare, dei sistemi basati su analisi semantica e modelli linguistici – impone un approccio particolarmente cauto, soprattutto nei casi in cui i risultati derivino da processi di correlazione e classificazione caratterizzati da ridotta interpretabilità, che rendono il percorso logico-decisionale dell’algoritmo non immediatamente comprensibile o verificabile".

L’adozione dell'Intelligenza artificiale richiede un approccio prudente e consapevole

"In questa prospettiva, l’affidabilità dei modelli, la qualità e la rappresentatività dei dati, nonché la trasparenza e la spiegabilità (explainability) delle logiche di funzionamento non costituiscono meri aspetti tecnici ma rappresentano condizioni essenziali per prevenire forme di trattamento invasive e non conformi alla disciplina di protezione dei dati. L’assenza di tali garanzie produce, infatti, il rischio di un affidamento sugli output algoritmici, generati attraverso pattern statistici e modelli predittivi, che, ove non adeguatamente verificato, è foriero di possibili effetti distorsivi, amplificazione dei bias e margini di errore non sempre agevolmente rilevabili, in particolare laddove il sistema presenti profili di opacità o limitata spiegabilità. Ciò, peraltro, in taluni contesti di trattamento contraddistinti da particolare delicatezza e dalla presenza di interessati vulnerabili, può comportare effetti pregiudizievoli nonché discriminazione, con conseguenze, talvolta irrimediabili, in relazione all’identità e alla dignità della persona", si legge nel provvedimento".

"Ne consegue che l’adozione di tali tecnologie richiede un approccio prudente e consapevole, fondato su una valutazione concreta delle implicazioni derivanti dal loro utilizzo, sulla robustezza dei modelli, sulla qualità dei dati di addestramento e sulla verificabilità degli output, assicurando in ogni caso garanzie informative adeguate e un controllo umano effettivo, in grado di intervenire e incidere sul processo decisionale, idoneo a mitigare i rischi connessi all’automatizzazione dei processi decisionali", aggiunge il Garante per la protezione dei dati personali.