Immagine di un imputato per omicidio usata come modello per Shein: un monito sui rischi dell'Ia

L'immagine di Luigi Mangione, accusato dell'omicidio dell'amministratore delegato di UnitedHealthcare, ha iniziato a circolare online qualche mese fa, trasformandolo in una strana e inaspettata icona per cui le donne facevano la fila davanti al tribunale.

Il salto definitivo alla viralità è avvenuto quando la sua immagine è stata proiettata in una discoteca di Boston durante una festa a tema Disney, sulle note di "He Could Be the One" di Hannah Montana. Una canzone che parla dell'emozione e della confusione che prova la protagonista quando si rende conto che qualcuno di speciale potrebbe essere quello giusto per lei.

Questa settimana, la sua immagine è apparsa in un altro luogo inaspettato: come modello per un prodotto sul sito web di Shein. Ma è impossibile che Mangione abbia posato per questa campagna, dato che si trova in carcere.

“L'immagine è stata condivisa da un fornitore esterno ed è stata rimossa immediatamente non appena identificata. Shein applica standard rigorosi per tutti i contenuti della piattaforma", ha spiegato l'azienda a FashionUnited. “Stiamo conducendo una revisione completa, rafforzando ulteriormente i nostri sistemi di controllo, e prenderemo i provvedimenti necessari nei confronti del fornitore, in conformità con le nostre politiche”.

Una svista tecnica che mette in evidenza i rischi dell'automazione e la fragilità dei sistemi di controllo su piattaforme con cataloghi infiniti.

Un volto nell'era dell'Ia

Com'è possibile che l'immagine di un imputato per omicidio finisca per diventare quella di un modello di catalogo? La risposta sta nei sistemi di addestramento dell'intelligenza artificiale. Quando un volto diventa virale, la sua presenza nei database aperti, nei forum o negli archivi poco regolamentati, con cui vengono addestrate alcune Ia, si moltiplica. Da quel momento, strumenti a basso costo possono “imparare” a utilizzare queste immagini senza tener conto del contesto.

Nel caso di Shein, gran parte del contenuto proviene da fornitori esterni, che spesso cercano scorciatoie tecnologiche per produrre rapidamente grandi quantità di materiale promozionale. È quindi possibile che un fornitore abbia utilizzato uno strumento di Ia a basso costo, senza controllare il risultato finale.

Sebbene l'intelligenza artificiale offra indubbi vantaggi per il commercio e la moda, il settore deve puntare su soluzioni più accurate e trasparenti per prevenire incidenti che potrebbero danneggiarne la reputazione. H&M, ad esempio, ha fatto ricorso all'uso di gemelli digitali. Questi modelli digitali, creati a partire da persone reali che cedono, a fronte di un compenso, il diritto di ricreare e sfruttare la propria immagine in modo controllato, garantiscono sia i diritti dei modelli sia la tracciabilità dei contenuti, mantenendo l'innovazione senza perdere il controllo.

D'altra parte, Desigual sta sviluppando la propria strategia insieme a partner specializzati.

Questo articolo è stato pubblicato originariamente sulle altre edizioni di FashionUnited e tradotto in italiano usando un tool di intelligenza artificiale.

FashionUnited ha implementato strumenti di intelligenza artificiale per ottimizzare la traduzione degli articoli sulle nostre piattaforme. Con una rete globale di giornalisti attivi in oltre 30 mercati, forniamo business intelligence e contenuti aggiornati in 9 lingue.

Questo permette ai nostri giornalisti di dedicare più tempo alla ricerca di notizie e alla stesura di articoli esclusivi.

Prima della pubblicazione, le traduzioni assistite dall'intelligenza artificiale vengono sempre riviste da un redattore. Se avete domande o commenti su questo processo, contattateci pure all'indirizzo info@fashionunited.com.