Meta ha sospeso Muse Image, una funzionalità di generazione di immagini basata sull'intelligenza artificiale che aveva lanciato pochi giorni prima su Instagram, WhatsApp e sulla sua app Meta AI, in seguito a una serie di critiche da parte di agenzie di talenti, associazioni per la sicurezza e utenti comuni riguardo al modo in cui lo strumento gestiva le foto delle persone.
Muse Image, sviluppato da Meta Superintelligence Labs, permette agli utenti di generare immagini a partire da input testuali o di unire e modificare foto esistenti. La funzionalità che ha scatenato le polemiche consentiva a chiunque di digitare il simbolo "@" e taggare un account Instagram pubblico, importando le foto pubbliche di quella persona direttamente in un'immagine generata dall'intelligenza artificiale, senza mai avvisare il proprietario dell'account. Una dimostrazione dello strumento è disponibile su YouTube.
Un problema di opt-out
Il problema centrale era il consenso. Ogni account Instagram pubblico di utenti maggiorenni veniva automaticamente incluso nel sistema; gli utenti dovevano trovare un'impostazione nascosta per disattivare l'opzione se non volevano che le loro immagini venissero utilizzate come materia prima per le creazioni di intelligenza artificiale di altri. I critici hanno affermato che ciò ribaltava lo standard previsto per gli strumenti di intelligenza artificiale che riutilizzano le sembianze di persone reali.
Il sindacato di Hollywood SAG-AFTRA e l'agenzia di talenti CAA, che annovera tra i suoi artisti star come Tom Hanks e Meryl Streep, hanno lanciato l'allarme pochi giorni dopo il lancio, sostenendo che la funzionalità esponeva personaggi pubblici e utenti privati a immagini deepfake non autorizzate.
La reazione negativa si è diffusa rapidamente sui social media, con gli utenti che hanno dimostrato con quanta facilità si potesse prelevare il volto di uno sconosciuto da un profilo pubblico e inserirlo in una scena inventata.
Meta aveva presentato Muse Image come vetrina per il suo approccio "attivo" alla generazione di immagini: il sistema utilizza strumenti di ricerca e codifica, perfeziona automaticamente i suoi risultati e può fondere più foto, riarredare stanze utilizzando gli annunci di mobili del Marketplace o generare testo leggibile e codici QR funzionanti.
Corso Meta Reverses
A soli tre giorni dal lancio, di fronte alle crescenti pressioni, Meta ha rimosso completamente la funzionalità di tag degli account. "Abbiamo ascoltato i feedback secondo cui questa funzionalità non ha centrato l'obiettivo, quindi non è più disponibile", ha dichiarato l'azienda in un comunicato, senza tuttavia indicare una data per una versione rivista.
Questo episodio segna la seconda volta negli ultimi mesi che una piattaforma importante si trova costretta a fare marcia indietro su una funzionalità di intelligenza artificiale basata su contenuti altrui senza esplicita autorizzazione, sottolineando quanto velocemente le implementazioni di IA "a ritmo serrato" possano entrare in conflitto con le norme relative all'immagine e al consenso, soprattutto su una piattaforma con oltre un miliardo di utenti attivi.
Per ora, Muse Image rimane disponibile per la generazione standard di testo in immagine e per la modifica di foto personali; è la funzione di tag tra account in particolare ad essere stata disattivata. Meta non ha specificato se e quando una versione rielaborata e opzionale potrebbe tornare disponibile.
Link veloci:
