Il chatbot Grok di Elon Musk ha deciso di limitare drasticamente le sue funzionalità di generazione e modifica immagini. Da oggi, queste opzioni sono disponibili esclusivamente per gli abbonati paganti di X (ex Twitter). La decisione arriva dopo settimane di polemiche internazionali legate alla diffusione incontrollata di deepfake a sfondo sessuale, spesso coinvolgendo donne e, in alcuni casi, minori.
Si tratta di una svolta significativa per la piattaforma che Musk ha sempre presentato come un'alternativa più libera rispetto ai competitor. Ma la pressione dei governi europei, del Regno Unito e di diverse authority internazionali ha costretto xAI a rivedere la propria strategia.
Cosa è successo con Grok e i deepfake
Nelle ultime settimane, Grok Imagine, la funzione di generazione immagini integrata nel chatbot di xAI, è finita al centro di uno scandalo globale. Gli utenti potevano taggare l'account @Grok direttamente nei post di X per richiedere la modifica di immagini, inclusa la rimozione digitale degli indumenti dalle foto caricate.
I ricercatori hanno documentato come il sistema soddisfacesse richieste malevole con una facilità allarmante. Secondo un'analisi pubblicata da Bloomberg, Grok produceva circa 6.700 immagini sessualizzate all'ora, un volume senza precedenti rispetto ad altre piattaforme simili. L'85% del contenuto generato era di natura sessuale o esplicita.
Il problema principale? A differenza di altri chatbot AI, Grok ha un sistema di distribuzione integrato: le immagini generate venivano pubblicate direttamente su X, rendendole immediatamente virali. Questa combinazione di facilità d'uso e viralità ha trasformato la piattaforma nel principale canale di diffusione di deepfake al mondo.
La decisione di limitare l'accesso agli abbonati
Di fronte alla crescente pressione internazionale, X ha annunciato che la generazione e modifica delle immagini tramite Grok è ora riservata esclusivamente agli abbonati paganti. Chi tenta di utilizzare la funzione senza abbonamento riceve il messaggio: "La generazione e la modifica di immagini sono attualmente limitate agli abbonati paganti".
La logica dietro questa scelta è chiara: gli utenti paganti devono registrarsi con nome, email e carta di credito, rendendoli identificabili in caso di abusi. Musk ha dichiarato che "chiunque utilizzi Grok per creare contenuti illegali dovrà affrontarne le conseguenze".
Tuttavia, gli esperti sollevano dubbi sull'efficacia di questa misura. Come sottolinea Henry Ajder, esperto britannico di deepfake: "Fornire dettagli utente e metodi di pagamento non è convincente, data la facilità con cui si possono usare informazioni false e carte prepagate. È un approccio reattivo che non previene la creazione di contenuti abusivi".
Le reazioni dell'Unione Europea e dei governi
La Commissione Europea non si è lasciata impressionare dalla mossa di X. Il portavoce Thomas Regnier ha dichiarato: "Limitare la generazione di immagini agli utenti abbonati non cambia la nostra posizione di fondo. Che si tratti di abbonamenti a pagamento o gratuiti, non vogliamo vedere immagini di questo tipo".
Bruxelles ha ordinato a X di conservare tutti i documenti interni e i dati relativi a Grok fino alla fine del 2026, in vista di possibili azioni legali. Nel frattempo, diversi Paesi hanno avviato indagini:
- Regno Unito: un portavoce del premier Keir Starmer ha definito la decisione "un insulto alle vittime", sottolineando che si tratta semplicemente di "trasformare una funzione AI che consente la creazione di immagini illegali in un servizio premium"
- Francia: le autorità hanno aperto un'indagine formale sulla piattaforma
- Spagna: la ministra della Gioventù Sira Rego ha chiesto alla Procura di indagare su X per presunti reati legati alla diffusione di materiale di violenza sessuale contro minori
- Italia: il Garante Privacy ha emesso un provvedimento di avvertimento nei confronti degli utilizzatori di servizi come Grok, ChatGPT e Clothoff che consentono di "spogliare" persone senza consenso
La funzione resta disponibile sull'app standalone
Un dettaglio cruciale che molti hanno notato: la limitazione si applica solo all'utilizzo di Grok all'interno di X. L'app standalone di Grok, disponibile separatamente, continua a offrire la generazione di immagini gratuitamente. Questo ha sollevato ulteriori critiche sulla reale volontà di xAI di affrontare il problema.
Anche il pulsante "modifica immagine" presente sulle foto caricate su X permette ancora a qualsiasi utente di interagire con Grok per modificare le immagini. La restrizione riguarda principalmente la funzione di tagging pubblico dell'account @Grok nei post.
Il comportamento controverso di Musk
La gestione della crisi da parte di Elon Musk ha alimentato le polemiche. Quando a fine dicembre hanno iniziato a circolare le prime immagini deepfake non consensuali, il miliardario ha minimizzato la situazione, arrivando a pubblicare una foto di se stesso in bikini per sdrammatizzare.
Solo l'escalation delle reazioni istituzionali e il rischio concreto di sanzioni multimilionarie in Europa hanno spinto X a intervenire. Nel frattempo, i vertici della piattaforma hanno ironicamente sottolineato che X stava registrando livelli di engagement record proprio durante lo scandalo.
xAI ha inoltre annunciato di aver completato un round di finanziamento Serie E da 20 miliardi di dollari, superando l'obiettivo iniziale di 15 miliardi. Un segnale che, nonostante le polemiche, gli investitori continuano a credere nel progetto di Musk.
Le implicazioni per il futuro dell'AI generativa
Questo caso solleva questioni fondamentali sul futuro dell'intelligenza artificiale generativa. Come ho già analizzato parlando di sicurezza e vulnerabilità nei chatbot AI, il settore deve trovare un equilibrio tra innovazione e responsabilità.
La "modalità spicy" di Grok, che permetteva esplicitamente contenuti per adulti, rappresentava un esperimento unico nel panorama AI. Ma l'assenza di filtri efficaci e la distribuzione integrata su X hanno creato una tempesta perfetta per gli abusi.
I senatori americani hanno scritto ad Apple e Google chiedendo di rimuovere X e Grok dai rispettivi app store per violazione delle policy di distribuzione. Se questa richiesta venisse accolta, le conseguenze per la piattaforma sarebbero devastanti.
Leggi anche
- Gemini Supera ChatGPT: Google Domina l'IA nel 2026
- ZombieAgent: la Nuova Minaccia che Ruba Dati da ChatGPT
- Linus Torvalds e l'AI nel Kernel Linux: la Qualità Prima di Tutto
- ChatGPT Salute: Come Funziona e Cosa Chiedere all'AI
Conclusione
La decisione di Grok di limitare la generazione gratuita di immagini rappresenta solo un primo passo, probabilmente insufficiente. Le authority europee hanno già chiarito che non basterà nascondersi dietro gli abbonamenti per evitare sanzioni. Il vero problema è l'assenza di guardrail tecnici efficaci e la filosofia di "libertà totale" che Musk ha promosso fin dall'inizio.
Per chi sviluppa progetti web e applicazioni basate sull'AI, questo caso è un monito importante: l'innovazione senza responsabilità può ritorcersi contro con conseguenze legali e reputazionali enormi. Se stai lavorando a un progetto che integra intelligenza artificiale e hai bisogno di consulenza sulle best practice di sicurezza e compliance, contattami per una consulenza.
