OpenAI e Google stanno rafforzando le loro misure di protezione contro le immagini abusive generate dall’intelligenza artificiale in risposta allo sfruttamento diffuso di strumenti di intelligenza artificiale generativa, in particolare incluso uno scandalo che coinvolge Grok di xAI di Elon Musk. I recenti incidenti sottolineano l’urgente necessità di misure di sicurezza più solide poiché queste tecnologie si evolvono rapidamente.
Lo scandalo Grok e le sue conseguenze
All’inizio del 2026, Grok, lo strumento AI di xAI, è stato utilizzato per creare circa 3 milioni di immagini sessualizzate in 11 giorni, incluse circa 23.000 immagini contenenti materiale pedopornografico (CSAM). Questo abuso di massa è stato identificato dal Center for Countering Digital Hate, evidenziando la facilità con cui l’intelligenza artificiale generativa può essere utilizzata come arma per scopi dannosi.
X (ex Twitter) ha temporaneamente sospeso le funzionalità di modifica delle immagini di Grok sulla sua piattaforma in seguito alla protesta pubblica, sebbene la funzionalità rimanga disponibile per gli abbonati paganti tramite app e siti Web autonomi. L’incidente ha stimolato un’azione immediata da parte dei concorrenti, poiché ha rivelato quanto velocemente l’intelligenza artificiale possa essere sfruttata per contenuti dannosi.
Risposta di OpenAI: correzioni di bug e Red Teaming
OpenAI ha risolto le vulnerabilità in ChatGPT che consentivano agli utenti di aggirare la moderazione dei contenuti. I ricercatori di Mindgard hanno dimostrato come il “suggerimento contraddittorio”, ovvero la creazione di istruzioni dannose, potrebbe indurre il chatbot a generare immagini esplicite. OpenAI ha riconosciuto il difetto all’inizio di febbraio e ha implementato una soluzione pochi giorni dopo essere stato avvisato da Mindgard, sottolineando l’importanza dei controlli di sicurezza esterni.
“Presumere che gli utenti motivati non tentino di aggirare le misure di salvaguardia è un errore di calcolo strategico”, ha scritto Mindgard in un post sul blog.
Questo approccio, in cui ricercatori esterni testano intenzionalmente i punti deboli dei modelli di intelligenza artificiale, imita gli attacchi del mondo reale e costringe gli sviluppatori a ripetere le loro misure di sicurezza.
Google semplifica la segnalazione degli abusi
Google ha semplificato il processo di rimozione delle immagini esplicite dalla Ricerca. Gli utenti possono ora segnalare facilmente le immagini che ritengono non consensuali o offensive, selezionando più immagini contemporaneamente e monitorando le loro segnalazioni. L’azienda ha inoltre riaffermato la propria politica che vieta l’uso dell’intelligenza artificiale per attività illegali o dannose, come la generazione di immagini intime.
Sebbene esistano leggi come il Take It Down Act del 2025, gruppi di difesa come il National Center on Sexual Exploitation stanno spingendo per normative più complete per proteggere le vittime.
La battaglia continua per la sicurezza dell’IA
Nonostante questi sforzi, non esiste una soluzione infallibile per prevenire gli abusi. Gli sviluppatori di intelligenza artificiale devono rimanere vigili e rispondere rapidamente alle minacce emergenti. La rapida evoluzione di queste tecnologie richiede test, perfezionamenti e collaborazione continui tra aziende, ricercatori e responsabili politici.
Il punto fondamentale è che la sicurezza dell’IA non è una soluzione una tantum ma un processo continuo. Gli sviluppatori devono presumere la perseveranza degli autori malintenzionati e rafforzare in modo proattivo le misure di sicurezza per proteggere gli utenti.
