Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
I bot del popolare messenger Telegram che creano immagini pornografiche basate su fotografie sono diventati un vero problema, nonostante i tentativi dei legislatori e delle società IT di combatterli.
L’esperto di deepfake Henry Eider nel 2020 ha scoperto uno dei primi robot in grado di “spogliare” immagini di donne utilizzando l’intelligenza artificiale. Secondo lui, all’epoca furono create più di 100.000 fotografie esplicite, comprese immagini di bambini. Questo caso è stato una pietra miliare significativa che ha dimostrato a cosa possono portare i deepfake.
Da allora, la tecnologia si è evoluta e ora su Telegram puoi trovare decine di bot che offrono di creare immagini di nudo o pornografiche in pochi clic. Un recente studio di WIRED ha identificato almeno 50 bot di questo tipo, alcuni dei quali particolarmente popolari, con oltre 400.000 utenti. Allo stesso tempo, in totale tutti questi bot contano circa 4 milioni di utenti attivi al mese.
Aider sottolinea che il numero di persone che utilizzano tali strumenti è aumentato notevolmente, soprattutto rispetto al 2020. Nota che tali tecnologie rappresentano una seria minaccia, soprattutto per le ragazze e le donne, e sono ancora facilmente accessibili tramite Telegram. I bot che violano la privacy sono spesso accompagnati da canali in cui gli utenti possono iscriversi agli aggiornamenti su nuove funzionalità e offerte.
Sebbene Telegram abbia rimosso 75 bot e canali correlati in seguito alle domande di WIRED, il problema non è scomparso. Nuovi bot continuano ad apparire nonostante i tentativi della piattaforma di combatterli. Secondo Elena Michael, direttrice della campagna #NotYourPorn, Telegram è difficile da monitorare e moderare, rendendo la piattaforma particolarmente pericolosa per le vittime della violenza deepfake.
In particolare, la maggior parte dei bot richiede agli utenti di acquistare token per creare immagini e le regole contro il caricamento di immagini senza consenso sono limitate. Inoltre, Telegram fornisce funzioni di ricerca che facilitano la ricerca e l’utilizzo di tali bot.
Mentre in diversi paesi vengono adottate misure legislative e le aziende IT aggiornano le proprie politiche, Telegram rimane una delle piattaforme chiave su cui continuano a diffondersi immagini deepfake.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Innovazione
Cybercrime
Vulnerabilità
Innovazione
Cyber Italia