Papa Francesco in piumino: come le AI stanno sollevando preoccupazioni sul futuro dell’informazione

Redazione RHC : 31 Marzo 2023 09:22

La rete neurale di Midjourney ha nuovamente fatto rumore ed è entrata in tendenza. Pubblicata su Twitter questo fine settimana, un’immagine di Papa Francesco con un piumino alla moda è diventata improvvisamente virale e si è diffusa rapidamente su Internet.

Apparentemente, molte persone credevano davvero che questa fosse un’immagine reale. 

Sulla scia della popolarità di questa notizia, molti stessi utenti di Internet hanno iniziato a generare immagini del “Papa col piumino”, e quindi ora Internet pullula semplicemente di varianti di questa immagine/tendenza. 

Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class", previsto per febbraio.
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.
Non perdere i nostri corsi e scrivi subito su WhatsApp al numero
379 163 8765  per richiedere informazioni "

Supporta RHC attraverso:

• L'acquisto del fumetto sul Cybersecurity Awareness
• Ascoltando i nostri Podcast
• Seguendo RHC su WhatsApp
• Seguendo RHC su Telegram
• Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab

Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.

L’immagine originale che ha dato inizio a tutto è in basso a sinistra.

Poco dopo che post simili sono stati ampiamente condivisi, Twitter ha iniziato ad aggiungere un avviso contestuale che recita: “Questa è un’immagine generata dall’intelligenza artificiale di Papa Francesco. Questa non è una vera foto”.

Le politiche di Twitter affermano che gli utenti “non possono condividere in modo fraudolento media sintetici o manipolati che potrebbero causare danni”. Anche se in questo caso il confine tra danno e parodia può sembrare sfocato.

A una rapida occhiata, molte fotografie false sembrano abbastanza realistiche. 

Ma con uno studio attento, la generazione può ancora essere notata. La notizia ha suscitato una risonanza particolare, tra l’altro, perché Papa Francesco è noto per i suoi abiti modesti, e quindi un piumino alla moda, probabilmente di un marchio noto era qualcosa di poco verosimile.

Il servizio di immagini che gli autori hanno utilizzato per creare immagini false di Papa Francesco, Midjourney, ha debuttato lo scorso anno. Insieme a Stable Diffusion e DALL-E, questo è uno dei tre principali modelli di sintesi di immagini attualmente esistenti, forniscono un livello accettabile di generazione. 

Tutte e tre le reti neurali consentono agli utenti di creare immagini utilizzando solo descrizioni di testo, chiamate “suggerimenti”. Puoi creare cose davvero assurde che possono sembrare estremamente realistiche, motivo per cui le reti neurali sono diventate così popolari e allo stesso tempo pericolose.

Midjourney è stato recentemente aggiornato alla versione 5 e ha fatto un enorme salto nel fotorealismo, rendendo scene complesse piene di dettagli da spunti relativamente semplici. Pertanto, su Internet, puoi spesso imbatterti in generazioni di immagini di questa rete neurale (anche noi di RHC utilizziamo Midjourney), poiché sono immagini che possono essere contestualizzate agli argomenti e semplicemente realizzabili e prive di copyright.

Come abbiamo già notato, il rapido sviluppo delle reti neurali potrebbe presto dare origine a un livello incontrollato di fake news, dove sarà difficile comprenderne l’autenticità. Le grandi menti di oggi stanno già suonando l’allarme e firmando petizioni per frenare il rapido sviluppo di reti neurali basate su testo come ChatGPT. 

È probabile che presto lo sviluppo di Midjourney venga bannato allo stesso modo. Tuttavia, sappiamo che il progresso non è così facile da fermare, indipendentemente da ciò che promette all’umanità.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.