Redazione RHC : 9 Ottobre 2024 17:05
Giorno dopo giorno, scopriamo nuovi modi per effettuare attacchi all’intelligenza artificiale direttamente dal campo. Questa volta però, un hacker ha divulgato i prompt di input degli utenti destando grossa preoccupazione.
Un hacker si è introdotto in Muah.ai, un sito web che consente agli utenti di creare i propri partner sessuali virtuali “senza censura”, e ha rubato un enorme database di interazioni degli utenti con i chatbot.
La fuga di notizie comprendeva query contenenti fantasie sessuali, compresi scenari legati al CSAM. Sebbene non sia chiaro se il sistema di intelligenza artificiale fosse in grado di rispondere a tali richieste, i dati mostrano che gli utenti hanno tentato di utilizzare la piattaforma per tali scopi.
Iscriviti GRATIS ai WorkShop Hands-On della RHC Conference 2025 (Giovedì 8 maggio 2025)
Il giorno giovedì 8 maggio 2025 presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terranno i workshop "hands-on", creati per far avvicinare i ragazzi (o persone di qualsiasi età) alla sicurezza informatica e alla tecnologia. Questo anno i workshop saranno:
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
L’hacker ha dichiarato a 404 Media che Muah.ai è scarsamente protetto e consiste in diversi progetti open source messi insieme. L’hack è iniziato per curiosità, ma dopo aver scoperto il contenuto del database, l’hacker ha deciso di informare i giornalisti. Ha anche sottolineato di aver scoperto le vulnerabilità piuttosto rapidamente.
L’amministratore del sito, che si fa chiamare Harward Khan, ha dichiarato che l’hack è stato organizzato da concorrenti “spinti dalla brama di profitto”, mentre Muah.ai è un progetto orientato alla comunità. L’hack è stato scoperto la settimana scorsa, ma Khan non ha fornito prove delle sue parole. L’hacker, invece, ha dichiarato di lavorare nel campo dell’informatica ma di non essere legato allo sviluppo dell’intelligenza artificiale.
L’hack ha creato seri rischi per gli utenti di Muah.ai, poiché le loro fantasie sessuali possono ora essere collegate a indirizzi e-mail personali, molti dei quali sembrano essere account personali con nomi reali. La fuga di notizie contiene anche query che descrivono fantasie di dominazione sessuale, tortura e coercizione. 404 Media ha contattato diversi utenti i cui dati sono stati compromessi, ma nessuno di loro ha fornito commenti.
Dopo la scoperta dell’hack, sul server Discord è apparso un post sull’attacco hacker. Il post confermava l’attacco e affermava che i dati della chat non vengono memorizzati e vengono cancellati dopo un reset. Tuttavia, il database sembra contenere molte informazioni che collegano gli utenti alle loro richieste.
Il collettivo di ricerca in sicurezza informatica HackerHood, parte dell’universo della community di Red Hot Cyber, ha recentemente scoperto due nuove vulnerabilità ...
La Cina introdurrà corsi di intelligenza artificiale per gli studenti delle scuole primarie e secondarie questo autunno. L’iniziativa prevede che i bambini a partire dai sei anni imparino ...
L’imageboard di 4chan è praticamente inattivo da lunedì sera (14 aprile), apparentemente a causa di un attacco hacker. I membri dell’imageboard Soyjak party (noto anche semplic...
Apple ha rilasciato patch di emergenza per correggere due vulnerabilità zero-day. Secondo l’azienda, questi problemi sono stati sfruttati in attacchi mirati ed “estremamen...
Quanto accaduto in questi giorni deve rappresentare un campanello d’allarme per l’Europa.Mentre il programma CVE — pilastro della sicurezza informatica globale — rischiava ...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006