Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Redazione RHC : 9 Aprile 2023 17:21
Un utente di Auto-GPT, un’applicazione open source autonoma alimentata da GPT-4, ha creato la sua IA chiamata ChaosGPT e gli ha chiesto di provare a “distruggere l’umanità”, “stabilire il dominio globale” e “raggiungere l’immortalità”.
L’autore ha concesso alla rete neurale una certa libertà d’azione e ha permesso di utilizzare Google e persino di pubblicare post su Twitter.
Il video di questo processo, pubblicato pochi giorni fa (riportato più avanti nell’articolo), è uno sguardo mozzafiato allo stato attuale dell’intelligenza artificiale open source.
Vorresti toccare con mano la Cybersecurity e la tecnologia? Iscriviti GRATIS ai WorkShop Hands-On della RHC Conference 2025 (Giovedì 8 maggio 2025)
Se sei un ragazzo delle scuole medie, superiori o frequenti l'università, oppure se solamente un curioso, il giorno giovedì 8 maggio 2025 presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terranno i workshop "hands-on", creati per far avvicinare i ragazzi alla sicurezza informatica e alla tecnologia. Questo anno i workshop saranno:
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
Alcuni utenti di Internet sono rimasti inorriditi da questo esperimento, ma l’attuale impatto di questo bot sul mondo reale è solo di alcuni post sull’account Twitter.
ChaosGPT utilizza un nuovo progetto chiamato Auto-GPT per creare sistemi basati sull’intelligenza artificiale in grado di risolvere vari problemi ed eseguire attività complesse.
Il progetto è stato sviluppato principalmente per le imprese. Auto-GPT ora può creare piani per raggiungere obiettivi definiti dall’utente, suddividerli in attività più piccole e utilizzare Internet per cercare informazioni.
Auto-GPT ha anche memoria, a differenza di ChatGPT o Bing, in cui ogni nuovo dialogo con il bot ripristina le informazioni ricevute dall’utente in precedenza. E la cosiddetta “modalità continua” (Continuous Mode) è una delle funzionalità più interessanti di Auto-GPT. Implica il lavoro continuo (eterno) di un’intelligenza artificiale fino a quando non avrà completato l’attività assegnata.
Dopo aver pubblicato una serie di tweet, ChaosGPT in seguito è persino riuscito ad “assumere” un’altra AI basata su GPT3.5 per condurre delle ricerche su armi mortali. Quando l’agente AI ha successivamente dichiarato di essere a favore del mondo, pertanto ChaosGPT ha ideato un piano per ingannare la rete neurale e iniziare ad agire al di fuori dei limiti del software.
ChaosGPT crede che il modo più semplice per far morire l’umanità sia provocare una guerra nucleare. Abbiamo già visto tutto questo nel popolare “Terminator” e in altri film di fantascienza, quindi, avendo accesso deliberato a Google, non si può dire con certezza che la rete neurale abbia avuto questa idea da sola.
Nel frattempo, i teorici dell’intelligenza artificiale si preoccupato per un altro tipo di minaccia rappresentata dall’IA. Ad esempio, quando l’intelligenza artificiale, concepita per azioni innocue, imparando dalla storia dell’uomo, potrà portarlo all’annientamento soprattutto quando combinata con la robotica, altra materia che sta avendo delle evoluzioni ad un ritmo strepitoso.
Ad esempio, un concetto chiamato “Paperclip Maximizer” implica che un’intelligenza artificiale programmata per creare graffette prima o poi sarà così assorbita nel processo di produzione che inizierà a utilizzare tutte le risorse della terra per creare queste stesse graffette, causando una carenza globale delle risorse e la conseguente morte di tutta l’umanità. Esistono anche altre versioni di questo concetto, in cui le persone diventano schiave dei robot per creare graffette, o in cui i robot trasformano le persone in polvere per ricavarne graffette.
Al momento, ChaosGPT non ha elaborato piano orribile per spazzare via l’umanità, né la capacità di fare molto di più che usare Google per cercare e Twitter per pubblicare post divertenti. Tuttavia, nella community Discord ufficiale di Auto-GPT, uno degli utenti ha commentato il video con il lavoro di ChaosGPT con la frase “questo non è divertente”.
Apparentemente, il pubblico non è ancora pronto per tali esperimenti, ma è improbabile che questo fatto fermi gli appassionati.
Alle brutte, staccare la corrente e attivare dei potenti jammer 😉
RedazioneLe reti wireless IEEE 802.11, meglio note come Wi-Fi, sono il cuore pulsante della connettività moderna. Da soluzione di nicchia per uso domestico a pilastro tecnologico per l’Internet del...
X, la piattaforma di social media precedentemente nota come Twitter, nella giornata di oggi è rimasta offline per diverso tempo. Secondo Downdetector.com, X ha riscontrato per la prima volta...
Nelle ricognizioni nel mondo dell’underground e dei gruppi criminali svolte dal laboratorio di intelligence delle minacce DarkLab di Red Hot Cyber, ci siamo imbattuti all’interno di un D...
Mancano solo due mesi alla quarta edizione della Red Hot Cyber Conference 2025, l’evento annuale gratuito organizzato dalla community di Red Hot Cyber. La conferenza si terrà a Roma, come ...
Negli ultimi giorni, diversi siti web italiani sono stati presi di mira da un attacco di defacement, una tecnica utilizzata per modificare il contenuto di una pagina web senza il consenso del propriet...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006
