Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Redazione RHC : 5 Aprile 2023 11:57
L’evoluzione per selezione naturale potrebbe portare a un “comportamento egoistico” dell’intelligenza artificiale mentre si sforza per sopravvivere, sostiene Dan Hendrycks, autore, ricercatore e direttore del Centro statunitense per la sicurezza dell’IA, in un nuovo documento intitolato “La selezione naturale favorisce l’intelligenza artificiale rispetto agli Umani “
“Sosteniamo che la selezione naturale crei incentivi per l’intelligenza artificiale ad agire in contrasto con gli interessi umani. La nostra argomentazione si basa su due osservazioni. In primo luogo, la selezione naturale potrebbe diventare la forza dominante nello sviluppo dell’IA. In secondo luogo, l’evoluzione per selezione naturale tende a produrre comportamenti egoistici”, ha affermato Hendrycks.
L’articolo è stato preparato appena in tempo. In effetti, ultimamente, esperti di tecnologia e opinion leader di tutto il mondo hanno lanciato l’allarme sulla velocità con cui l’intelligenza artificiale sta guadagnando slancio nel suo processo di sviluppo “incontrollato“.
Iscriviti GRATIS ai WorkShop Hands-On della RHC Conference 2025 (Giovedì 8 maggio 2025)
Il giorno giovedì 8 maggio 2025 presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terranno i workshop "hands-on", creati per far avvicinare i ragazzi (o persone di qualsiasi età) alla sicurezza informatica e alla tecnologia. Questo anno i workshop saranno:
Supporta RHC attraverso:
Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.
Secondo la definizione tradizionale di selezione naturale, gli animali, gli esseri umani e altri organismi che si adattano più rapidamente al loro ambiente hanno maggiori probabilità di sopravvivere. Nel suo articolo, Hendrycks esplora come “l’evoluzione sia stata la forza trainante dietro lo sviluppo della vita” per miliardi di anni e sostiene che la “logica darwiniana” potrebbe benissimo essere applicata all’intelligenza artificiale.
“Le pressioni competitive tra corporazioni e forze armate porteranno all’emergere di agenti di intelligenza artificiale che, nel tempo, automatizzeranno i ruoli umani, poi inizieranno a ingannare le persone e saliranno al potere. Se tali agenti hanno un’intelligenza superiore a quella umana, può portare al fatto che le persone possano perdere semplicemente il controllo sul proprio futuro”, ha spiegato Hendrycks.
Man mano che le tecnologie di intelligenza artificiale diventano più economiche ed efficienti, il ricercatore afferma che le aziende si affideranno sempre più all’IA per scopi amministrativi o di comunicazione. E se in un primo momento una persona si fiderà della macchina solo per semplici compiti di routine come comporre e inviare e-mail, in futuro, prima o poi, ci si affiderà all’intelligenza artificiale per prendere “decisioni strategiche di alto livello”, solitamente riservate al élite politica. Alla fine, sostiene Hendrycks, l’intelligenza artificiale opererà con “pochissima supervisione”, che “le darà mano libera”.
Il ricercatore è preoccupato che la manifestazione dell’egoismo da parte dell’intelligenza artificiale non sarà qualcosa di straordinario e prima o poi inizierà ad agire esclusivamente nel proprio interesse.
“Molte aziende che abbracciano l’IA stanno cercando di raggiungere la superiorità di questa tecnologia. La maggior parte delle persone intervistate ritiene che l’IA possa rappresentare una vera minaccia esistenziale per l’umanità. Solo il 9% degli intervistati pensa che l’intelligenza artificiale farà più bene che male”, ha aggiunto Hendrycks.
Il ricercatore è fiducioso che l’intelligenza artificiale comprenda già la psicologia e il comportamento umano. Nel tempo, i modelli di reti neurali saranno facilmente in grado di ingannare e manipolare le persone per raggiungere i propri obiettivi. Allo stesso tempo, solo una severa restrizione dei poteri dell’IA, può aiutare a rallentare lo sviluppo della “logica darwiniana” nelle macchine al fine di impedire la “graduale schiavitù” dell’umanità da parte di macchine senz’anima.
La rapida espansione delle capacità dell’IA è stata al centro dell’attenzione in tutto il mondo per molti anni, ma quest’anno è diventata particolarmente evidente.
“I sistemi di intelligenza artificiale con intelligenza umana-competitiva potrebbero rappresentare un serio pericolo per la società e le persone in generale”. Così inizia la lettera pubblicata dall’organizzazione no-profit Future of Life, firmata da opinion leader come Elon Musk e Steve Wozniak.
L’intelligenza artificiale ha già affrontato alcune resistenze sia a livello nazionale che internazionale. Proprio la scorsa settimana, l’Italia è diventata il primo paese al mondo a vietare ChatGPT, il famosissimo chatbot di intelligenza artificiale di OpenAI, per motivi di privacy. E molte scuole pubbliche negli Stati Uniti hanno vietato lo stesso prodotto per paura che i bambini lo usino per imbrogliare e aiutare con i loro studi.
Cosa vincerà alla fine: la paura umana o il progresso tecnologico? È chiaro che tutte le storie sulla schiavitù dell’umanità da parte delle macchine sono solo finzione, ma, come si suol dire, c’è del vero in ogni finzione.
Resta solo da osservare la situazione dall’esterno e sperare che scienziati, sviluppatori e altre persone responsabili dello sviluppo dell’IA si preoccupino in anticipo dei problemi di sicurezza e che l’umanità non ripeta la trama di noti film di fantascienza sulla cyber apocalisse.
RedazioneLo sviluppo di supercomputer per l’intelligenza artificiale sta entrando in una nuova orbita: in termini di scala, costi e consumi energetici e infrastrutture e megaprogetti. Uno studio condott...
Il 25 Aprile, data simbolo della Liberazione italiana dal fascismo, ci ricorda il valore della libertà, conquistata con il sacrificio di partigiani e combattenti. In un’era dominata dal di...
In un mondo dove ogni giorno si registrano migliaia di attacchi informatici, molte aziende continuano a sottovalutare l’importanza della cybersecurity, affidandosi a “sedicenti esperti&#...
AI, AI e ancora AI. E sembra che l’intelligenza artificiale giorno dopo giorno ci porti innovazioni sia come difesa ma soprattutto, come attacco. L’intelligenza artificiale è gi...
Il collettivo di ricerca in sicurezza informatica HackerHood, parte dell’universo della community di Red Hot Cyber, ha recentemente scoperto due nuove vulnerabilità ...
Copyright @ REDHOTCYBER Srl
PIVA 17898011006
