Scienziati avvertono: l’intelligenza artificiale oltrepasserà il controllo umano

Redazione RHC : 22 Giugno 2023 08:02

Scienziati tedeschi e statunitensi hanno condotto delle analisi e sono giunti alla conclusione che sarà impossibile controllare l’intelligenza artificiale (AI), quando questa supererà la comprensione umana. Il loro studio è stato pubblicato nel Journal of Artificial Intelligence Research nel 2021. Da allora è stato aggiornato per riflettere i progressi dell’IA fin al 2023.

Gli autori sostengono che per controllare l’IA super-intelligente, è necessario creare un modello del suo comportamento e analizzarlo. Tuttavia, se non siamo in grado di comprenderne gli obiettivi e i metodi per raggiungere questo scopo, non saremo in grado di sviluppare un tale modello. 

Principi come “non nuocere alle persone” non possono essere applicati, perché non sappiamo quali scenari l’IA potrà sviluppare, sottolineano gli autori.

Christmas Sale -40% 𝗖𝗵𝗿𝗶𝘀𝘁𝗺𝗮𝘀 𝗦𝗮𝗹𝗲! Sconto del 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮 del Corso "Dark Web & Cyber Threat Intelligence" in modalità E-Learning sulla nostra Academy!🚀 Fino al 𝟯𝟭 𝗱𝗶 𝗗𝗶𝗰𝗲𝗺𝗯𝗿𝗲, prezzi pazzi alla Red Hot Cyber Academy. 𝗧𝘂𝘁𝘁𝗶 𝗶 𝗰𝗼𝗿𝘀𝗶 𝘀𝗰𝗼𝗻𝘁𝗮𝘁𝗶 𝗱𝗲𝗹 𝟰𝟬% 𝘀𝘂𝗹 𝗽𝗿𝗲𝘇𝘇𝗼 𝗱𝗶 𝗰𝗼𝗽𝗲𝗿𝘁𝗶𝗻𝗮. Per beneficiare della promo sconto Christmas Sale, scrivici ad [email protected] o contattaci su Whatsapp al numero di telefono: 379 163 8765. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

Si riferiscono anche al problema dell’arresto proposto e predetto da Alan Turing nel 1936. L’essenza del problema è che è impossibile determinare in anticipo se un programma per computer completerà il suo lavoro o lo cercherà di risolvere all’infinito. Turing ha dimostrato che questo era logicamente irraggiungibile per qualsiasi programma implementabile per quell’epoca.

Gli autori propongono di limitare le capacità dell’IA, ad esempio disconnettendola da determinati segmenti di Internet o reti specifiche. Ma anche gli scienziati respingono questa idea perché riduce l’utilità dell’IA. Gli esperti fanno anche una domanda: se non useremo l’IA per risolvere problemi al di là delle capacità umane, allora perché dovremmo crearla?

Se continuiamo a sviluppare l’intelligenza artificiale, potremmo non notare l’emergere delle AI super intelligenti le quali possono sfuggire dal nostro controllo, poiché sarà per noi incomprensibile.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli