Per paura che le AI sfuggano di mano, Open AI crea un team per limitare le AI super intelligenti

Redazione RHC : 6 Luglio 2023 14:00

OpenAI sta formando un nuovo team per sviluppare modi per gestire e controllare i sistemi di intelligenza artificiale “superintelligenti“. Ilya Sutskever, Chief Researcher e uno dei co-fondatori dell’azienda, guiderà il gruppo. 

OpenAI prevede che l’IA con un’intelligenza superiore a quella umana potrebbe emergere entro un decennio. E se dovesse mai apparire, potrebbe non essere necessariamente benevola, quindi è necessario esplorare i modi per controllare e limitare tale intelligenza artificiale.

Attualmente, OpenAI non dispone di una soluzione per gestire l’IA super intelligente e impedire che vada fuori controllo. Le attuali tecniche di condizionamento dell’IA, come l’apprendimento per rinforzo basato sul feedback umano, si basano sulla capacità degli esseri umani di controllare l’IA. 

Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class", previsto per febbraio.
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.
Non perdere i nostri corsi e scrivi subito su WhatsApp al numero
379 163 8765  per richiedere informazioni "

Supporta RHC attraverso:

• L'acquisto del fumetto sul Cybersecurity Awareness
• Ascoltando i nostri Podcast
• Seguendo RHC su WhatsApp
• Seguendo RHC su Telegram
• Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab

Ti piacciono gli articoli di Red Hot Cyber? Non aspettare oltre, iscriviti alla newsletter settimanale per non perdere nessun articolo.

Ma come faranno gli umani a controllare i sistemi di intelligenza artificiale che sono molto più intelligenti di loro?

A tal fine, OpenAI sta creando un nuovo team di Superalignment che avrà accesso al 20% delle capacità di calcolo dei server dell’azienda. Insieme a scienziati e ingegneri di OpenAI, nonché ricercatori di altre organizzazioni dell’azienda, il team risolverà i principali problemi tecnici della gestione dell’IA ultra-intelligente nei prossimi quattro anni.

Il team addestrerà i sistemi di intelligenza artificiale utilizzando il feedback umano, addestrerà l’IA per aiutare a valutare altri sistemi di intelligenza artificiale e infine creerà un’IA in grado di controllare le reti neurali in modo che non vadano fuori dai binari. L’ipotesi di OpenAI è che l’intelligenza artificiale possa effettuare dei controlli più velocemente e meglio degli umani. Le reti neurali lavoreranno a fianco degli umani per rendere i propri successori più in linea con gli umani.

Ma non sono sempre AI?

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.