Allucinazioni delle AI. Mentre Google rincorre Microsoft, inizia a parlare di disinformazione delle intelligenze artificiali

La guerra delle AI passa dalla disinformazione. Sia quella umana che quella delle intelligenze artificiali. E siccome in questo caso Google sta rincorrendo, inizia a porre attenzione sull’importanza delle risposte dei robot AI.

Il vicepresidente senior di Google e capo della ricerca di Google, Prabhakar Raghavan, mette in guardia gli utenti sull’importanza di esaminare le informazioni ricevute dai chatbot basati sull’intelligenza artificiale.

La varietà di intelligenza artificiale di cui stiamo parlando a volte portano alla creazione di risposte fittizie, che chiamiamo allucinazioni, ha affermato Raghavan. Ha anche affermato che uno dei compiti importanti è ridurre al minimo tali casi.

Quando hanno allucinazioni, i robot IA forniscono risposte che sembrano autentiche ma non si basano in alcun modo sui fatti. Gli sviluppatori dovrebbero ridurre al minimo queste risposte da parte dei robot AI.

I ricercatori di sicurezza della società di sicurezza Check Point Research hanno affermato questa settimana, gli hacker hanno sviluppato un modo per aggirare le restrizioni di ChatGPT e lo stanno utilizzando per vendere servizi che consentono ai criminali informatici di creare malware ed e-mail di phishing.

È stato inoltre reso noto che OpenAI raccoglie un’ampia gamma di altre informazioni sugli utenti : indirizzi IP degli utenti; tipo di browser, le sue impostazioni; dati sull’interazione dell’utente con il sito; il tipo di contenuto con cui interagiscono; le funzionalità che utilizzano; azioni che intraprendono. 

Tutte queste informazioni possono essere raccolte liberamente da OpenAI in conformità con la politica sulla privacy dell’azienda.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.