Microsoft bandisce l’uso della sua tecnologia per il riconoscimento facciale da parte della polizia

Microsoft ha inasprito le regole per l’utilizzo del suo servizio Azure OpenAI, vietando ai dipartimenti di polizia statunitensi di utilizzare l’intelligenza artificiale generativa per il riconoscimento facciale.

Le modifiche ai termini di servizio di mercoledì ora vietano esplicitamente l’uso del servizio Azure OpenAI per il riconoscimento facciale da parte della polizia, inclusa l’integrazione con i modelli di analisi delle immagini attuali e possibilmente futuri di OpenAI.

La nuova condizione si applica anche alla polizia di tutto il mondo, vietando specificamente l’uso della tecnologia di riconoscimento facciale in tempo reale sulle telecamere mobili, come le body camera o sui cruscotti delle auto, per identificare le persone in condizioni non monitorate.

Il cambiamento arriva una settimana dopo che Axon, produttore di tecnologia e strumenti militari per le forze dell’ordine, ha annunciato un nuovo prodotto. I critici hanno sottolineato potenziali problemi come modelli che generano informazioni fuorvianti e pregiudizi razziali nei dati di formazione, il che è particolarmente preoccupante data la maggiore probabilità che i neri vengano fermati dalla polizia rispetto ai bianchi.

Non è chiaro se Axon utilizzasse GPT-4 tramite il servizio Azure OpenAI o se le modifiche ai termini del servizio fossero in risposta al lancio del prodotto Axon. OpenAI ha precedentemente limitato l’uso dei suoi modelli per il riconoscimento facciale attraverso le sue API.

Le nuove condizioni lasciano a Microsoft un certo margine di manovra.

Il divieto generale di utilizzo del servizio Azure OpenAI si applica solo alla polizia statunitense e non si applica al riconoscimento facciale tramite telecamere fisse in ambienti controllati, come un ufficio, sebbene i termini vietino qualsiasi utilizzo della tecnologia di riconoscimento facciale da parte della polizia statunitense.

Ciò è coerente con il recente approccio di Microsoft e del suo stretto partner OpenAI nei confronti delle forze dell’ordine e dei contratti di difesa legati all’intelligenza artificiale.

OpenAI stava lavorando con il Pentagono su una serie di progetti, comprese le capacità di sicurezza informatica, un allontanamento dalla politica iniziale della startup di non fornire la propria intelligenza artificiale ai militari.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.