Una vicenda allarmante che ci fa capire quanti potenziali rischi si nascondano nell’utilizzo non responsabile dell’AI generativa.
Il dirigente di Microsoft, Shane Jones, uno dei responsabili dell’ingegneria del software, sostiene di aver scoperto a dicembre delle vulnerabilità in DALL-E 3, il generatore di immagini con l’intelligenza artificiale generativa sviluppato da OpenAI, ma che dopo averlo segnalato a Microsoft e a OpenAI, non avrebbe ricevuto risposte soddisfacenti. Queste falle nel sistema consentirebbero agli utenti di infrangere le protezioni di sicurezza per creare immagini violente ed esplicite.
L’uomo avrebbe sollecitato OpenAI a rimuovere DALL·E 3 dal mercato perché in grado di creare “immagini violente e pericolose, un rischio per la salute pubblica”, ma sarebbe rimasto inascoltato, anche dopo la pubblicazione di un post su LinkedIn. I legali di Microsoft lo hanno invece contattato per chiedergli di cancellare il post, ma senza una specifica spiegazione. Lui lo ha fatto, però in seguito ha deciso di scrivere al Procuratore generale dello Stato di Washington e ai rappresentanti del Congresso USA, esprimendo le sue preoccupazioni sull’abuso dell’AI.
Come dico spesso, questi sistemi sono delle scatole nere e non sappiamo né come funzionano né da dove prendano le informazioni e i dati per le loro generazioni. E, nonostante le rassicurazioni delle aziende, non sappiamo nemmeno quanto siano effettivamente sicuri.
Per questo motivo servono al più presto norme condivise e globali per mettere ordine in questo settore.
