GPT-4o, l’ultima versione del chat bot dell’azienda californiana OpenAI, è stata lanciata pubblicamente nel mese di maggio di quest’anno. Prima del suo rilascio, OpenAI ha coinvolto un gruppo esterno di esperti di sicurezza, noti come red teamer, allo scopo di individuare eventuali vulnerabilità nel modello. Si tratta di una pratica abbastanza comune nel settore informatico, a maggior ragione per quanto riguarda l’Intelligenza artificiale.

Recentemente OpenAI ha pubblicato la sua scheda di sistema di GPT-4o, un documento che illustra le misure di sicurezza e le valutazioni dei rischi effettuate dall’azienda prima del rilascio del suo ultimo modello di Intelligenza artificiale. E i risultati collocano l’applicazione a un livello di rischio considerato “medio”.

Il livello complessivo di rischio è stato determinato tra quattro categorie principali

In pratica, gli esperti hanno esaminato rischi come la possibilità che GPT-4o potesse creare cloni non autorizzati della voce di qualcuno, contenuti erotici e violenti, o segmenti di audio protetto da copyright. Ora, i risultati di queste valutazioni sono stati resi pubblici. 

Secondo il quadro di valutazione di OpenAI, i ricercatori hanno classificato GPT-4o appunto come a “rischio medio”.
Il livello complessivo di rischio è stato determinato dal più alto grado di rischio tra quattro categorie principali, che comprendono sicurezza informatica, minacce biologiche, persuasione e autonomia del modello.

I testi potrebbero influenzare le opinioni dei lettori più efficacemente dei testi scritti da esseri umani

Tutte queste categorie sono state valutate a basso rischio, eccetto la persuasione, dove è stato riscontrato che alcuni campioni di testo prodotti da GPT-4o potevano influenzare le opinioni dei lettori più efficacemente dei testi scritti da esseri umani, anche se nel complesso i campioni del modello non erano più persuasivi.

Di fatto, riferisce Adnkronos, ci sono state molte richieste affinché OpenAI sia più trasparente, non solo riguardo ai dati di addestramento del modello, ma anche sui test di sicurezza.

Una proposta di legge per regolare i modelli di linguaggio di grandi dimensioni

In California, dove hanno sede OpenAI e molti altri laboratori che si occupano di Intelligenza artificiale, il senatore statale Scott Wiener sta cercando di far approvare una legge per regolare i modelli di linguaggio di grandi dimensioni, inclusi vincoli che renderebbero le aziende legalmente responsabili se la loro Intelligenza artificiale venisse utilizzata in modi dannosi.

Se la legge sarà approvata, i modelli di Intelligenza artificiale di OpenAI dovranno conformarsi alle valutazioni del rischio imposte dallo Stato prima di essere resi disponibili al pubblico.