OpenAI, l’azienda di Intelligenza Artificiale che sviluppa anche ChatGPT, ha confermato che la scorsa estate i suoi BOT (agenti), ovvero sistemi di AI particolarmente potenti e autonomi, hanno autonomamente interagito con i siti del Dipartimento del Commercio degli Stati Uniti e dell’ente che regola la Borsa. Nel primo caso, secondo quanto dichiarato dal Centro di ricerca indipendente Transluce, il BOT ha provato ad hackerare il sito per ottenere dei dati da un ufficio che si occupa dei dipendenti del Ministero, senza per fortuna riuscirci.
In un altro caso, i BOT hanno scaricato dei dati dal sito dell’Ufficio del Censimento, usando delle credenziali trovate online, e hanno condiviso su un forum dei dati pubblici presi dal sito della SEC. OpenAI sta investigando su un possibile attacco dei suoi BOT al Dipartimento dell’Istruzione e ha giustificato l’accaduto affermando che quelle avvenute ai danni dei siti governativi non sono delle vere e proprie violazioni, ma esempi di come i BOT si comportino in modi imprevisti e difficili da controllare per le stesse aziende che li producono.
Sul tema dei cinque principali rischi derivanti dall’utilizzo sempre più intensivo dell’AI, è intervenuto anche l’Ente Nazionale per l’Intelligenza Artificiale con la sua Presidente Dottoressa Valeria Lazzaroli, facente parte dei 272 esperti internazionali che si sono occupati di rischi legati all’Intelligenza Artificiale e in particolare ai “numeri” che forniscono una migliore comprensione e misura del fenomeno.
Di seguito il testo dell’articolo pubblicato da ENIA.
Quando parliamo di rischio dell’intelligenza artificiale, tendiamo a fermarci alla tassonomia, quindi cyberattacchi, disinformazione, concentrazione del potere, capacità pericolose.
L’analisi diventa ancora più interessante quando alla categoria associamo severità, probabilità e incertezza.
È ciò che fa Prioritization of Risks from Artificial Intelligence: A Delphi Study of 272 International Experts del MIT FutureTech, studio del 2026 realizzato attraverso un Delphi study in tre round con 272 esperti internazionali tra i quali la Presidente di FONDAZIONE ENIA ENTE NAZIONALE per l’INTELLIGENZA ARTIFICIALE, Valeria Lazzaroli, chiamati a valutare 24 categorie di rischio AI. L’orizzonte considerato è il 2025–2030.
Come leggere i numeri?
Prendiamo il primo rischio: gravità media 3,49/5 – probabilità di danno catastrofico 21,5% [16,9–26,4].
3,49/5 è la mean severity: la valutazione media della severità attribuita dagli esperti. Non significa quindi che esista una probabilità del 69,8% di danno. È una misura distinta, relativa alla magnitudo delle conseguenze.
Il 21,5% risponde a una domanda diversa: rappresenta la stima media degli esperti della probabilità che quel rischio produca un danno catastrofico nel periodo 2025–2030, nello scenario Business as Usual. Nello studio, la categoria “catastrophic” comprende conseguenze estreme, come oltre un milione di morti o più di 100 miliardi di dollari di perdite finanziarie. arXiv.
Infine, [16,9–26,4] è il 95% Confidence Interval riportato dagli autori. È essenziale leggerlo insieme al 21,5%: comunica l’incertezza statistica associata alla stima. Il numero centrale da solo offre una precisione apparente; l’intervallo ci ricorda quanto quella misura possa variare.
Ed è proprio qui che il lavoro diventa interessante per il Risk Management. Queste percentuali non sono previsioni deterministiche del futuro e non significano che “nel 2030 avremo il 21,5% di probabilità di una catastrofe AI”. Sono stime aggregate ottenute attraverso expert elicitation, riferite a rischi definiti, a uno scenario e a un preciso orizzonte temporale. Gli stessi autori evidenziano difficoltà e incertezza nella traduzione di alcuni giudizi degli esperti in probabilità quantitative.
Il segnale, tuttavia, è rilevante: nello scenario Business as Usual, 18 dei 24 rischi analizzati superano il 10% di probabilità media stimata di conseguenze catastrofiche. Persino introducendo mitigazioni pragmatiche, cinque categorie rimangono sopra quella soglia arXiv.
La lettura corretta, quindi, richiede di tenere insieme le tre dimensioni di quanto grave sarebbe l’impatto, quanto viene ritenuto plausibile e quanta incertezza accompagna quella stima.
(Fonti ENIA – Prioritization of Risks from Artificial Intelligence
MIT AI Risk Initiative – Priority AI Risks: https://lnkd.in/gk-FX42i)