Oggi un laboratorio biologico raramente coincide con l’immagine consolidata nel tempo. Il wet lab resta centrale tra campioni, reagenti, strumenti, sistemi di contenimento, ma una quota crescente del lavoro si sposta a monte e a valle di quel banco con fasi fondamentali come la revisione della letteratura, la generazione di ipotesi, il molecular design, la pianificazione degli esperimenti e l’analisi dei risultati. In ciascuna di queste fasi, l’intelligenza artificiale interviene con sistemi automatizzati o semi-automatizzati che cominciano a estendersi fino all’esecuzione fisica. In questo continuum tra calcolo e materia biologica, il terreno vede nascere l’AI-Bio Risk.
I numeri, pur restando indicatori imperfetti, aiutano a misurarne la portata e la salienza dichiarata dell’AI, ma, sicuramente, non il numero di esperimenti pericolosi che produce. Tra il 2010 e il 2024 le pubblicazioni all’intersezione tra AI e biologia sono cresciute, a seconda del criterio di classificazione, di 40-80 volte. Nelle startup biotech passate attraverso Y Combinator, la presenza di componenti AI è salita dal 29% delle coorti 2018-2019, all’88% di quelle 2025-2026. Nei filing SEC statunitensi, le co-occorrenze tra i termini artificial intelligence e biotechnologysono aumentate di oltre cento volte in un decennio. Il quadro che ne emerge è che l’AI, come in tantissimi altri settori, penetra la ricerca biologica più rapidamente di quanto la sua governance riesca a seguirla.
Il beneficio scientifico, come facilmente intuibile, non è in discussione, ma quando la funzione di produzione della capacità cresce più in fretta della funzione di controllo, il risk management accende la sirena e segnala la potenzialità del pericolo.
Facciamo una distinzione tra Biosafety e Biosecurity per comprendere meglio
La biosafety, secondo ISO 35001:2019, riguarda le pratiche e i controlli che riducono il rischio di esposizione o rilascio involontario di materiali biologici e, quindi, contenimento, competenza degli operatori, formazione, livelli BSL, apprendimento sistematico da incidenti e near miss. La biosecurity presidia, invece, il positive control, ossia, chi possiede un materiale, dove si trova, chi può accedervi e tutto ciò per prevenire perdita, furto, diversione, uso improprio o rilascio non autorizzato. Nel funzionamento reale dei laboratori, questa distinzione è visibilmente assottigliata perchè, utilizzando un esempio, un inventario accurato serve alla biosecurity, perché permette di sapere dove si trova un materiale pericoloso, e serve alla biosafety, perché riduce la probabilità che venga smarrito, etichettato male o manipolato senza le precauzioni necessarie. Quindi provenance e audit trail per ricostruire chi ha richiesto, autorizzato, trasferito ed eseguito un workflow biologico, migliorano contemporaneamente sicurezza, accountability e riproducibilità scientifica. Ecco, nell’AI-bio, la governance deve seguire il workflow tanto quanto il laboratorio.
Il salto di qualità , però, arriva con l’automazione sperimentale, quando, per esempio, in un self-driving laboratory a logica closed-loop, il risultato di un esperimento viene acquisito, interpretato dal sistema e usato per determinare l’esperimento successivo. L’output di un ciclo alimenta, così, il successivo senza richiedere necessariamente una nuova decisione umana a ogni iterazione. Immaginate quanto sia materia che allarma un risk manager.. perchè si riduce la frequenza dei punti in cui un essere umano può intercettare un errore prima che si traduca in un evento fisico. Una funzione di ottimizzazione che premia resa o potenza senza rappresentare adeguatamente l’hazard, può propagare quell’errore lungo l’intero ciclo prima che qualcuno se ne accorga. Standards come BSL sono stati costruiti attorno a laboratori a operatività umana e l’automazione closed-loop (im)pone domande nuove su containment, detection, logging e, soprattutto, sulle stop conditions, al fine di stabilire quali siano le condizioni che devono interrompere il processo e imporre una revisione prima dell’esperimento successivo. La morale è che prende forma una rischiosità non in capo al modello che inventa qualcosa di pericoloso, ma dall’interazione tra capacità computazionale, materiale biologico, automazione, infrastruttura fisica, comportamento umano e qualità della governance.
Non è neanche detto che l’automazione renda ogni singolo esperimento più sicuro e che, quindi, il rischio complessivo diminuisca di conseguenza. No!
Indicando con N il numero dei workflow biologici e con R il rischio associato a ciascuno, l’esposizione aggregata dipende da entrambi i termini, e una riduzione di R può essere più che compensata da un aumento di N. L’AI comprime i tempi di progettazione, aumenta il throughput e mette attività un tempo riservate a strutture altamente specializzate alla portata di un numero molto più ampio di organizzazioni. Se il volume delle attività cresce più rapidamente di quanto si riduca il rischio unitario, il rischio aggregato aumenta anche quando ogni singolo workflow è diventato più sicuro. Resta una semplificazione anche la rappresentazione di N × R, perchè un esperimento condotto in un’organizzazione con sistemi maturi di biosafety, non ha lo stesso profilo di rischio di uno svolto in un ambiente scarsamente controllato e imporrà la necessità di distinguere almeno tra workflow governati e workflow ad elevata vulnerabilità organizzativa. Consci della complessità va tenuto in considerazione quanto la frammentazione della filiera diventi decisiva. Sempre per aiutarci nell’analisi, basti pensare ad un singolo progetto biologico che oggi può attraversare un LLM general purpose per la pianificazione, un modello biologico specializzato per ottimizzare un candidato, un fornitore che sintetizza il materiale, una CRO o un cloud lab che esegue l’esperimento o una startup che ne interpreta e commercializza il risultato. Ogni soggetto può rispettare le proprie procedure locali senza che nessuno abbia visibilità sull’intera catena, consentendo che il rischio biologico, tradizionalmente concentrato nella struttura fisica che manipolava il materiale, comincia ad assomigliare al supply-chain risk digitale. C’è una dimensione ulteriore, di carattere sistemico che si pone quando molti laboratori dipendono dagli stessi modelli, dataset o piattaforme, perchè non è difficile da comprendere che i loro workflow smettono di essere statisticamente e operativamente indipendenti. Un errore sistematico, un default insicuro o una vulnerabilità condivisa può propagarsi attraverso un numero elevato di esperimenti contemporaneamente e il rischio, da locale, diventa correlato.
La grey zone è un problema di maturità , non di intenzione
Il caso che merita attenzione non è quello dell’organizzazione criminale, ma quello dell’impresa legittima la cui capacità scientifica è cresciuta più in fretta della sua infrastruttura di biosafety. Immaginiamo un laboratorio sottofinanziato, il nuovo entrante, il ricercatore sotto forte pressione competitiva e l’attività distribuita su più piattaforme dove la responsabilità complessiva diventa difficile da attribuire. Situazione che potremmo definire grey zone, laddove l’intenzionalità benigna o ambigua insieme a capability elevata e governance insufficiente, con l’espansione dell’AI, tende ad allargare l’ampiezza dell’opacità , perché abbassa le barriere di accesso alla ricerca biologica avanzata e permette di esternalizzare componenti che prima richiedevano infrastrutture interne. Si tratta di disallineamento temporale perchè la democratizzazione della capability e quella della capacità di governarla, non procedono alla stessa velocità . La prima scala attraverso modelli, cloud, automazione e capitale. La seconda richiede competenze, standard, containment, reporting, auditabilità , responsabilità , cultura organizzativa e questi si costruiscono su tempi molto più lunghi che, per biosafety e biosecurity diventano, progressivamente, anche una forma di AI governance. Da qui si può arrivare, con più fondamento, alla domanda su quali controlli servano davvero. Alcune analisi recenti sul tema convergono su un insieme di leve che va ben oltre poche raccomandazioni generiche e parlano di capability gating, credentialing, provenance, di tassonomia condivisa degli incidenti, vulnerability disclosure, chain of custody, KYC nei punti di accesso esterni, meccanismi di assurance, coperture assicurative e due diligence finanziaria sugli attori della filiera. Ed è questa la parte che conta di più, perché è quella che trasforma l’AI-Bio Risk da concetto descrittivo a un’architettura di risk management effettivamente operabile.
Per approfondire, vi rimandiamo alla lettura di un bel paper appena pubblicato, che esplicita con maggiore rigore quanto riportato nel nostro articolo: https://www.governance.ai/research-paper/a-biosafety-agenda-for-ai-bio-governance
Dottoressa Valeria Lazzaroli
Valeria Lazzaroli è Presidente dell’Ente Nazionale per l’Intelligenza Artificiale (ENIA) e Chief AI & Risk Officer di ARISK®, spin-off deeptech del Politecnico di Torino specializzato in AI per il Risk Management. Economista, psicologa del lavoro e sociologa dell’innovazione.