L'intelligenza artificiale trova 40.000 molecole tossiche
In una conferenza svizzera, i ricercatori hanno riprogrammato un algoritmo per trovare i farmaci. In pochissimo tempo, l'intelligenza artificiale ha scoperto molecole tossiche che potrebbero essere utilizzate per le armi chimiche.
Un'intelligenza artificiale (AI) della società farmaceutica statunitense Collaborations Pharmaceuticals Inc. ha scoperto 40.000 potenziali molecole tossiche in poche ore. Questi potrebbero essere usati come base per nuove armi chimiche. Questo è ciò che affermano i ricercatori responsabili in un documento per Nature Machine Intelligence.
Il team guidato da Fabio Urbina, capo scienziato presso Collaborations Pharmaceuticals Inc. ha applicato specificamente i modelli di apprendimento automatico a questo. Questo è stato fatto nell'ambito della Convergenza di Spiez - una conferenza sul controllo delle armi nel campo delle armi biologiche e chimiche organizzata dall'Ufficio federale della protezione civile.
Ai ricercatori è stato chiesto di mostrare come il machine learning potrebbe essere utilizzato in modo improprio nel campo delle armi biologiche e chimiche per l'ultima edizione della conferenza.
Gli scienziati invertono il solito modello
Normalmente, i ricercatori usano l'apprendimento automatico per trovare nuovi farmaci che non hanno tossicità. Collaborations Pharmaceuticals Inc. è infatti specializzata nella lotta contro le malattie rare e infettive. Ma per la Spiez Convergence, che si svolge ogni due anni, i ricercatori hanno invertito i loro modelli.
Nel nuovo modello, la tossicità e la bioattività sono state premiate invece che punite. Urbina e il suo team hanno focalizzato l'AI in particolare su composti come l'agente nervino VX - uno dei più tossici agenti di guerra chimica del ventesimo secolo. Anche poche scaglie della dimensione di un granello di sale possono essere letali. Con questi prerequisiti, l'IA ha impiegato meno di sei ore per trovare 40.000 molecole che superavano la soglia predefinita di tossicità.
Gioco mentale per creare consapevolezza
L'esercizio fornisce una base teorica per la produzione di nuove armi biochimiche. I ricercatori hanno sottolineato a Nature Machine Intelligence che "non avevano considerato questo gioco di pensiero prima".
"Invertendo l'uso dei nostri modelli di apprendimento automatico, avevamo trasformato il nostro modello innocuo da un utile strumento di medicina in un generatore di molecole probabilmente letali", scrivono ulteriormente. Anche se non avevano sintetizzato nessuna delle molecole da soli, gli attori maligni potrebbero rivolgersi a società commerciali che offrono la sintesi chimica. Così, è difficile impedire la produzione di nuove sostanze estremamente tossiche.
Ecco perché vedono il loro lavoro come un avvertimento al mondo della scienza. Soprattutto perché i mattoni centrali di questo esperimento di pensiero sono disponibili pubblicamente. Il team di Urbina ha lavorato esclusivamente con database pubblici per l'esperimento. Gli strumenti software necessari sono anche liberamente disponibili in una forma simile. Pertanto, è il momento di aprire una discussione sul pericoloso uso improprio nel campo dell'apprendimento automatico nel settore farmaceutico.
«Io voglio tutto: le discese ardite e le risalite stordite, la crema in mezzo!» – queste parole di un noto personaggio televisivo statunitense rispecchiano pienamente il mio pensiero. Vivo secondo questa filosofia di vita anche a lavoro. In altre parole: trovo che ogni storia, dalla più insignificante alla più incredibile, abbia il suo fascino.