Microsoft lancia l’allarme: l’IA potrebbe generare nuove minacce biologiche
Tech everyeye – 3.10.2025 di Alessio Marino
Un team di Microsoft afferma di aver usato l’IA per scoprire una vulnerabilità zero day nei sistemi di biosicurezza usati per impedire l’abuso di sequenze di DNA. Tali sistemi di screening servono solitamente a bloccare ordini di sequenze genetiche che potrebbero essere impiegate per ricreare tossine o agenti patogeni.
(NdR: Per Zero Day si intende una falla di sicurezza – un bug – in un software, hardware o sistema operativo. Questa vulnerabilità è sconosciuta al produttore del software. Poiché il produttore non è a conoscenza del problema, non è disponibile alcuna patch o aggiornamento per risolverlo).
I ricercatori, guidati dal Chief Scientist di Microsoft, Eric Horvitz, hanno dimostrato un metodo inedito per aggirare tali protezioni, in un articolo pubblicato sulla rivista Science.
In particolare, Hortvitz e il suo team si sono concentrati sugli algoritmi generativi per il design proteico, degli strumenti già impiegati nella ricerca farmaceutica da startup come Generate Biomedicines e Isomorphic Labs.
Secondo quanto emerso, il problema principale sarebbe da ricercare nel fatto che tali sistemi possono essere a duplice uso e dai medesimi set di addestramento possono emergere sia molecole utili che potenzialmente dannosi. A tal proposito, Microsoft spiega di avere avviato nel 2023 un esercizio di red-teaming per valutare se “l’adversarial AI protein design” potesse facilitare la creazione di proteine nocive.
Per testare lo screening, il team ha usato diversi modelli generativi di proteine, incluso EvoDiff, per riprogettare tossine in modo tale da farle risultare non rilevabili dai software di screening, pur mantenendo le funzioni letali. I ricercatori sottolineano come tale esperimento sia rimasto digitale e non è stato prodotto alcun agente tossico per evitare qualunque percezione di sviluppo di armi biologiche.
Inoltre, Microsoft ha provveduto ad avvertire il Governo Statunitense e i suoi fornitori di software, che hanno già applicato le relative patch, sebbene alcune molecole dall’AI possano ancora eludere i controlli.
Related news: Strengthening nucleic acid biosecurity screening against generative protein design tools
The paradox of AI accelerationism and the promise of public interest AI
Note:
Sebbene i responsabili politici creino disposizioni legali per aumentare la produzione di chip, espandere lo sviluppo del data center e promuovere l’adozione dell’IA, spesso ignorano sistematicamente le basi sociali che supportano lo sviluppo umano, come solidi sistemi di assistenza sanitaria, alloggi accessibili, infrastrutture affidabili e istruzione di qualità. Sebbene l’IA non sia, né sarà mai, una panacea per le sfide dello sviluppo socioeconomico, dare priorità ai benefici sociali rispetto ai guadagni commerciali a breve termine può posizionare lo sviluppo dell’IA come un fattore cruciale per il progresso.
Possiamo continuare ad accelerare verso un futuro alimentato dall’intelligenza artificiale che amplifica le disuguaglianze esistenti, o possiamo deliberatamente orientarci verso uno che aumenti le prospettive di prosperità globale condivisa. La domanda non è se possiamo permetterci di rallentare, ma se possiamo permetterci di non cambiare direzione.
(Source: Science “Il paradosso dell’accelerazione dell’IA e la promessa di interesse pubblico IA”)
Notizie correlate 2: A promising step forward on disinformation
