Machine learning facilita criação de bioweapons bypassando protocolos

Pesquisas recentes em machine learning destacam o potencial da inteligência artificial para revolucionar a biotecnologia, ao mesmo tempo em que levantam preocupações sobre a segurança biológica. Um estudo inovador demonstrou que ferramentas de IA podem contornar protocolos de segurança em design de proteínas, ressaltando a necessidade urgente de melhorias nas práticas de biosegurança.

Contexto da pesquisa

A pesquisa, conduzida por cientistas da Microsoft, foca na manipulação genética e no design de proteínas, utilizando a inteligência artificial para acelerar descobertas biológicas. Entretanto, a mesma tecnologia que pode facilitar inovações na medicina e biotecnologia também pode ser mal utilizada para criar patógenos perigosos que burlam os sistemas de segurança existentes.

Método proposto

Os pesquisadores utilizaram programas de IA de acesso público para gerar mais de 76.000 variantes sintéticas de proteínas conhecidas como perigosas, como a ricina. As sequências resultantes foram testadas por meio de quatro ferramentas diferentes de software de triagem de biosegurança (Biosecurity Screening Software – BSS). O objetivo era avaliar se as sequências geradas por IA poderiam escapar das detecções.

“Usamos sequências geradas por IA para demonstrar falhas nos sistemas de triagem de segurança existentes.”
(“We used AI-generated sequences to demonstrate gaps in existing security screening systems.”)

— Pesquisadores da Microsoft

Resultados e impacto

Os resultados mostraram que uma porcentagem significativa das sequências de proteínas projetadas por IA conseguiu passar pelos programas de triagem. Após a identificação das falhas, a equipe colaborou com fornecedores de BSS para desenvolver melhorias, o que resultou em uma detecção de 97% das sequências mais perigosas em um segundo teste. No entanto, 3% das sequências potencialmente perigosas ainda foram negligenciadas pelas novas ferramentas.

Esse estudo ilustra a natureza em evolução das ameaças biológicas e destaca a necessidade de atualizações contínuas nas ferramentas de triagem. As preocupações sobre como essas sequências se comportariam em cenários do mundo real permanecem, considerando que foram geradas com base em previsões computacionais.

Para o futuro, as ferramentas de biosegurança precisarão ser constantemente aprimoradas para enfrentar as ameaças geradas por técnicas cada vez mais sofisticadas de IA, refletindo um cenário de competição contínua entre inovação e segurança.

Fonte: (TechXplore – Machine Learning & AI)