São Paulo — InkDesign News — Uma nova pesquisa conduzida por um grupo de cientistas da Universidade de Cambridge e de instituições parceiras está explorando as limitações das ferramentas de proteção de arte digital, como Glaze e Nightshade, no contexto da inteligência artificial e de modelos de machine learning.
Contexto da pesquisa
A crescente preocupação com o uso irresponsável de artes digitais por algoritmos de inteligência artificial levou à criação de ferramentas como Glaze e Nightshade. Estas ferramentas foram desenvolvidas para proteger obras de arte contra a análise automatizada, alterando pixels de maneira quase imperceptível. No entanto, segundo os pesquisadores, essas soluções podem não ser completamente eficazes a longo prazo. Hanna Foerster, doutoranda da Universidade de Cambridge e autora principal de um estudo, afirma: “Você não terá certeza se as empresas têm métodos para eliminar esses venenos, mas nunca lhe dirão” (“You will not be sure if companies have methods to delete these poisons but will never tell you”).
Método e resultados
Os pesquisadores introduziram um novo sistema chamado LightShed, que aprende a identificar e remover as alterações induzidas por ferramentas como Glaze e Nightshade em obras de arte. O método foi baseado na análise de obras com e sem as alterações aplicadas, utilizando um conjunto de dados para treinar o algoritmo a reconstruir apenas o “veneno” presente nas imagens comprometidas. LightShed demonstrou uma adaptabilidade superior, permitindo a transferência de conhecimento de uma ferramenta de proteção para outra, sem necessidade de pré-exposição. Essa abordagem é capaz de detectar a quantidade de alteração que pode confundir um modelo de IA, facilitando a “limpeza” dessas distorções.
Implicações e próximos passos
A aplicação de LightShed passa a ser uma preocupação para os cerca de 7,5 milhões de artistas que utilizam Glaze, a busca por um meio mais eficiente de proteção e a discussão sobre a regulação em torno do treinamento de IA e direitos autorais se tornam prementes. Segundo Foerster, “pode ser necessário mais algumas rodadas para chegar a melhores ideias de proteção” (“It might need a few more rounds of trying to come up with better ideas for protection”). As ferramentas de proteção como Glaze e Nightshade são vistas como linhas de defesa crucial para artistas, mas sua eficácia temporária levanta questões éticas sobre a preservação dos direitos autorais.
O trabalho dos criadores de Glaze e Nightshade deixa claro que, embora essas soluções sejam úteis, não são à prova de futuro. O entendimento dos pesquisadores projetos como LightShed ressalta a importância de um diálogo contínuo sobre a segurança e ética no uso de inteligência artificial na arte digital.
O potencial de LightShed apresenta uma interessante interseção entre a valorização da criatividade humana e os desafios da tecnologia moderna, ilustrando a necessidade de um equilíbrio delicado entre proteção e inovação.
Fonte: (MIT Technology Review – Artificial Intelligence)
