São Paulo — InkDesign News —
A recente ação do governo Trump em relação à inteligência artificial (IA) aborda riscos associados a deepfakes, revelando preocupações sobre a integridade do sistema legal e a necessidade de garantir a justiça tanto para acusadores quanto para acusados.
Contexto da pesquisa
O plano representa um avanço nas discussões em torno dos perigos das deepfakes, especialmente após a promulgação de uma legislação que visa proteger indivíduos contra a criação de conteúdos sexualmente explícitos sem consentimento. Essa inovação legislativa, que recebeu apoio bipartidário, reflete a crescente demanda por proteção em um cenário onde as tecnologias de vídeo geradas por IA se tornaram mais acessíveis e potentes. Questiona-se como essas inovações impactam o cotidiano de celebridades e cidadãos comuns, à medida que técnicas de manipulação tornam-se mais sofisticadas.
Método e resultados
A nova estratégia da Casa Branca indica que “evidências falsas poderiam ser utilizadas para tentar negar justiça tanto a autores de ações judiciais quanto a réus.” Com isso, o governo solicita ao Departamento de Justiça que elabore normas relacionadas à detecção de deepfakes. No entanto, especialistas legais apontam um outro problema relevante: o uso de modelos de IA por advogados que frequentemente cometem erros, como citar casos que não existem, um aspecto que não é abordado no plano atual.
“A utilização de algoritmos de IA em contextos jurídicos pode aumentar a incidência de erros e comprometendo a justiça.”
(“The use of AI algorithms in legal contexts can increase the likelihood of errors and compromise justice.”)— Advogado Especialista em Direito Digital
Implicações e próximos passos
Além de abordar os deepfakes maliciosos, a ação do governo acena para um futuro em que a IA pode ser um instrumento poderoso em guerras culturais e disputas geopolíticas. O planejamento revela a intenção de pressionar as empresas de tecnologia a remover “ideologia woke” de seus modelos. O impacto das ações governamentais sobre os gigantes da tecnologia levanta discussões sobre a concentração de poder e a necessidade de regulamentações que não sejam meramente reativas, mas que também promovam uma ética sólida no desenvolvimento de tecnologias emergentes.
“As implicações legais da IA devem ser tratadas com a seriedade que a evolução tecnológica requer.”
(“The legal implications of AI must be addressed with the seriousness that technological evolution requires.”)— Professor de Direito Digital, Universidade de Harvard
O plano atual, embora aborde um problema emergente, falha em confrontar de maneira abrangente os desafios éticos e a segurança que a IA traz para o sistema legal. O desenvolvimento de normas de detecção adequadas e a educação sobre o funcionamento da IA são cruciais para garantir que tecnologias digitais sirvam ao interesse público e à justiça.
Fonte: (MIT Technology Review – Artificial Intelligence)
