Inteligência artificial ajuda polícia a evitar proibições de reconhecimento facial

São Paulo — InkDesign News — A Veritone foi alvo de críticas após o lançamento de seu sistema de rastreamento, que utiliza inteligência artificial para identificar indivíduos em situações em que o reconhecimento facial não é permitido, levantando questões sobre privacidade e monitoramento.

Contexto da pesquisa

A Veritone, liderada pelo CEO Ryan Steelberg, desenvolveu a ferramenta Track com o objetivo de auxiliar na identificação de atividades criminosas sem a utilização de reconhecimento facial. A tecnologia surge em um contexto de crescente vigilância e regulamentações que limitam o uso dessa última, especialmente em ambientes públicos e durante manifestações. O produto gerou preocupação entre defensores dos direitos civis, como a American Civil Liberties Union (ACLU), que considerou a ferramenta uma inovação inquietante, semelhante em questões de privacidade ao reconhecimento facial, mas ainda mais desafiadora em sua implementação em larga escala nos Estados Unidos.

Método e resultados

O sistema Track se utiliza de algoritmos de machine learning para analisar vídeos de diferentes ambientes, como protestos e estações de metrô. Ele permite a identificação de pessoas com base em atributos como tamanho do corpo, gênero, cor e estilo do cabelo, vestuário e acessórios, fazendo o rastreamento e a montagem de linhas do tempo em que um indivíduo é visto em múltiplas câmeras. Em demonstrações, a empresa mostrou sua eficácia ao acompanhar histórias visuais de indivíduos, o que pode incluir imagens de câmeras corporais da polícia e até registros públicos de vídeos. Embora o sistema atualmente opere apenas com vídeos gravados, Steelberg prevê que em breve será capaz de processar feeds ao vivo.

Implicações e próximos passos

A introdução de ferramentas como o Track levanta importantes questões éticas. Jay Stanley, analista sênior da ACLU, chamou a atenção para o potencial da inteligência artificial em acelerar a tarefa de análise de filmagens de vigilância, o que pode levar à monitoração excessiva de cidadãos:

A inteligência artificial pode ampliar a capacidade de rastreamento sem que um crime tenha ocorrido, o que é preocupante.
(“Artificial intelligence could speed up the tedious task of combing through surveillance footage, enabling automated analysis regardless of whether a crime has occurred.”)

— Jay Stanley, Analista Sênior, ACLU

. Com o setor público representando apenas 6% do negócio da Veritone, essa tecnologia é vista como a área de crescimento mais rápido da empresa, que já possui clientes em estados como Califórnia, Washington, Colorado, Nova Jersey e Illinois. Steelberg afirmou a expectativa de que a tecnologia passe por um escrutínio legal, mas ressaltou o impacto que espera ter na exoneração de inocentes, assim como na localização de criminosos:

Esperamos estar exonerando pessoas tanto quanto ajudando a polícia a encontrar os bandidos.
(“I hope we’re exonerating people as much as we’re helping police find the bad guys.”)

— Ryan Steelberg, CEO, Veritone

.

O impacto potencial do Track e sua evolução revelam um cenário em que as capacidades de monitoramento se amplificam, ressaltando a necessidade de um debate ético sobre o uso responsável da tecnologia de inteligência artificial.

Fonte: (MIT Technology Review – Artificial Intelligence)