31/01/2022 - Embora quase certamente não funcione, é um sinal revelador de onde o campo está indo. Um policial está no local de um assassinato. Sem testemunhas. Nenhuma filmagem da câmera. Sem suspeitos ou motivos óbvios. Apenas um pouco de cabelo na manga da jaqueta da vítima. O DNA das células de uma fita é copiado e comparado com um banco de dados. Nenhum fósforo volta, e o caso esfria.
A Corsight AI, uma subsidiária de reconhecimento facial da empresa israelense de inteligência artificial Cortica, pretende desenvolver uma solução para esse tipo de situação usando DNA para criar um modelo de rosto que pode ser executado por meio de um sistema de reconhecimento facial. É uma tarefa que os especialistas da área consideram cientificamente insustentável.
A Corsight revelou seu produto “DNA to Face” em uma apresentação do diretor executivo Robert Watts e do vice-presidente executivo Ofer Ronen, que pretendia cortejar os financistas na Imperial Capital Investors Conference em Nova York em 15 de dezembro. roteiro, que também incluía movimento e reconhecimento de voz. A ferramenta “constrói um perfil físico analisando material genético coletado em uma amostra de DNA”, de acordo com uma apresentação de slides da empresa vista pelo grupo de pesquisa de vigilância IPVM e compartilhada com o MIT Technology Review.
A Corsight recusou um pedido para responder a perguntas sobre a apresentação e seu roteiro de produtos. “Não estamos nos envolvendo com a imprensa no momento, pois os detalhes do que estamos fazendo são confidenciais da empresa”, escreveu Watts em um e-mail.
Leia também - Você confiaria em um robô para sua colonoscopia?
Mas os materiais de marketing mostram que a empresa está focada em aplicações governamentais e policiais para sua tecnologia. Seu conselho consultivo é composto apenas por James Woolsey, ex-diretor da CIA, e Oliver Revell, ex-diretor assistente do FBI.
A ciência que seria necessária para apoiar tal sistema ainda não existe, no entanto, e especialistas dizem que o produto exacerbaria os problemas éticos, de privacidade e preconceito que a tecnologia de reconhecimento facial já causa. Mais preocupante ainda, é um sinal das ambições do setor para o futuro, onde a detecção de rostos se torna uma faceta de um esforço mais amplo para identificar pessoas por qualquer meio disponível, mesmo os imprecisos.
Esta história foi reportada em conjunto com Donald Maye do IPVM que informou que "antes desta apresentação, o IPVM não tinha conhecimento de uma empresa que tentava comercializar um produto de reconhecimento facial associado a uma amostra de ADN".
Um passado quadriculado
A ideia da Corsight não é totalmente nova. A Human Longevity, uma empresa de “inteligência em saúde baseada em genômica” fundada pelas celebridades do Vale do Silício Craig Venter e Peter Diamandis, afirmou ter usado DNA para prever rostos em 2017. O MIT Technology Review informou na época que os especialistas, no entanto, tinham dúvidas. Um ex-funcionário da Human Longevity disse que a empresa não pode escolher uma pessoa na multidão usando um genoma, e Yaniv Erlich, diretor de ciências da plataforma de genealogia MyHeritage, publicou uma resposta apresentando as principais falhas na pesquisa.
Uma pequena empresa de informática de DNA, a Parabon NanoLabs, fornece às agências policiais representações físicas de pessoas derivadas de amostras de DNA por meio de uma linha de produtos chamada Snapshot, que inclui genealogia genética e renderizações em 3D de um rosto. (A Parabon publica alguns casos em seu site com comparações entre fotos de pessoas que as autoridades estão interessadas em encontrar e renderizações que a empresa produziu.)
Os compostos gerados por computador da Parabon também vêm com um conjunto de características fenotípicas, como cor dos olhos e da pele, que recebem uma pontuação de confiança. Por exemplo, um composto pode dizer que há 80% de chance de a pessoa procurada ter olhos azuis. Artistas forenses também alteram as composições para criar modelos de rosto finalizados que incorporam descrições de fatores não genéticos, como peso e idade, sempre que possível.
O site da Parabon afirma que seu software está ajudando a resolver uma média de um caso por semana, e Ellen McRae Greytak, diretora de bioinformática da empresa, diz que resolveu mais de 200 casos nos últimos sete anos, embora a maioria seja resolvida com genealogia genética em vez de compostos. análise. Greytak diz que a empresa foi criticada por não publicar seus métodos e dados proprietários; ela atribui isso a uma “decisão de negócios”.
A tecnologia da Parabon “não informa o número exato de milímetros entre os olhos ou a proporção entre os olhos, nariz e boca”, diz Greytak. Sem esse tipo de precisão, os algoritmos de reconhecimento facial não podem fornecer resultados precisos, mas derivar medições tão precisas do DNA exigiria descobertas científicas fundamentalmente novas, diz ela, e “os artigos que tentaram fazer previsões nesse nível não tiveram muito sucesso. sucesso." Greytak diz que Parabon apenas prevê a forma geral do rosto de alguém (embora a viabilidade científica de tal previsão também tenha sido questionada).
A polícia é conhecida por executar esboços forenses com base em descrições de testemunhas por meio de sistemas de reconhecimento facial. Um estudo de 2019 do Centro de Privacidade e Tecnologia de Georgetown Law descobriu que pelo menos meia dúzia de agências policiais nos EUA “permitem, se não incentivam” o uso de esboços forenses, desenhados à mão ou gerados por computador, como fotos de entrada para sistemas de reconhecimento facial. Especialistas em IA alertaram que esse processo provavelmente leva a níveis mais baixos de precisão.
A Corsight também foi criticada no passado por exagerar os recursos e a precisão de seu sistema de reconhecimento facial, que chama de “sistema de reconhecimento facial mais ético para condições altamente desafiadoras”, de acordo com uma apresentação de slides disponível online. Em uma demonstração de tecnologia para o IPVM em novembro passado, o CEO da Corsight, Watts, disse que o sistema de reconhecimento facial da Corsight pode “identificar alguém com uma máscara facial – não apenas com uma máscara facial, mas com uma máscara de esqui”. O IPVM relatou que o uso da IA da Corsight em um rosto mascarado rendeu uma pontuação de confiança de 65%, a própria medida da Corsight de quão provável é que o rosto capturado seja correspondido em seu banco de dados e observou que a máscara é descrita com mais precisão como uma balaclava ou pescoço polaina, em oposição a uma máscara de esqui com apenas recortes na boca e nos olhos.
Problemas mais amplos com a precisão da tecnologia de reconhecimento facial foram bem documentados (inclusive pelo MIT Technology Review). Eles são mais pronunciados quando as fotografias são mal iluminadas ou tiradas em ângulos extremos, e quando os sujeitos têm pele mais escura, são mulheres ou são muito velhos ou muito jovens. Os defensores da privacidade e o público também criticaram a tecnologia de reconhecimento facial, particularmente sistemas como o Clearview AI, que raspam as mídias sociais como parte de seu mecanismo de correspondência.
O uso da tecnologia pela aplicação da lei é particularmente preocupante – Boston, Minneapolis e São Francisco estão entre as muitas cidades que a proibiram. A Amazon e a Microsoft pararam de vender produtos de reconhecimento facial para grupos policiais, e a IBM retirou seu software de reconhecimento facial do mercado.
“Pseudociência”
“A ideia de que você será capaz de criar algo com o nível de granularidade e fidelidade necessário para executar uma busca de correspondência de rosto – para mim, isso é absurdo”, diz Albert Fox Cahn, advogado de direitos civis e diretor executivo da o Surveillance Technology Oversight Project, que trabalha extensivamente em questões relacionadas a sistemas de reconhecimento facial. “Isso é pseudociência.”
Dzemila Sero, pesquisadora do Computational Imaging Group do Centrum Wiskunde & Informatica, o instituto nacional de pesquisa em matemática e ciência da computação da Holanda, diz que a ciência para apoiar esse sistema ainda não está suficientemente desenvolvida, pelo menos não publicamente. Sero diz que o catálogo de genes necessários para produzir representações precisas de rostos a partir de amostras de DNA está atualmente incompleto, citando o estudo de 2017 da Human Longevity.
Além disso, fatores como o meio ambiente e o envelhecimento têm efeitos substanciais em rostos que não podem ser capturados por meio de fenotipagem de DNA, e pesquisas mostraram que genes individuais não afetam a aparência do rosto de alguém tanto quanto seu gênero e ascendência. “As tentativas prematuras de implementar essa técnica provavelmente prejudicariam a confiança e o apoio à pesquisa genômica e não gerariam nenhum benefício social”, disse ela ao MIT Technology Review em um e-mail.
Sero estudou o conceito inverso do sistema da Corsight – “face a DNA” em vez de “DNA a face” – combinando um conjunto de fotografias 3D com uma amostra de DNA. Em um artigo na Nature Communications, Sero e sua equipe relataram taxas de precisão entre 80% e 83%. Sero diz que seu trabalho não deve ser usado pelos promotores como evidência incriminadora, no entanto, e que “esses métodos também levantam riscos inegáveis de mais disparidades raciais na justiça criminal que justificam cautela contra a aplicação prematura das técnicas até que as devidas salvaguardas estejam em vigor”.
Leia também - Tinta resfria superfícies e pode substituir ar condicionado
A aplicação da lei depende de conjuntos de dados de DNA, predominantemente o site de ascendência gratuita GEDmatch, que foi fundamental na busca pelo notório “Golden State Killer”. Mas mesmo a amostragem de DNA, antes considerada a única forma de evidência forense cientificamente rigorosa pelo Conselho Nacional de Pesquisa dos EUA, recentemente foi criticada por problemas de precisão.
Fox Cahn, que atualmente está processando o Departamento de Polícia de Nova York para obter registros relacionados ao viés no uso da tecnologia de reconhecimento facial, diz que o impacto do sistema hipotético da Corsight seria desastroso. “Avaliando o impacto que isso terá, aumenta todos os casos de falha no reconhecimento facial”, diz Fox Cahn. “É fácil imaginar como isso poderia ser usado de maneiras verdadeiramente assustadoras e orwellianas.”
O futuro da tecnologia de reconhecimento facial
Apesar dessas preocupações, o mercado de tecnologia de reconhecimento facial está crescendo e as empresas estão disputando clientes. O Corsight é apenas um dos muitos que oferecem serviços de correspondência de fotos com novos recursos chamativos, independentemente de terem funcionado ou não.
Muitos desses novos produtos procuram integrar o reconhecimento facial com outra forma de reconhecimento. A empresa de reconhecimento facial NtechLab, com sede na Rússia, por exemplo, oferece sistemas que identificam pessoas com base em suas placas e características faciais, e o fundador Artem Kuharenko disse ao MIT Technology Review no ano passado que seus algoritmos tentam “extrair o máximo de informações do fluxo de vídeo possível.” Nesses sistemas, o reconhecimento facial se torna apenas uma parte de um aparato que pode identificar pessoas por meio de uma série de técnicas, fundindo informações pessoais em bancos de dados conectados em uma espécie de panóptico de dados.
O sistema DNA to Face da Corsight parece ser a incursão da empresa na construção de um pacote de vigilância futurista e abrangente que pode oferecer a potenciais compradores. Mas mesmo com a expansão do mercado para essas tecnologias, a Corsight e outras correm maior risco de comercializar tecnologias de vigilância atormentadas por preconceitos e imprecisões.
Fonte: https://www.technologyreview.com/