A proteção de fotos de sistemas de reconhecimento de rosto funciona?

imagem



Durante o último mês e meio (desde o início de agosto de 2020), algumas publicações / plataformas e recursos já falaram / escreveram sobre o Algoritmo de Fawkes: https://sandlab.cs.uchicago.edu/fawkes/#press .



Entre os quais estão Habr , The New York Times , The Verge , etc.



Com efeito, no nosso tempo (silêncio 2020) , o tema da vigilância, identificação dos cidadãos por câmaras de vigilância e procura de indivíduos por fotografia (FindFace, etc) é bastante relevante .



Pesquisadores da Universidade de Chicago criaram um algoritmo de camuflagem para proteger contra o reconhecimento facial. Postamos as fontes no github: https://github.com/Shawn-Shan/fawkes .



Em agosto, li sobre essa ferramenta (Algoritmo de Fawkes). E decidi substituir minhas fotos nas redes sociais e em todos os recursos da Internet onde estão minhas fotos reais.



Mas, para começar, decidi experimentar esta ferramenta nas minhas fotos:



  • se o fawkes inicia;
  • verifique com seus próprios olhos o resultado do trabalho de fawkes;
  • verifique os recursos declarados (com as mesmas ferramentas que o autor do fawkes testou seu algoritmo).


Felizmente, https://github.com/Shawn-Shan/fawkes tem uma instrução bastante detalhada e simples sobre como trabalhar com fawkes.



O criador do fawkes afirma que o algoritmo protege contra:



  • API Microsoft Azure Face,
  • Amazon Rekognition Face Verification,
  • Face ++ Face Search API.


Esta lista é indicada no "Artigo Técnico" :



imagem



Em um servidor pessoal, compilado de fontes: git clone; pip3 install fawkes. Não foi fácil, mas muito simples.



Enviei minha foto para o servidor "r1.jpg". E de acordo com as instruções, processei esta foto usando fawkes.

Na saída tirei a segunda foto: "r1_min_cloaked.png". Hooray, eu tenho uma foto encoberta. Abriu a foto "r1_min_cloaked.png" - veja com seus próprios olhos. As mudanças são perceptíveis, mas não críticas. Ao redor dos olhos, ponte do nariz e nariz - não há apagões significativos.



imagem



Depois disso, decidi verificar o resultado ("r1_min_cloaked.png") nos serviços "Microsoft Azure Face API", "Amazon Rekognition Face Verification" e "Face ++ Face Search API".



Resultado:



r1-and-r1_cloacked



Como você pode ver, a rede neural da API do Microsoft Azure Face mostrou que a foto original (à esquerda na captura de tela) e a foto após o processamento (à direita na captura de tela) são uma pessoa. Figuras semelhantes foram mostradas para o resto da ferramenta de verificação: as redes neurais "Amazon Rekognition Face Verification" e "Face ++ Face Search API".



O mesmo é com a "proteção" da foto de outras pessoas / pessoas:



r1_and_cat



obama_origin_and_cloacked



emily_origin_and_cloacked



queen_origin_and_cloacked_faceplusplus



obama_origin_and_cloacked_faceplusplus



Ou seja, a partir de meados de setembro "Fawkes" não está funcionando. Talvez, é claro, Fawkes estivesse operando em agosto de 2020. Mas em setembro de 2020, ele não funciona mais.



Há uma semana, escrevi uma carta para o desenvolvedor do Fawkes e sua equipe, pedindo-lhes que ajudassem a confirmar o trabalho do algoritmo. Mas ainda não recebi uma carta de resposta.



No momento não pude confirmar o trabalho de "Fawkes".



All Articles