IA, protestos e justiça – O’Reilly

cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br


Em grande parte sobre o ímpeto do movimento Black Lives Matter, a resposta do público ao assassinato de George Floyd e as demonstrações subseqüentes, vimos uma crescente preocupação com o uso da identificação facial no policiamento.

Primeiro, em uma onda de anúncios altamente divulgada, IBM, Microsoft e Amazon anunciaram que não venderão tecnologia de reconhecimento facial para as forças policiais. O anúncio da IBM foi o mais longe; eles estão se retirando da pesquisa de reconhecimento facial e desenvolvimento de produtos. A declaração da Amazon era muito mais limitada; eles estão colocando uma moratória de um ano no uso policial de seu produto Rekognition, e esperando que o Congresso aprova a regulamentação do uso do reconhecimento facial enquanto isso.

IA, protestos e justiça - O'Reilly 2

Aprenda mais rápido. Cavar mais fundo. Veja mais adiante.

Essas declarações são boas, na medida em que vão. Como muitos apontam, a Amazon e a Microsoft estão apenas passando o dinheiro para o Congresso, o que provavelmente não fará nada substancial. (Até onde eu sei, a Amazon ainda faz parceria com as forças policiais locais em seu bloqueio inteligente Ring, que inclui uma câmera.) E, como outros já apontaram, IBM, Microsoft e Amazon não são as empresas mais importantes que fornecem tecnologia de reconhecimento à aplicação da lei. Isso é dominado por várias empresas menos importantes, das quais as mais visíveis são a Palantir e a Clearview AI. Eu suspeito que os executivos dessas empresas estejam sorrindo; talvez a IBM, a Microsoft e a Amazon não sejam os atores mais importantes, mas sua saída (mesmo que temporária) significa que há menos concorrência.

Portanto, por mais que eu aprove empresas que se afastam de produtos usados ​​de maneira antiética, também precisamos ser claros sobre o que isso realmente faz: não muito. Outras empresas menos preocupadas com ética preencherão a lacuna.

Leia Também  Expo Convergence India 2020 para testemunhar o 'Próximo Nível' de inovação em Tecnologias Digitais

Outra resposta é o aumento dos esforços nas cidades para proibir o uso de tecnologias de reconhecimento facial pela polícia. Essa tendência, é claro, não é nova; São Francisco, Oakland, Boston e várias outras cidades instituíram essas proibições. A precisão é um problema – não apenas para pessoas de cor, mas para qualquer pessoa. O chefe de polícia de Londres diz que está “completamente confortável” com o uso da tecnologia de reconhecimento de rosto, apesar da taxa de 98% de falsos positivos do departamento. Já vi declarações semelhantes e taxas de falso positivo semelhantes de outros departamentos.

Também vimos o primeiro caso conhecido de uma pessoa presa falsamente por causa do reconhecimento facial. O “primeiro caso conhecido” é extremamente importante nesse contexto; a vítima só descobriu que foi alvo de reconhecimento facial porque ouviu uma conversa entre policiais. Precisamos perguntar: quantas pessoas já foram presas, encarceradas e até condenadas com base no reconhecimento facial incorreto? Estou certo de que o número não é zero e suspeito que seja chocantemente grande.

A proibição em toda a cidade do uso do reconhecimento facial pela polícia é um passo na direção certa; a legislação estadual e nacional seria melhor; mas acho que temos que fazer a pergunta mais difícil. Dado que a resposta da polícia aos protestos pelo assassinato de George Floyd revelou que, em muitas cidades, a aplicação da lei é essencialmente sem lei, esses regulamentos terão algum efeito? Ou eles serão apenas ignorados? Meu palpite é “ignorado”.

cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br

Isso me leva ao meu argumento: dado que as empresas que se afastam das vendas de produtos de reconhecimento facial e a regulamentação local do uso desses produtos são louváveis, mas improváveis ​​de serem eficazes, que outra resposta é possível? Como alternamos o equilíbrio de poder entre os topógrafos e os topógrafos? O que pode ser feito para subverter esses sistemas?

Leia Também  O futuro do resfriamento do data center: resfriamento passivo em duas fases

Existem dois tipos de respostas. Primeiro, o uso de moda extrema. O CVDazzle é um site que mostra como a moda pode ser usada para derrotar a detecção de rosto. Existem outros, como maquiagem Juggalo. Se você não gosta desses looks extremos, lembre-se de que os pesquisadores mostraram que mesmo alguns pixels alterados podem derrotar o reconhecimento de imagem, transformando um sinal de parada em outra coisa. Uma simples “marca de nascença”, aplicada com caneta ou batom, pode anular o reconhecimento de rosto? Não li nada sobre isso especificamente, mas aposto que pode. As próprias máscaras faciais oferecem boa proteção contra a identificação de face e o COVID-19 não desaparece tão cedo.

O problema com essas técnicas (particularmente minha sugestão de marca de nascença) é que você não sabe qual tecnologia está sendo usada para reconhecimento de face, e técnicas adversárias úteis dependem muito do modelo específico de reconhecimento de face. O site CVDazzle afirma claramente que seus designs só foram testados em um algoritmo (e um que agora é relativamente antigo.) A maquiagem Juggalo não altera a estrutura facial básica. Marcas de nascença falsas dependeriam de vulnerabilidades muito específicas nos algoritmos de reconhecimento de face. Mesmo com máscaras faciais, houve pesquisas sobre a reconstrução de imagens de rostos quando você tem apenas uma imagem dos ouvidos.

Muitos fornecedores (incluindo Adobe e YouTube) forneceram ferramentas para desfocar rostos em fotos e vídeos. Qualquer pessoa que esteja em uma manifestação e queira tirar fotografias deve usá-las.

Mas não devemos nos limitar à defesa. Em muitas cidades, a polícia se recusou a se identificar; em Washington DC, um exército de agentes federais apareceu, sem identificação ou insígnia. O reconhecimento de rosto funciona nos dois sentidos, e aposto que a maioria do software que você precisa para construir uma plataforma de reconhecimento de rosto é de código aberto. Seria possível criar uma ferramenta para identificar policiais violentos e levá-los à justiça? De fato, grupos de direitos humanos já estão usando a IA: existe uma iniciativa importante para usá-la para documentar crimes de guerra no Iêmen. Se é difícil ou impossível limitar o uso do reconhecimento facial por quem está no poder, a resposta pode muito bem ser dar essas ferramentas ao público para aumentar a prestação de contas – como David Brin sugeriu há muitos anos em seu livro sobre privacidade, A sociedade transparente.

O “solucionismo” tecnológico não resolverá o problema do abuso – seja o abuso da própria tecnologia ou o abuso físico mais antigo. Mas não devemos pensar ingenuamente que a regulamentação colocará a tecnologia de volta em alguma “caixa” mítica. O reconhecimento de rosto não está desaparecendo. Sendo assim, as pessoas interessadas em justiça precisam entendê-lo, experimentar maneiras de desviá-lo e talvez até começar a usá-lo.

Leia Também  Smart Shelf esconde alguma funcionalidade séria



cupom com desconto - o melhor site de cupom de desconto cupomcomdesconto.com.br