Uma empresa de reconhecimento facial patrocinada por Mark tentou trabalhar com policiais

Por DOBSON LOBO

A tecnologia de reconhecimento facial está se tornando mais comum nos Estados Unidos, tanto para a aplicação da lei quanto para empresas privadas. Agora, os e-mails obtidos por meio de uma solicitação de registros públicos fornecem informações sobre como as empresas de reconhecimento facial tentam fazer acordos com as autoridades locais, bem como obter acesso a dados confidenciais dos residentes locais.

Os e-mails mostram como uma empresa apoiada pelo juiz Shark Tank , dono do Dallas Mavericks, e o empresário bilionário Mark Cuban empurraram um departamento de polícia local para tentar obter acesso às fotos da carteira de motorista do estado para treinar seu produto. Os e-mails também mostram que a empresa solicitou ao departamento de polícia que o atestasse em um pedido de subsídio do governo em troca de receber a tecnologia gratuitamente.

“Chefe, você parecia muito interessado no uso do reconhecimento facial nos estádios. Se você souber de algum lugar para começar, por favor me avise ”, diz um email de 2016 de Jacob Sniff, co-fundador da startup de reconhecimento facial Suspect Technologies, dirigida a Michael Botieri, chefe do Departamento de Polícia de Plymouth, em Massachusetts. Cuban, que investiu na empresa no mesmo ano, também co-liderou e fechou uma rodada de investimento de US $ 810 mil na firma em dezembro passado. O cubano usou a tecnologia da empresa no vestiário do Mavericks .

>>> Ajude a Mídia Independente com Apenas R$1,90

Nos e-mails, Sniff repetidamente pediu a Botieri para implantar a tecnologia em seu distrito para ajudar a melhorar o produto. Sniff mencionou planos para a tecnologia pesquisar resultados para pessoas de um determinado gênero ou etnia e implantar "reconhecimento de emoções".

"Não estou envolvido em suas operações do dia a dia, mas meu palpite é que eles queriam adquirir conjuntos de dados para treinar modelos", disse Cuban à Motherboard em um e-mail, referindo-se à tentativa de obter fotos de motoristas do Registro de Estado. Veículos motorizados.

Kade Crockford, diretor do Programa de Tecnologia para a Liberdade da ACLU de Massachusetts, que forneceu os e-mails para a Motherboard, disse: “Eles revelam que fornecedores de tecnologia auto-interessados ​​estão trabalhando nos bastidores para empurrar ferramentas de vigilância invasivas e confiáveis ​​para comunidades desavisadas. no escuro."

Botieri não respondeu a vários pedidos de comentários.

Quanto ao campo da Suspect Technologies, um e-mail de janeiro de 2018 descreve um sistema de reconhecimento facial com vários recursos que a empresa poderia implementar em uma data futura. Ele seria instalado em câmeras nos lobbies da polícia e em toda a cidade com "Real Time Person Detection", que "mostraria onde todas as pessoas estão (para serem usadas em situações de tiro ativo, ou nos eventos monitorados, casos de abdução, etc.) Outro conjunto de recursos seria focado em dados históricos, que poderiam "mostrar onde todas as pessoas estiveram nos últimos X minutos" e "Image Attribute Software (pesquisar pessoas por idade, sexo, etnia, etc.)"

Os e-mails de Sniff mostram que ele sabia que a tecnologia de reconhecimento facial é um assunto tumultuado.

“Então você pretende fazer isso em todos ou na maioria dos edifícios que você me mostrou pessoalmente? Nós estaríamos bem com as preocupações de privacidade para isso? ”Sniff escreveu em um e-mail de novembro de 2017 para o departamento de polícia. “Realmente percebo que a tecnologia pode ser vista como controversa, embora a dura realidade seja que ela pode salvar vidas”.

“Ed, você mencionou que, se fizéssemos a idéia do lobby em Boston, eles ficariam loucos e seria um desastre de privacidade. A nossa discussão na semana passada foi a de que os departamentos de polícia são supostamente para ser acolhedora e isso acabaria por dissuadir as pessoas de aparecer,”Sniff escreveu em uma cadeia de e-mail abril 2018, incluindo Ed Davis, ex-Boston comissário de polícia e que agora dirige uma empresa de consultoria de segurança .

Davis acrescentou: "Eu também sei que, se eu tentasse implementar esse sistema em Boston, seria expulso da cidade pelos ativistas liberais e fanáticos da privacidade, para não falar do Boston Globe e de sua defesa dos imigrantes indocumentados".

Davis disse Motherboard em uma tecnologia de e-mail”está se movendo mais rápido do que as sociedades [sic] capacidade para debater implicações de privacidade importantes. Espero que meus comentários não refinados tenham levado a importância dessas preocupações para o brilhante empreendedor de tecnologia que pediu minha contribuição. Estamos todos tentando navegar neste importante espaço ”.

Sniff pediu ao chefe Botieri para assinar uma carta ajudando a Suspect Technologies a receber uma bolsa do Instituto Nacional de Padrões e Tecnologia (NIST), de acordo com um e-mail de janeiro de 2017. Sniff se ofereceu para dar ao departamento de polícia a tecnologia de reconhecimento facial de graça em troca da assinatura da carta.

"É claro que ofereceríamos a tecnologia para vocês eventualmente gratuitamente quando estiver pronta :)", Sniff escreveu. No mês seguinte Botieri enviou a versão assinada, outro email mostra.

Em um e-mail de dezembro de 2017, um dos vários em que Sniff enviou artigos de notícias sobre Botieri relacionados ao reconhecimento facial, Sniff destacou como a polícia na China está usando tecnologia semelhante em delegacias de polícia para acelerar as funções de administração. Em outro e-mail posterior, Sniff enviou a Botieri um link para uma reportagem sobre o tiroteio em massa de Parkland, Flórida, e perguntou: "Você não vê como os alertas faciais poderiam ser muito valiosos nas entradas principais?"

Nos e-mails, Sniff perguntou sobre ter acesso ao banco de dados RMV, assim como outros, e indicou que Botieri disse que isso seria possível.

“Poderíamos razoavelmente obter acesso aos bancos de dados MA RMB [RMV] ou outros bancos de dados similares no MA?” Sniff perguntou. “Sei que discutimos isso na reunião [sic] e o consenso foi sim. Eu acho que estou me perguntando quanto tempo isso levaria?

“É óbvio que terá que ser uma combinação de tecnologia realmente boa (que deveríamos estar lá em breve) e também de um banco de dados decente do qual possamos sair”, acrescentou.

"Vocês vão nos dar acesso às fotos RMV do estado", outro e-mail mais tarde, sob o título "Próximos Passos".

Sniff disse à Motherboard em um telefonema que a Suspect Technologies tentou acessar o banco de dados RMV porque “Uma coisa que nossa empresa quer fazer é reconhecer imparcialmente, então se pudermos ter um treinamento maior para treinar e testar, isso nos permite para construir tecnologias de reconhecimento melhores e imparciais. ”

Em um e-mail para a Motherboard na semana passada, Judith Riley, do Departamento de Comunicações de Transporte de Massachusetts, escreveu: “O RMV ​​não fornece acesso a seus arquivos de imagem ou tecnologia de reconhecimento facial a terceiros comerciais.” O RMV tem seu próprio facial programa de reconhecimento que alerta a polícia quando as pessoas tentam obter várias carteiras de motorista.

Sniff disse ao Motherboard que sua empresa tem um cliente oficial e vários beta testers para o produto de reconhecimento facial. Ele disse que a Suspect Technologies também tem cerca de 200 clientes policiais para seu sistema de edição de vídeo separado, que segundo ele é projetado para proteger a privacidade de espectadores em vídeos. Sniff disse que "ainda estamos tentando, para sermos claros", referindo-se à implementação de tecnologia com a Polícia de Plymouth.

Crockford, da ACLU de Massachusetts, disse à Motherboard: “É preocupante que a Suspect Technologies sugira que a polícia em Massachusetts use software de vigilância em edifícios públicos, incluindo escolas e até mesmo flutue a ideia de usar o software para rastrear pessoas por raça e gênero”.

Sniff disse ao Motherboard que ele não se lembrava especificamente de mencionar o exame de etnia como um recurso, mas disse que os investigadores “podem estar procurando por uma pessoa de pele escura, ou uma pessoa de pele branca, ou uma pessoa de pele asiática. É o primeiro [...] classificador de dados. ”

"Vocês vão nos dar acesso a fotos RMV do estado."

Múltiplos estudos do MIT Media Lab descobriram que os sistemas de reconhecimento facial da IBM, Microsoft, Amazon e empresa chinesa Megvii tiveram mais dificuldade em identificar corretamente o gênero de rostos mais escuros e femininos. A Microsoft e a IBM disseram em declarações anteriores que melhoraram seus próprios conjuntos de dados para resolver esse problema.

Cuban disse Motherboard em um e-mail "há um pouco de pesquisa relacionada a determinar o preconceito em modelos e, novamente, a única maneira de determinar o viés é fazer testes de viés robusto e rever para ele."

O acordo da Suspect Technologies e da Polícia de Plymouth não funcionou. Em um e-mail de junho de 2018, Botieri escreveu que não tem o dinheiro orçado para a proposta.

“Diga olá ao cubano por mim”, Botieri escreveu em um e-mail de janeiro de 2018.

Via: vice