Reconhecimento ou Monitoramento Facial: A discussão em torno da regulação

Reconhecimento ou Monitoramento Facial: A discussão em torno da regulação

As aplicações que utilizam a tecnologia de reconhecimento facial estão se proliferando rapidamente no mundo. Parece que não há limites para o uso dessa tecnologia! Só para citar alguns exemplos: aplicações em segurança pública, localização de procurados pela justiça, localização de desaparecidos, autenticação em dispositivos e meios de pagamentos, mecanismos de segurança em aeroportos, autenticação em dispositivos móveis, avaliação da intenção de possíveis compradores ou comportamentos de usuários de aplicações móveis, recrutamento de pessoal, dentre outros.

O que tem ganho destaque nas discussões atuais, tanto em organismos internacionais (com manifestações, inclusive, de importantes executivos de empresas de tecnologia) quanto em governos de importantes nações, estados e municípios, é a necessidade de regulação no uso das aplicações de reconhecimento facial, para impor limites, visando a proteção da privacidade e os direitos dos cidadãos, evitando o uso indevido de imagens e dados coletados ou, até mesmo, evitar penalidades indevidas por erros nos algoritmos de processamento de imagens.

O uso dessa tecnologia encontra-se em estágios diferentes em diversos países. A China, por ter como estratégia assumir a liderança global em Inteligência Artificial (IA) até 2030, é o país que está mais adiantado quanto ao desenvolvimento, bem como à implantação de aplicações baseadas em reconhecimento facial, associadas às aplicações de Inteligência Artificial. De lá também, é que temos algumas das aplicações mais discutidas e questionadas ultimamente.

Atualmente, há mais de 600 milhões de câmeras espalhadas pelas cidades chinesas. O governo chinês tem a meta de chegar, nos próximos anos, a uma base instalada de mais de 1 bilhão de câmeras. Associado às aplicações de monitoramento dos smartfones, os cidadãos chineses são cada vez mais monitorados, não só quanto aos seus deslocamentos, como também em seus hábitos e ações.

O cerne da iniciativa chinesa é o projeto de crédito social, que implementa um ranking dos cidadãos chineses. Segundo o governo, a motivação do projeto é estabelecer um score para cada cidadão, a partir do monitoramento de seu comportamento (Como exemplo: com quem se relaciona, o que compra, o score de seus amigos e familiares, que tipo de filme assiste, que suporte dá aos seus familiares, o que posta nas redes sociais, pontualidade nos pagamentos, infrações de trânsito, dentre outros). A partir desse score, o governo pretende aumentar o grau de confiabilidade da população chinesa, pelos benefícios que o sistema oferece para aqueles que possuem melhor score. A ideia é beneficiar cidadãos que estejam com suas responsabilidades em dia, ou estipular penalidades para aqueles que possuem baixo score. Ou seja, é a materialização dos cenários apresentados na série “Black Mirror” ou no livro “1984”.

Sem entrar no mérito do projeto, um dos pontos controversos e que é motivo de questionamentos, é o uso da tecnologia, notadamente as câmeras de reconhecimento facial e dos dispositivos e aplicações móveis, para monitorar os atos dos cidadãos chineses visando à concessão de benefícios ou punições, a partir de um score. Como na China não há uma Lei Geral de Proteção de Dados, muito se discute sobre a invasão de privacidade e os direitos dos cidadãos chineses.

A adesão ao projeto ainda é voluntária. Entretanto, a adesão às diversas vertentes dos projetos implantados na China é enorme. Isto se explica pelas vantagens que as pessoas veem, em ter acesso ao sistema de crédito, preferência em escolas e cargos públicos, preferência na realização de entrevistas de empregos, direitos a obtenção de vistos e outros benefícios. Adicionalmente, acreditam que a adesão ao sistema de créditos contribuirá para a organização mais eficiente e honesta da sociedade chinesa.

O projeto chinês não é o único ao redor do mundo que é objeto de contestação ou de questionamentos. A partir da ampliação de projetos, principalmente quanto ao monitoramento dos cidadãos, invasão de privacidade, usos militares indevidos,  desrespeito à Legislação de Proteção de Dados e Privacidade, e tantos outros pontos controversos, é que organismos internacionais, governos e renomados executivos cada vez mais intensificam o debate sobre a necessidade de regulação do uso da Inteligência Artificial e do reconhecimento facial.

Quero me ater neste artigo apenas às principais discussões em curso acerca da necessidade de regulação quanto ao uso de aplicações baseadas em reconhecimento facial, uma vez que a discussão em torno da necessidade da regulação da IA, é mais extensa e complexa.

Um dos primeiros executivos a manifestar opinião sobre a necessidade de regulação das aplicações de Inteligência Artificial, pelos governos, foi Elon Musk, CEO da Tesla e Space X. Já em 2014, ele iniciou uma campanha, quase que solitária, de sensibilização de políticos, empresários e organismos internacionais, para a necessidade de regular a Inteligência Artificial. À época, ele foi muito contestado e conseguiu poucos aliados.

Se eu tivesse que apontar qual é a maior ameaça à nossa existência, indicaria a Inteligência Artificial. Estou cada vez mais inclinado que deve haver alguma regulamentação, talvez em nível nacional ou internacional, só para garantir que não façamos algo muito estúpido“.

Elon Musk – CEO da Tesla e Space X

Com o decorrer do tempo, e com a proliferação de aplicações utilizando o reconhecimento facial, essa discussão ficou muito acalorada, sendo tema, inclusive, de debates e pronunciamentos importantes no último encontro do Fórum Econômico Mundial em Davos, em janeiro.

Esta discussão foi aquecida, recentemente, após as manifestações que estão ocorrendo em Hong Kong, onde ONGs passaram a contestar o uso da tecnologia de reconhecimento facial, pelo governo chinês, para reprimir as manifestações e prender manifestantes.

A seguir, um resumo de algumas discussões importantes, em curso, e posicionamentos de líderes empresariais que devem nortear o rumo de uma possível regulação do uso de dispositivos de reconhecimento facial, o que comprova que esse tema é polêmico e merece uma discussão maior, inclusive no Brasil:

a)    A União Europeia está em ritmo adiantado de discussões de um dispositivo legal que atribuiria uma moratória de cinco anos para a utilização de tecnologia de reconhecimento facial em áreas públicas, para avaliar formas de evitar abusos. Exceções à proibição podem ser feitas para projetos de segurança, além de pesquisa e desenvolvimento; (https://www.bbc.com/news/technology-51148501);

b)   Em janeiro último, durante o encontro do Fórum Econômico Mundial em Davos, o CEO da Alphabet e Google, Sundar Pichai, se mostrou favorável à decisão da União Europeia de impor uma moratória ao uso de soluções baseadas em reconhecimento facial;

A inteligência artificial é uma das coisas mais profundas em que estamos trabalhando como humanidade. É mais profundo do que o fogo ou a eletricidade. As estruturas atuais para regular a tecnologia nos EUA e na Europa são um grande começo, e os países terão que trabalhar juntos em acordos internacionais, semelhantes ao Acordo Climático de Paris, para garantir que a tecnologia seja desenvolvida com responsabilidade¨

Sundar Pichai – CEO da Alphabet

c)    O CEO da Microsoft, no mesmo evento, fez um pronunciamento defendendo a regulação da Inteligência Artificial, notadamente quanto ao uso de aplicações baseadas em reconhecimento facial.

A regulamentação do uso e das aplicações de Inteligência Artificial é crucial. Há riscos enormes em deixar o enorme poder que a Inteligência Artificial dá às máquinas e aos homens que as comandam, sem controle. Os envolvidos não podem abdicar de suas responsabilidades.”

Satya Nadella – CEO da Microsoft

d)   Ainda no Fórum de Davos de 2020, a IBM divulgou o documento IBM Policy Lab, que apresenta a visão da IBM a respeito das boas práticas organizacionais e regulatórias para a IA, incluindo a utilização de dispositivos de reconhecimento facial. O documento pontua que, ¨aos governos fica a responsabilidade em estimular práticas responsáveis e, quando necessário, focar em regulações precisas e pontuais de modo a garantir direitos fundamentais de maneira equilibrada com o desenvolvimento, a inovação e a competitividade de seus países¨;

e)    A União Americana pelas Liberdades Civis (ACLU, na sigla em inglês) é uma das instituições que lidera a luta contra o uso público do reconhecimento facial nos Estados Unidos;

f)     Em dezembro último, o Governo Americano anunciou diretrizes reguladoras sobre a tecnologia de inteligência artificial para limitar o alcance excessivo das autoridades. O Comitê de Supervisão e Reforma da Câmara dos Deputados anunciou que, em breve, deverá propor uma legislação que irá regular o uso do reconhecimento facial por órgãos de segurança dos EUA (https://www.dlapiper.com/en/latinamerica/insights/publications/2019/12/congressional-hearing-to-focus-on-facial-recognition-and-national-security/);

g)   Alguns estados americanos já possuem legislação aprovada ou estão em estágio avançado de aprovação, de legislações que tratam da proibição ou imposição de uma moratória para o uso de soluções baseadas em reconhecimento facial. Dentre eles, Califórnia, Michigan, New Jersey, Washington State (onde ficam as sedes da Microsoft e da Amazon, em Seatle) e Massachusetts.

h) Desde o início de 2019, mais de dez cidades americanas já definiram dispositivos legais que proíbem ou estipulam moratória para o uso de tecnologias de reconhecimento facial. Espera-se que neste ano o número aumente sensivelmente. Dentre essas cidades, Nova York, San Diego, Somerville, Oakland, Springfield e Berkeley.

Duas cidades americanas merecem destaque, pela importância que possuem no contexto de tecnologia no mundo e por terem um enorme poder replicador: Cambridge (cidade-berço do MIT e de Harvard) e São Francisco, outro importante hub de tecnologia.

No Brasil, o número de projetos nas cidades brasileiras só aumenta e o Governo Federal demonstra claramente a intenção de estimular o uso, principalmente em ambientes carcerários e para as áreas de segurança pública, transporte e controle de fronteiras. Tanto é assim, que em outubro de 2019, foi publicado um Decreto regulamentando o repasse de recursos do Fundo Nacional de Segurança Pública para os estados e o seu uso para o “fomento à implantação de sistemas de videomonitoramento com soluções de reconhecimento facial, por Optical Character Recognition – OCR, uso de inteligência artificial ou outras tecnologias¨

Segundo estudo divulgado recentemente pelo Instituto Igarapé, o Brasil possui 37 iniciativas em cidades adotando, de alguma maneira, tecnologias de reconhecimento facial, a maioria utilizando soluções de empresas chinesas. Mais da metade (19), foram lançadas no período de 2018 a 2019. Essas soluções, em geral, são empregadas nas áreas de segurança pública, transporte e controle de fronteiras.

A Lei Geral de Proteção de Dados entrará em vigor em breve, mas não será suficiente para proteger os direitos de privacidade dos cidadãos pelo uso indevido de dados coletados por soluções de reconhecimento facial.

No final de 2019, o Ministério da Ciência, Tecnologia, Inovações e Comunicações (MCTIC) publicou uma Consulta Pública que trata da proposta para a Estratégia Brasileira de Inteligência Artificial. O texto ficou aberto para sugestões até o final de janeiro e espera-se para breve a publicação da versão final da proposta. O documento-base propõe seis eixos verticais (educação e capacitação; força de trabalho; pesquisa, desenvolvimento, inovação e empreendedorismo; aplicação pelo governo; aplicação nos setores produtivos; e segurança pública) e três eixos transversais (legislação, regulação e uso ético; aspectos internacionais; governança de IA).

No tópico que trata da Segurança Pública, o texto faz a seguinte ressalva quanto ao uso de soluções baseadas em reconhecimento facial, que reforça o que foi dito anteriormente:

¨Uma das principais aplicações de IA no campo da segurança diz respeito às soluções que permitem a identificação de objetos e de pessoas em imagens e vídeos, que podem ser utilizadas em aplicações simples – como a detecção de uma pessoa pulando um muro – até aplicações que são capazes de identificar pessoas portando armas na rua e/ou agredindo outras pessoas. ….

Por outro lado, a utilização de tais tecnologias tem também sido problematizada, principalmente no que diz respeito aos problemas associados a viés e discriminação decorrentes, em muitos casos, de bases de dados de treinamento insuficientemente representativas. Embora sistemas de reconhecimento facial para segurança pública tenham sido adotados em inúmeros contextos, inclusive no Brasil, os índices alarmantes de falsas identificações positivas suscitam preocupações. As técnicas de policiamento preditivo adotadas em outros países têm também sido criticadas a partir de perspectivas que questionam tanto a sua efetividade como também os riscos de perfilhamento racial e construção de “profecias autorrealizáveis”.

O que se espera é que a Estratégia Brasileira de Inteligência Artificial, em sua versão final, trate deste importante tópico, com base numa ampla discussão com a sociedade, de modo a traçar os preceitos legais que coíbam e punam o uso indevido de dados e informações e preserve os direitos dos cidadãos quanto à privacidade e discriminação, dentre outros.

Existem correntes contrárias à regulação ou mesmo à moratória e, ao que se percebe, é crescente o número de defensores da regulação do uso de sistemas baseados em reconhecimento facial.

Afinal, é inquestionável que o reconhecimento facial fará parte cada vez de nossas vidas. É uma união para sempre!

 

Fale com nossos consultores: contato@ciatecnicaconsulting.com.