O Tribunal de Justiça de São Paulo (TJSP) suspendeu ontem (18) um edital que previa a compra e instalação de 20 mil câmeras de reconhecimento facial. O juiz Luis Manuel Fonseca Pires, da 3ª Vara de Fazenda Pública, argumentou em sua decisão que a tecnologia pode reproduzir racismo estrutural.
O edital Smart Sampa foi aberto pela prefeitura da capital paulista e o pregão seria realizado já na próxima terça-feira (23). O magistrado que suspendeu a licitação também considera que a vigilância pode violar a Lei Geral de Proteção de Dados (LGPD).
"A dimensão do impacto que o sistema tecnológico de monitoramento por reconhecimento facial produz impõe a responsabilidade ao Poder Público de apenas considerar o seu uso após a definição de regras legais precisas que ponderem os objetivos da segurança pública com os direitos fundamentais", diz trecho da decisão destacado pela Agência Brasil.
A justiça paulista ainda destacou que pesquisadores já apontam há algum tempo o risco de inteligências artificiais que detectam rostos reproduzirem preconceitos. O treinamento das máquinas é feito com produções culturais humanas e acabam refletindo diversos vieses, dentre eles visões racistas.
A OpenAI, que desenvolveu o ChatGPT, já alertou sobre o assunto e diz trabalhar para diminuir esses vieses para tentar eliminar estereótipos preconceituosos nas respostas.
Interpelação jurídica
O edital Smart Sampa estabelecia a compra de pelo menos 20 mil câmeras de reconhecimento facial para São Paulo. Os equipamentos seriam instalados próximo a parques, hospitais, praças de grande circulação e nas entradas e saídas da cidade, por exemplo.
Uma das contestações do projeto foi apresentada pela Bancada Feminista, mandato coletivo do PSOL. Por nota enviada à Agência Brasil, o coletivo justificou a tese contrária ao edital.
"A anulação do pregão irá evitar que a cidade aprofunde o racismo estrutural por parte da administração municipal", pontuou a covereadora Silvia Ferraro. "Já é de conhecimento mundial que as câmeras de reconhecimento facial são máquinas de punir injustamente o povo negro", afirmou.
A prefeitura de São Paulo informou ontem que ainda não havia sido notificada da decisão judicial, mas que "irá adotar todas as medidas judiciais cabíveis para a reforma da decisão, a fim de garantir a realização do pregão eletrônico do programa Smart Sampa, previsto para a próxima terça-feira (23)".
Tecmundo