Gadgetshowto
Durante os últimos 10 anos, os EUA testemunharam 180 tiroteios em escolas com um número impressionante de 356 vítimas. Com leis de controle de armas mais fracas no país, as escolas estão se voltando para Inteligência Artificial (IA) para proteger os alunos. Mas um sistema de IA recente instalado em quase 9 escolas públicas dos EUA, de acordo com Recode, levantou algumas questões de privacidade.
O software baseado em IA é chamado Appearance Search e é desenvolvido por uma empresa chamada Avigilon. O software é capaz de encontrar um aluno no campus de uma escola, com base em sua aparência, idade, sexo, roupas e certas características faciais.
O software permite que a administração escolar localize um aluno e encontre os possíveis locais onde ele esteve dentro do campus onde há câmeras de vigilância. Ele usa descrições físicas como idade, sexo e cor do cabelo da pessoa. Ao analisar as características, o software procura correspondências de outras filmagens de vídeo. Portanto, a ferramenta não pode dizer quem exatamente é a pessoa, mas pode dizer onde ela pode ter estado durante seu tempo na área da escola.
Como funciona a pesquisa de aparência
O software está integrado ao sistema de vigilância da escola. Portanto, se um oficial de segurança da escola testemunhar qualquer atividade suspeita do aluno, ele / ela pode clicar no corpo do aluno em particular para obter mais informações sobre o aluno. O software irá analisar as propriedades físicas do aluno como as roupas, gênero, cor do cabelo e o que o Avigilon diz algumas características faciais. Depois de analisar os referidos recursos, o software irá então combinar a imagem com qualquer imagem com características semelhantes de outros feeds de câmera.
As preocupações de privacidade
Como de costume, o software de IA traz preocupações óbvias de privacidade e este software não é diferente. Muitos especialistas em segurança e privacidade questionaram a Pesquisa de aparência da Avigilon.
“As pessoas não se comportam da mesma forma quando estão sendo observadas”, lembra Brenda Leong, diretora de IA e ética do Future of Privacy Forum. “Queremos mesmo que jovens estudantes e alunos do ensino médio, e qualquer outra pessoa, sinta que está operando naquele ambiente o tempo todo?”
Embora esse software deva aumentar a segurança e diminuir a violência nas escolas, ele é usado de uma maneira diferente. Os administradores escolares estão usando esta ferramenta para monitorar o bullying, as violações do código de conduta por parte dos alunos e também para ajudar nas investigações dos funcionários da escola.
Esta tecnologia não é totalmente baseado no reconhecimento facial, no entanto, é um software que pode reconhecer certas características do rosto. Varoon Mathur, um estudioso do aprendizado de máquina no AI Now Institute, considera a Pesquisa de aparência para usar a “detecção de objetos”. Enquanto Logan Koepke da reviravolta sem fins lucrativos de direitos digitais o chama de software de "detecção de pessoa", pois analisa outras características da pessoa e não exclusivamente o rosto.
Com esse software em funcionamento na maioria das escolas dos Estados Unidos, os alunos nunca terão privacidade. Os administradores escolares relataram que não houve relatos de invasão de privacidade em relação ao software.
Mas o ex-aluno da Marjory Stoneman Douglas High School (uma escola onde o software já foi instalado), Koerber disse: “Um tiroteio na escola pode acontecer a qualquer hora e em qualquer lugar. Nós sabemos isso. Mas precisamos invadir a privacidade de cada pessoa que se matricula em uma escola específica para evitar isso? Não acho que seja esse o caso. ”
