0
0
Nesta entrevista da Help Net Security, Gerwin van der Lugt, CTO da Oddity , discute o futuro da vigilância e a influência da IA . Ele também investiga como as organizações podem evitar que seus sistemas perpetuem preconceitos ou violem direitos individuais.
Que precauções existem para garantir que a vigilância em áreas sensíveis, como centros de detenção e prisões, permaneça ética e respeite os direitos de privacidade?
A Oddity é uma empresa relativamente jovem e conseguimos levar em consideração práticas éticas e de preservação da privacidade desde o início. Praticamos os princípios de “Privacidade desde a concepção”. Por exemplo, nosso software não armazena dados de vídeo nas configurações padrão, uma vez que os sistemas de gerenciamento de vídeo existentes já possuem essa funcionalidade.
Além disso, não utilizamos dados de clientes para fins de treinamento. Na maioria dos casos, nossas instalações não estão conectadas à internet e precisamos de acesso físico para manutenção e solução de problemas. Acreditamos que apesar destes inconvenientes, ainda vale a pena. Especialmente quando se trata de áreas sensíveis, como centros de detenção, onde as pessoas sob vigilância têm pouco controlo sobre a sua privacidade. No final das contas, nosso software se destina a ajudar e proteger as pessoas, e nosso objetivo é fazer isso com o menor impacto possível na privacidade.
Que desafios enfrentam os integradores de sistemas e as empresas para garantir a alta qualidade das suas soluções de vigilância?
Implantações bem-sucedidas de vigilância por câmeras exigem uma interação delicada entre as câmeras de segurança, sensores e outros hardwares, o sistema de gerenciamento de vídeo e a própria rede. O maior desafio é construir uma infraestrutura de rede que possa suportar os requisitos cada vez maiores de largura de banda das câmeras modernas.
As instalações de vigilância tendem a crescer com o tempo e, à medida que o número de câmeras aumenta, o limite de largura de banda da rede é atingido. Substituir uma câmera com defeito é um trabalho de manutenção fácil, pois afeta apenas uma única câmera. Substituir a infraestrutura de rede para duplicar ou triplicar a largura de banda é muito mais difícil e requer verificação e substituição de hardware de rede durante toda a instalação.
Freqüentemente vemos integradores tentando contornar isso diminuindo a taxa de quadros ou as configurações de taxa de bits das câmeras para reduzir a quantidade de largura de banda necessária. Embora inicialmente pareça uma solução viável, para vigilância alimentada por IA, ela pode causar problemas. Os modelos de aprendizado de máquina são sensíveis a pequenas diferenças visuais que o olho humano dificilmente consegue detectar. Especialmente se o algoritmo tiver sido treinado em entradas de alta qualidade, ele poderá ter dificuldades com fluxos de vídeo de baixa qualidade.
Como tal, ao construir uma infraestrutura de rede de vigilância a partir do zero, é uma boa ideia planear com antecedência e construí-la com bastante espaço em capacidade de largura de banda para crescer. Isto irá poupar custos a longo prazo e garantir que a instalação esteja pronta para o futuro alimentado pela IA!
Que conselho você daria a uma grande organização que deseja modernizar um sistema de vigilância desatualizado?
Em termos de hardware físico, em linha com a minha recomendação acima, reservar largura de banda suficiente é um factor crucial.
Mais importante ainda, o futuro da vigilância é a IA e as organizações devem conceber o seu sistema de vigilância tendo a IA em mente. Onde um típico centro de vigilância por câmeras ainda pode ter pessoas olhando para paredes de telas matriciais com feeds de vídeo, elas poderão em breve ser avisadas proativamente quando ocorrer um incidente. Com o mesmo número de funcionários, serão muito mais eficazes.
A primeira etapa é determinar os tipos de incidentes nos quais você está mais interessado. Existem soluções de IA para muitos tipos de incidentes. É importante considerar a IA desde o início e envolver os fornecedores de IA o mais rápido possível. Em 2023, a IA ainda não está pronta para substituir completamente os humanos. Seria sensato que as organizações estabelecessem uma implantação híbrida com humanos no circuito, ao mesmo tempo que monitorizavam e colmatavam as lacunas.
O papel da IA na vigilância é um tema quente para debate. Como pode uma organização garantir que os seus sistemas não perpetuam preconceitos ou infringem os direitos individuais?
Os modelos de IA são influenciados pelos conjuntos de dados usados para treiná-los. É imperativo que os fornecedores de IA ajustem e equilibrem cuidadosamente seus conjuntos de dados para evitar a ocorrência de preconceitos. O balanceamento de conjuntos de dados é um processo manual que exige garantir que os humanos visíveis nos conjuntos de dados sejam uma boa representação da realidade e não tenham preconceitos em relação a certas características humanas. No nosso caso, utilizamos diversos grupos de atores, de todo o mundo, para representar a violência nos nossos conjuntos de dados de formação, a fim de garantir que sejam equilibrados. Além disso, testar regularmente esses preconceitos pode ser muito útil.
Um sistema cuidadosamente projetado pode proteger e ajudar as pessoas sem afetar significativamente a sua privacidade. Isto requer considerar a privacidade desde a concepção até à implementação de sistemas de IA. Acredito que o futuro da vigilância alimentada por IA verá uma redução na violação da privacidade. Atualmente, grandes instalações de vigilância ainda exigem que humanos observem as transmissões das câmeras o tempo todo. Num fluxo de trabalho baseado em gatilhos, onde os humanos agem depois de uma IA os ter alertado, a quantidade de imagens de câmaras de segurança vistas pelos humanos é muito menor e, portanto, o risco de violação da privacidade diminui.
Como você imagina o futuro da vigilância por vídeo aprimorada por IA nos próximos 5 a 10 anos?
Estou convencido de que o clássico centro de vigilância por câmaras tal como existe agora, com muitos funcionários e paredes de vídeo, será gradualmente eliminado. Em vez disso, os sistemas de IA alertam proativamente o pessoal de segurança relevante quando ocorrem incidentes. A taxa de detecção de incidentes aumenta para 80% ou até mais (de 5% para 25%) e os socorristas e a equipe de segurança terão autonomia para ajudar mais e gastar menos do seu valioso tempo assistindo a vídeos.
FONTE: HELP NET SECURITY