Microsoft, MITRE lançam matriz de ameaça contraditória de aprendizado de máquina

Views: 122
0 0
Read Time:2 Minute, 36 Second

A Microsoft e a MITRE, em colaboração com uma dúzia de outras organizações, desenvolveram uma estrutura projetada para ajudar a identificar, responder e corrigir ataques direcionados a sistemas de aprendizado de máquina (ML).

Esses ataques, diz a Microsoft, aumentaram significativamente nos últimos quatro anos, e devem continuar evoluindo. Apesar disso, no entanto, as organizações ainda não chegaram a um acordo com o aprendizado de máquina contraditório, diz a Microsoft.

De fato, uma pesquisa recente realizada pela gigante da tecnologia entre 28 organizações revelou que a maioria delas (25) não tem as ferramentas necessárias para proteger sistemas de aprendizado de máquina e estão explicitamente procurando orientação.

“Descobrimos que a preparação não se limita apenas a organizações menores. Falamos com empresas da Fortune 500, governos, organizações sem fins lucrativos e pequenas e médias”, diz a Microsoft.

O Adversarial ML Threat Matrix, que a Microsoft lançou em colaboração com a MITRE, IBM, NVIDIA, Airbus, Bosch, Deep Instinct, Two Six Labs, Cardiff University, a University of Toronto, PricewaterhouseCoopers, o Software Engineering Institute da Carnegie Mellon University e o Berryville Institute of Machine Learning, é uma estrutura aberta focada no setor que visa abordar essa questão.

A estrutura fornece informações sobre as técnicas empregadas pelos adversários ao direcionar sistemas ML e é voltada principalmente para analistas de segurança. Estruturada como a estrutura ATT&CK, a Matriz de Ameaças ML Adversária baseia-se em ataques observados que foram vetados como eficazes contra os sistemas ML de produção.

Os ataques direcionados a esses sistemas são possíveis devido às limitações inerentes aos algoritmos ML subjacentes e exigem uma nova abordagem à segurança e uma mudança na forma como o comportamento de adversário cibernético é modelado, para garantir o reflexo preciso dos vetores de ameaças emergentes, bem como o ciclo de vida de ataque de aprendizagem de máquina contraditório em rápida evolução.

“A MITRE tem profunda experiência com problemas multi-stakeholders tecnicamente complexos. […] Para ter sucesso, sabemos que precisamos trazer a experiência de uma comunidade de analistas compartilhando dados reais de ameaças e melhorando as defesas. E para que isso funcione, todas as organizações e analistas envolvidos precisam ter certeza de que têm uma parte confiável e neutra que pode agregar esses incidentes do mundo real e manter um nível de privacidade — e eles têm isso no MITRE”, disseCharles Clancy, vice-presidente sênior e gerente geral da MITRE Labs.

O quadro recém-lançado é uma primeira tentativa de criar uma base de conhecimento sobre a forma como os sistemas de ML podem ser atacados e as empresas parceiras irão modificá-lo com a entrada recebida da comunidade de segurança e machine learning. Assim, a indústria é incentivada a ajudar a preencher as lacunas e a participar das discussões neste Grupo Google.

“Esse esforço é direcionado aos analistas de segurança e à comunidade de segurança mais ampla: a matriz e os estudos de caso visam ajudar na estratégia de proteção e detecção; a estrutura ataca os sistemas ML, para que eles possam realizar cuidadosamente exercícios semelhantes em suas organizações e validar as estratégias de monitoramento”, explica a Microsoft.

FONTE: SECURITY WEEK

Previous post Hacker é descoberto após vender dados de 186 milhões de eleitores nos EUA
Next post Cibersegurança no home office: um passo a passo para garantir a segurança da empresa

Deixe um comentário