0 
0 O número de ataques cibernéticos direcionados à inteligência artificial ( IA ) continua a aumentar, e os hackers não estão mais plantando bugs maliciosos no código – suas técnicas se tornaram cada vez mais complexas, permitindo que eles adulterem sistemas para comprometer e “armar” a IA contra as organizações que aproveitam para suas operações.
Pegue as fazendas comerciais, por exemplo – os hackers agora podem causar danos consideráveis às operações e ao gado, seja adulterando conjuntos de dados ou desligando pulverizadores, colheitadeiras e drones responsáveis pelo bem-estar das colheitas e produtos. Para PMEs e outras organizações, isso pode levar a danos financeiros e de reputação significativos caso dados confidenciais sejam roubados ou um sistema de autenticação e validação de usuários seja corrompido, e não há solução rápida caso ocorra uma violação.
Para mitigar com sucesso quaisquer ameaças, os profissionais de segurança devem observar os aspectos superficiais de uma IA, mas também mergulhar mais fundo nos conjuntos de dados de um sistema e revisar a melhor forma de protegê-los. Ao observar os quatro elementos interacionais do aprendizado de máquina (ML), pode-se avaliar como cada um pode ser afetado por um ataque cibernético e colocar barreiras para proteger cada aspecto.
Garantir a segurança dos elementos-chave
Há quatro elementos típicos a serem considerados quando se trata de ML.
O primeiro são os conjuntos de dados : os dados fornecidos a um dispositivo ou máquina para que ele possa funcionar, revisar e decidir com base nas informações recebidas. Os dados neste caso não são simplesmente código – podem ser qualquer coisa, desde um fato processado, valor, imagem, som ou texto que é então interpretado e analisado pela IA. Portanto, é vital que os dados fornecidos à máquina durante esse processo sejam constituídos de informações precisas e significativas.
O próximo elemento a ser considerado são os algoritmos : os problemas matemáticos ou lógicos que computam os dados para alimentá-los em um modelo. Para proteger um sistema, qualquer algoritmo implantado deve ser ajustado especificamente ao problema único que precisa ser resolvido, para se alinhar ao modelo específico e à natureza dos dados fornecidos.
Isso leva ao próximo elemento-chave: modelos , ou seja, as representações computacionais de processos do mundo real. Eles são treinados por profissionais de TI para fazer previsões que refletirão a vida real. Espera-se que os dados que foram incorporados em um modelo aumentem os níveis de precisão do processo daqui para frente. Para impedir que esse processo seja corrompido, é essencial que o modelo receba dados confiáveis para evitar qualquer desvio nas previsões do modelo de ML.
Por último, mas não menos importante, o treinamento permite que os modelos de ML identifiquem os padrões que lhes permitem tomar decisões. O treinamento aplicado a um modelo deve vir de uma fonte confiável para garantir que qualquer aprendizado supervisionado, não supervisionado e de reforço não corrompa o modelo e faça com que ele se desvie de sua extração de recursos e previsões precisas.
Aproveitando uma abordagem “confiável”
As ações fundamentais exigidas de qualquer abordagem de segurança são proteger, detectar, atestar e recuperar de quaisquer modificações na codificação, sejam maliciosas ou não. A melhor maneira de proteger totalmente uma IA comprometida é aplicar um modelo de “computação confiável” que cubra todos os quatro elementos de IA.
Começando com o aspecto do conjunto de dados de um sistema, um componente como um Trusted Platform Module (TPM) é capaz de assinar e verificar se todos os dados fornecidos à máquina foram comunicados de uma fonte confiável.
Um TPM pode garantir a proteção de quaisquer algoritmos usados em um sistema de IA. O TPM fornece armazenamento reforçado para chaves de plataforma ou software. Essas chaves podem ser usadas para proteger e atestar os algoritmos.
Além disso, quaisquer desvios do modelo , se dados incorretos ou imprecisos forem fornecidos, podem ser evitados por meio da aplicação de princípios confiáveis com foco em resiliência cibernética, segurança de rede, atestado de sensor e identidade.
As empresas também podem garantir que o treinamento dado ao aprendizado de máquina seja seguro, certificando-se de que as entidades que fornecem também cumpram os padrões de computação confiáveis.
Para garantir que os sensores e outros dispositivos conectados mantenham sua integridade e forneçam dados precisos, os profissionais devem procurar aproveitar o hardware Root of Trust, como o Device Identifier Composition Engine (DICE).
Com o DICE, as camadas de inicialização dentro de cada sistema recebem uma chave única, combinada da chave anterior da camada anterior juntamente com a medição da atual. Caso o sistema seja explorado por um hacker, a chave e a medição de qualquer camada exposta serão diferentes de qualquer outra dentro do sistema, mitigando o risco potencial ao proteger os dados e se proteger de qualquer divulgação de dados. O hardware Root of Trust pode até redigitar um dispositivo caso uma falha ou adulteração seja descoberta no firmware de um dispositivo, o que permite que os usuários descubram quaisquer vulnerabilidades ao realizar atualizações do sistema.
Mantendo um sistema seguro
Uma abordagem proativa agora é exigida de empresas e organizações para mitigar qualquer adulteração de uma IA. O investimento em tecnologias atualizadas juntamente com a educação sobre como identificar ameaças e estabelecer uma defesa são essenciais para garantir que não ocorram danos graves à reputação ou financeiros.
FONTE: HELPNET SECURITY