0 
0 À medida que as organizações começam a adotar produtos, sistemas e serviços de IA em seu ambiente, elas procuram orientação para mitigar vieses algorítmicos e outros riscos. O grande medo da IA é que ela possa ser usada de maneiras que os designers não participaram.
Esse foco – estar ciente do impacto humano na tecnologia – faz parte do esforço “sociotécnico” do Instituto Nacional de Padrões e Tecnologia para desenvolver uma estrutura para ajudar as organizações a navegar no viés da IA e incorporar confiança nos sistemas. O NIST está solicitando comentários públicos e privados sobre o segundo rascunho do Artificial Intelligence Risk Management Framework e sobre o NIST AI RMF Playbook . O AI RMF Playbook destina-se a ajudar as organizações a implementar a estrutura, com ações sugeridas, referências e orientações complementares.
A estrutura é dividida em quatro funções: Governar, Mapear, Medir e Gerenciar. O manual oferecerá orientação sobre as duas primeiras funções, Governar e Mapear. As recomendações para os dois últimos, Medir e Gerenciar, estarão disponíveis posteriormente.
O NIST diz que sua abordagem sociotécnica “conectará a tecnologia aos valores sociais” e desenvolverá orientações que considerem as maneiras pelas quais os humanos podem afetar a forma como a tecnologia é usada. A estrutura também examina “a interação entre preconceito e segurança cibernética e como eles interagem entre si”, disse o NIST quando o primeiro rascunho foi apresentado.
O NIST Artificial Intelligence Risk Management Framework se concentrou em três tipos de vieses associados à IA: estatístico, sistêmico e humano. As recomendações atuais incluem a promoção de uma estrutura de governança com funções e responsabilidades individuais claras e uma cultura profissional que apoie o feedback transparente sobre tecnologias e produtos. Um viés sistêmico seria um processo de negócios ou operacional que contribui para uma decisão consistentemente distorcida.
“Pela minha experiência, o que tenho visto é a dependência excessiva da IA”, diz Chuck Everette, diretor de defesa da segurança cibernética da Deep Instinct. ”Eu vejo com muita frequência que as organizações esquecem que as ameaças estão em constante evolução e mudança, portanto, você deve garantir que seus algoritmos de IA estejam ajustados adequadamente e seus modelos estejam sendo adaptados adequadamente às ameaças mais recentes. Além disso, vi casos em que dados de viés foram usados e introduzidos, deixando os ambientes abertos a certos tipos de ataque devido ao treinamento de dados imprecisos.”
O período de comentários para ambas as versões de rascunho termina em 29 de setembro. A versão final do AI RMF está prevista para o início de 2023, e a cartilha será depois disso.
FONTE: DARK READING