Navegando em riscos de IA generativa e desafios regulatórios

Views: 164
0 0
Read Time:3 Minute, 41 Second

Uma visão comparativa dos riscos emergentes

“A IA generativa foi o segundo risco nomeado com mais frequência em nossa pesquisa do segundo trimestre, aparecendo entre os 10 primeiros pela primeira vez”, disse Ran Xu , diretor de pesquisa no Gartner Risk & Audit Practice. “Isso reflete tanto o rápido crescimento da conscientização pública e o uso de ferramentas generativas de IA, quanto a amplitude de possíveis casos de uso e, portanto, os riscos potenciais que essas ferramentas geram”.

Em maio de 2023, o Gartner pesquisou 249 executivos seniores de risco corporativo para fornecer aos líderes uma visão comparativa de 20 riscos emergentes. O relatório inclui informações detalhadas sobre o possível impacto, prazo, nível de atenção e oportunidades percebidas para esses riscos.

A viabilidade de terceiros foi o principal risco emergente que as organizações estão monitorando mais de perto na pesquisa do 2T23. A incerteza do planejamento financeiro foi o terceiro risco classificado, seguido pelo risco de concentração da nuvem. As tensões comerciais na China completaram os cinco principais riscos que foram divididos entre questões sintomáticas da atual ampla volatilidade macroeconômica e geopolítica e preocupações relacionadas à tecnologia.

Disponibilidade de IA generativa

O Gartner identificou anteriormente seis riscos de IA generativa e quatro áreas de regulamentação de IA que são relevantes para as funções de garantia. Em termos de gerenciamento de riscos corporativos, três aspectos principais devem ser abordados, de acordo com os especialistas do Gartner:

Propriedade intelectual

“As informações inseridas em uma ferramenta de IA generativa podem se tornar parte de seu conjunto de treinamento, o que significa que informações sensíveis ou confidenciais podem acabar em saídas para outros usuários”, disse Xu. “O uso de saídas dessas ferramentas pode acabar inadvertidamente infringindo os direitos de propriedade intelectual de outras pessoas que as usaram.”

É importante educar a liderança corporativa sobre a necessidade de cautela e transparência em torno do uso de tais ferramentas para que os riscos de propriedade intelectual possam ser devidamente mitigados em termos de entrada e saída de ferramentas generativas de IA.

Dados privados

As ferramentas de IA generativa podem possivelmente compartilhar informações do usuário com terceiros, como fornecedores ou prestadores de serviços, sem aviso prévio. Isso tem o potencial de violar a lei de privacidade em muitas jurisdições. Por exemplo, a regulamentação já foi implementada na China e na UE, com propostas de regulamentação surgindo nos EUA, Canadá, Índia e Reino Unido, entre outros.

Cíber segurança

“Os hackers estão sempre testando novas tecnologias em busca de maneiras de subvertê-las para seus próprios fins, e a IA generativa não é diferente”, disse Xu. “Vimos exemplos de código de malware e ransomware que a IA generativa foi induzida a produzir, bem como ataques de ‘injeções imediatas’ que podem induzir essas ferramentas a fornecer informações que não deveriam. Isso está levando à industrialização de ataques avançados de phishing”.

Causas e implicações do risco de viabilidade de terceiros

“A inflação persistente, menos responsiva aos aumentos das taxas de juros e contundente por mais tempo do que o previsto, aumentou os custos e as pressões de margem sobre terceiros”, disse Xu. “À medida que os bancos centrais aumentam as taxas de juros para combater a inflação, isso também provoca um processo de restrição de crédito que pode forçar os fornecedores a suspender as operações ou se tornar insolventes à medida que os custos dos empréstimos aumentam.”

Se as condições econômicas se deteriorarem amplamente, isso pode causar uma queda inesperada na demanda que pode afetar a viabilidade do fornecedor ou sua capacidade de fornecer bens e serviços em tempo hábil.

Os especialistas do Gartner identificaram três possíveis consequências de viabilidade de terceiros para os gerentes de risco monitorarem à medida que a situação se desenvolve:

  • Perda de insumos e materiais essenciais: Se terceiros estiverem aumentando seus preços devido à situação econômica mais ampla, há um risco claro de perder o acesso a insumos e materiais essenciais, pois terceiros favoreceriam clientes dispostos a pagar preços mais altos.
  • Suposições de planejamento financeiro falhas: as suposições de custo serão invalidadas à medida que os fornecedores aumentarem os preços ou falirem, exigindo custos de troca e aumento de preços para obter bens e serviços.
  • Desafios fora da cadeia de suprimentos: Parceiros, como provedores de serviços gerenciados ou parceiros comerciais, credores ou fornecedores de tecnologia podem interromper ou reduzir as operações.

FONTE: HELP NET SECURITY

POSTS RELACIONADOS