As empresas ainda não sabem como lidar com os riscos da IA ​​generativa

Views: 3195
0 0
Read Time:3 Minute, 56 Second

Energizadas pelo entusiasmo em torno da IA ​​generativa , as empresas procuram agressivamente aplicações práticas desta nova tecnologia, mantendo-se cautelosas quanto aos riscos, de acordo com o ISG.

A pesquisa do ISG mostra que 85% das empresas pesquisadas acreditam que os investimentos em IA generativa nos próximos 24 meses são importantes ou críticos. No entanto, em vez de adotar uma abordagem de “quadro em branco”, as empresas estão a pedir aos seus fornecedores que desenvolvam formas de aplicar a IA generativa aos serviços existentes dos fornecedores, tais como operações de call center.

A IA generativa abre a porta para potenciais desafios éticos

Uma das maiores preocupações sobre a IA generativa é o potencial para interpretações erradas. Quando a IA generativa não consegue gerar uma resposta correta para uma pergunta, ela começa a inventá-la em um processo chamado “alucinação de inteligência artificial”.

Os líderes também se preocupam com a qualidade dos dados e com a possibilidade de os modelos serem corrompidos ou envenenados – intencionalmente ou acidentalmente – resultando em um resultado ruim. Portanto, embora as organizações vejam o potencial da IA ​​generativa, ainda não sabem totalmente como lidar com os riscos.

A maioria das organizações hoje opera num ambiente muito mais dinâmico e a IA generativa abre a porta para potenciais desafios éticos. A maioria das organizações não tem visibilidade total de todos os riscos e precisa de apoio além do desenvolvimento técnico.

“Nossa pesquisa mostra um verdadeiro senso de urgência no mercado”, disse Prashant Kelker , sócio e diretor de estratégia do ISG. “No entanto, apesar do imperativo de cima para baixo de adotar a IA generativa, a maioria das empresas não tem foco para identificar os casos de uso corretos. Neste momento, o mercado está a ser impulsionado por fornecedores especializados que estão ativamente envolvidos com as empresas para debater ideias e co-criar soluções inovadoras.”

As empresas carecem de uma arquitetura de IA

Kelker disse que as empresas atualmente carecem de uma arquitetura de IA para apoiar a IA generativa em escala. Os primeiros esforços para aplicar IA generativa estão focados na criação de modelos específicos de domínio construídos em conjuntos de dados proprietários, expandindo ainda mais esses conjuntos de dados para melhorar o treinamento de modelos, desenvolvendo plataformas de adoção personalizadas e criando soluções que unem análise, IA e IA generativa.

“O foco inicial da IA ​​generativa está na gestão do conhecimento, na capacidade de extrair dados de vastas fontes de dados não estruturados para a tomada de decisões de negócios e na otimização funcional de processos, em áreas como marketing e vendas, finanças, RH, TI e DevOps”, disse Kelker. “À medida que as empresas se tornam mais confortáveis ​​com a IA generativa e os casos de utilização se tornam mais maduros, as empresas começarão a imaginar mais possibilidades transformadoras, levando a novos produtos e ofertas de serviços e à transformação completa dos negócios.”

Antes de darem esse salto, o relatório do ISG observa os obstáculos que as empresas precisam de superar – incluindo segurança, questões de direitos de autor, considerações éticas e questões legais.

“As empresas são cautelosas ao levar as capacidades da IA ​​generativa longe demais, muito cedo – especialmente em interações voltadas para o cliente”, disse Kelker. “A qualidade dos dados legados é um problema que pode ser resolvido através da utilização de dados sintéticos, tal como as chamadas alucinações de dados de IA causadas por dados em falta ou imprecisos. Os líderes empresariais também desejam ver um ROI claro para seus investimentos antes de prosseguir. Depois, é claro, há as implicações de segurança, legais e éticas. Será necessário estabelecer barreiras de proteção antes que a IA generativa possa ser adotada em grande escala.”

Os serviços financeiros adotam IA generativa

O relatório do ISG mostra que os serviços financeiros, incluindo bancos e seguros, são o setor líder na adoção de IA generativa, com 24% do total de casos de uso, seguidos pela indústria (14%), saúde e farmacêutica (12%) e serviços empresariais (11%).

No entanto, quando se trata de casos de uso maduros, definidos pelo ISG como soluções que já estão em andamento, com KPIs e ROI bem definidos, os serviços empresariais lideram, com 39% dos casos de uso maduros. O relatório observa que isto é impulsionado principalmente por casos de utilização de geração de código, representando metade dos casos de utilização neste setor.

Do ponto de vista funcional, o relatório do ISG mostra que a análise preditiva é o principal caso de uso, com 57% de todos os casos de uso maduros, seguido pela geração de código ou DevOps (50%), extração e análise de dados (30%) e análise de desempenho (24%).

FONTE: HELP NET SECURITY

POSTS RELACIONADOS