0
0
Embora existam algumas preocupações sobre como os chatbots de IA generativos, como o ChatGPT, podem ser usados de forma maliciosa – para criar campanhas de phishing ou escrever malware – várias empresas estão aproveitando o poder da tecnologia de IA conversacional para aprimorar os recursos de seus produtos, inclusive para segurança.
ChatGPT, um grande modelo de linguagem (LLM) desenvolvido pela OpenAI, usa GPT 3 LLM e depende de grandes conjuntos de dados de teste selecionados de várias fontes. O ChatGPT, que pode entender a linguagem humana, fornece respostas detalhadas para perguntas simples e pode lidar com tarefas complexas, como criar documentos e escrever códigos em resposta a consultas de usuários. É um exemplo de como a IA conversacional pode ser usada para organizar grandes volumes de informações e aprimorar a experiência e as comunicações do usuário.
Por exemplo, uma ferramenta de IA conversacional – seja ChatGPT ou qualquer outra coisa – pode servir como back-end de um concierge de informações que automatiza o uso de inteligência de ameaças no suporte corporativo, de acordo com pesquisa de TI e empresa de consultoria Into-Tech Research.
Essa é a abordagem que a Orca Security parece estar adotando com a Orca Security Platform. A empresa incorporou a API GPT3 da OpenAI, especificamente a série “Da-Vinci-03”, para aprimorar a capacidade da plataforma de gerar planos de remediação contextuais e precisos para alertas de segurança, Lior Drihem, diretor de inovação da Orca, e Itamar Golan, chefe de ciência de dados , escreveu no anúncio.
O novo pipeline recebe um alerta de segurança e pré-processa os dados, como informações básicas sobre o risco e seu ambiente contextual – como ativos afetados, vetores de ataque e impacto potencial – antes de alimentar as partes como entrada para o GPT3. A IA então gera uma explicação detalhada das melhores e mais práticas maneiras de remediar o problema, escreveram Golan e Drihem. Essas etapas de correção também podem ser incorporadas em tickets, como tickets do Jira, fou equipes para referenciar e implementar.
Embora o modelo de IA possa fornecer informações imprecisas (ou resultados vagos), “os benefícios de utilizar os recursos de geração de linguagem natural do GPT3 superam quaisquer riscos potenciais e obtivemos melhorias significativas na eficiência e eficácia de nossos esforços de remediação”, de acordo com Drihem e Golan .
Esta não é a primeira vez que a Orca Security trabalha com modelos de linguagem. A empresa integrou recentemente o GPT3 em sua plataforma de segurança em nuvem para aprimorar as informações de correção que os clientes recebem em relação aos riscos de infosec.
“Ao ajustar esses poderosos modelos de linguagem com nossos próprios conjuntos de dados de segurança, conseguimos melhorar os detalhes e a precisão de nossas etapas de correção, oferecendo um plano de correção muito melhor e ajudando você a resolver o problema de maneira ideal o mais rápido possível. ”, escreveram Golan e Drihem.
Aproveitando AI e LLM para aplicativos
A Orca Security se junta a outras empresas que incorporam modelos de linguagem em seu portfólio de produtos. No início desta semana, a Gupshup lançou o Auto Bot Builder , que aproveita o GPT-3 para ajudar as empresas a criar seus próprios chatbots avançados de conversação. O Auto Bot Builder cria chatbots adaptados aos requisitos específicos da empresa usando conteúdo do site da empresa, documentos, logs de mensagens, catálogos de produtos, bancos de dados e outros sistemas corporativos, processando as informações usando GPT-3 LLM (Large Language Model) e multa -ajustá-lo com modelos proprietários específicos da indústria. As empresas podem usar o Auto Bot Builder para criar chatbots para atividades de geração de leads de marketing, descoberta de produtos, recomendações de produtos, conselhos de compras, solução de problemas e suporte ao cliente.
Esses chatbots diferem do ChatGPT, um chatbot de uso geral, mas, como o ChatGPT, eles têm um “grau excepcionalmente alto de capacidade de linguagem” para interagir com os usuários finais, de acordo com Gupshup.
A comunidade de criptomoedas também está usando o ChatGPT para criar aplicativos como bots de negociação e blogs de criptomoedas, escreveu Jerrod Piker, analista de inteligência competitiva da Deep Instinct, em um e-mail. Os exemplos incluem o uso do ChatGPT para escrever um contrato inteligente de amostra e um bot de negociação que identifica pontos de entrada e saída para ajudar a automatizar o processo de compra e venda de criptomoedas.
Um chatbot de IA generativo que pode responder a perguntas não é um conceito novo, mas o ChatGPT se destaca dos outros por causa da amplitude de tópicos que pode lidar e sua facilidade de uso, diz Casey Ellis, fundador e CTO da Bugcrowd.
FONTE: DARK READING