0
0
A inteligência da máquina conquistou a imaginação humana desde a invenção do primeiro computador moderno em meados do século XX . E o mais recente marco em inteligência artificial, ChatGPT, revigorou nosso interesse generalizado na capacidade da IA de simplificar a maneira como trabalhamos.
Os avanços do ChatGPT em aprendizado de máquina são impressionantes: suas saídas de alta qualidade parecem quase humanas. Os avanços que representa para os sistemas de IA sinalizam que conquistas ainda mais notáveis estão próximas da realidade. Mas enquanto o ChatGPT sugere que todo o potencial da IA está se aproximando, a realidade é que ainda não chegou . No momento, existem grandes oportunidades para o aprendizado de máquina aumentar a inteligência humana, mas ainda não pode substituir os especialistas humanos.
Os obstáculos entre o ChatGPT e o futuro que promete
Uma confiança total na IA só pode acontecer se qualquer tecnologia de IA for comprovadamente mais eficaz do que todas as outras ferramentas usadas para servir ao mesmo propósito. E a IA ainda não foi desenvolvida para funcionar de forma totalmente autônoma. Narrow AI (ANI) geralmente descreve a IA que vemos hoje: IA projetada para uma única tarefa, como um chatbot ou gerador de imagens. O ANI ainda requer supervisão humana e alguma configuração manual para funcionar e nem sempre é executado e treinado com os dados e inteligência mais recentes. Nesse caso, o Reinforcement Learning from Human Feedback (RLHF) , que permite que o modelo aprenda a partir de respostas corretas e incorretas às solicitações, ajudou a treinar o ChatGPT.
Nossas entradas humanas em sistemas de IA também representam um desafio significativo. Os modelos de aprendizado de máquina podem ser coloridos por nossas visões pessoais, cultura, educação e perspectivas de mundo, limitando nossa capacidade de criar modelos que removem totalmente o viés. Se usado e treinado de forma inadequada, o ANI pode incutir ainda mais nossos preconceitos em nosso trabalho, sistemas e cultura. Vimos até recompensas de bugs dedicadas à remoção do viés da IA, ressaltando esses desafios. A dependência completa seria problemática, a menos que possamos identificar como construir sistemas de IA mais robustos que mitiguem o viés humano.
É tolice confiar totalmente na IA para segurança cibernética
O crescente cenário de ameaças, a diversificação dos vetores de ataque e os grupos cibercriminosos com muitos recursos exigem uma abordagem multifacetada que aproveite os pontos fortes da inteligência humana e da máquina. Uma pesquisa realizada em 2020 constatou que 90% dos profissionais de segurança cibernética acreditam que a tecnologia de segurança cibernética não é tão eficaz quanto deveria ser e é parcialmente responsável pelo sucesso contínuo dos invasores. A confiança total na IA apenas exacerbará a confiança excessiva já significativa de muitas organizações nessas ferramentas ineficazes de automação e verificação , e os relatórios de vulnerabilidade gerados pela IA com falsos positivos “certamente errados” podem até adicionar atrito aos esforços de remediação.
A tecnologia tem seu lugar, mas nada se compara ao que um ser humano habilidoso com mentalidade de hacker pode produzir. O tipo de vulnerabilidade de alta gravidade encontrada por muitos hackers requer criatividade e uma compreensão contextual do sistema afetado. Um relatório de vulnerabilidade escrito pelo ChatGPT comparado com um desenvolvido de ponta a ponta por um hacker demonstra essa lacuna na proficiência. Quando testado, o relatório do primeiro era repetitivo, carecia de especificidade e não fornecia informações precisas, enquanto o último oferecia contexto completo e orientação detalhada de mitigação.
A IA pode sobrecarregar sua equipe de segurança
Existe um meio termo. A inteligência artificial pode realizar tarefas com mais rapidez e eficiência do que qualquer pessoa. Isso significa que a IA pode facilitar muito o trabalho dos profissionais de segurança cibernética.
Os hackers éticos já usam ferramentas de IA existentes para ajudar a escrever relatórios de vulnerabilidade, gerar amostras de código e identificar tendências em grandes conjuntos de dados. O conjunto diversificado de habilidades da comunidade hacker preenche as lacunas de capacidade da IA. Onde a IA realmente ajuda é fornecer aos hackers e equipes de segurança o componente mais crítico para o gerenciamento de vulnerabilidades: velocidade.
Com quase metade das organizações sem confiança para fechar suas lacunas de segurança , a IA pode desempenhar um papel fundamental na inteligência de vulnerabilidade. A capacidade da IA de reduzir o tempo de correção, ajudando as equipes a processar grandes conjuntos de dados mais rapidamente, pode sobrecarregar a rapidez com que as equipes internas analisam e categorizam vastas áreas de sua superfície de ataque desconhecida.
IA estreita pode ajudar a enfrentar os principais desafios do setor
Já estamos vendo os governos reconhecerem o potencial da IA restrita: a Agência de Segurança Cibernética e de Infraestrutura (CISA) lista a IA como uma possível solução de inteligência de vulnerabilidade para a segurança da cadeia de suprimentos de software . Quando as minúcias diárias do importante trabalho de segurança cibernética são eliminadas, os humanos por trás da tecnologia ficam livres para prestar mais atenção à sua superfície de ataque, remediar melhor as vulnerabilidades e criar estratégias mais fortes para se defender contra ataques cibernéticos.
Em breve, o ANI poderá liberar ainda mais potencial dos hackers e profissionais de segurança cibernética que o utilizam. Em vez de se preocupar com a IA tomando seus empregos, os profissionais de segurança devem cultivar um conjunto diversificado de habilidades que complementam as ferramentas de IA, ao mesmo tempo em que mantêm uma consciência aguçada de suas limitações atuais. A IA está longe de substituir o pensamento humano, mas isso não significa que não possa ajudar a criar um futuro melhor. Para uma indústria com uma lacuna significativa de habilidades , a IA pode fazer toda a diferença na construção de uma Internet mais segura.
FONTE: DARK READING