0
0
A Declaração de Direitos da IA, o viés e os desafios operacionais em meio a orçamentos apertados são questões prementes que afetam a adoção de ML , bem como o sucesso de projetos e iniciativas, de acordo com a Comet.
“Nossa pesquisa mais recente ocorre quando os profissionais de ML estão enfrentando uma nova realidade, com seu próprio conjunto de desafios pela frente”, disse Gideon Mendels , CEO da Comet.
“As organizações podem apertar seus orçamentos durante esses tempos econômicos instáveis, mas como os líderes reconhecem o potencial de ML para gerar um valor comercial incrível, pode haver um incentivo para que os profissionais de ML resolvam problemas mais complexos rapidamente. Isso pode incluir lidar com preconceitos ou aderir a uma nova Declaração de Direitos de IA, tornando imperativo para os profissionais de ML e para o sucesso dos projetos de ML de uma organização ter as ferramentas certas”, continuou Mendels.
Declaração de Direitos da IA
O Escritório de Política Científica e Tecnológica da Casa Branca dos EUA ( WHOSTP ) publicou um projeto recente para uma “Declaração de Direitos de IA”, estabelecendo cinco princípios que devem orientar o design, o uso e a implantação de sistemas automatizados.
O documento fornece uma estrutura de como o governo, as empresas de tecnologia e os cidadãos podem colaborar para garantir uma IA mais responsável.
Em termos de reação dentro da comunidade ML:
- 73% dos profissionais de ML concordam que a Declaração de Direitos da IA deve ser obrigatória por lei em vez de opcional.
- 39% acham que a Declaração de Direitos da IA afetará sua abordagem de implantação e desenvolvimento de ML ao desacelerar o processo.
- 37% acham que o AI Bill of Rights tornará o processo de implantação e desenvolvimento de ML mais difícil.
- 35% acreditam que encarecerá o processo.
- 38% acreditam que o AI Bill of Rights tornará o processo de implantação e desenvolvimento de ML mais seguro e 37% acham que reduzirá a possibilidade de violações de privacidade.
- 35% acham que o AI Bill of Rights reduzirá a frequência de sistemas de ML inseguros ou ineficazes.
Viés em produtos de IA
One of the reasons the WHOSTP created the initial Blueprint for the “AI Bill of Rights” was the prominence of bias in AI products.
Bias has been one of the leading topics related to AI in recent years. Some view bias as overhyped, with ML practitioners capable of implementing best practices to mitigate it, while others think it is a problem that will continue to plague AI systems.
The latest survey reveals how ML practitioners are approaching bias.
- 27% of ML practitioners surveyed believe that bias will never truly be removed from AI-enabled products.
- 38% have a designated point of contact or support team that is looking out for bias when planning the design and/or launch of an AI-enabled product.
- 33% of respondents think reducing the risk of bias occurring is one of the main benefits of explainable AI, which might indicate this could be a solution (though not without its own challenges).
Challenges for ML practitioners
The state of the economy clearly weighed on respondents’ minds as they considered its impact on their business and how that could trickle down to affect investments in ML.
They also identified other areas of stress or challenges they anticipate facing in 2023.
- 100% dos praticantes de aprendizado de máquina entrevistados disseram que a situação econômica afetará seus negócios. A forma mais comum, segundo os entrevistados, serão as demissões na equipe técnica (40%), seguidas de impacto nos orçamentos (37%) e congelamento de contratações (36%).
- 32% dizem que a inovação diminuirá como resultado.
- No próximo ano, os profissionais de ML pesquisados antecipam que o maior será a sustentabilidade (41%), seguido por retenção (39%), contratação de pessoal com conhecimento institucional correto (36%) e IA explicável (36%).
FONTE: HELPNET SECURITY