0
0
As equipes na Índia e na Romênia usam trechos de vídeo enviados pelos clientes para solucionar problemas e treinar algoritmos de inteligência artificial.
Em um vídeo promocional, a Amazon.com Inc. diz que sua câmera de segurança doméstica Cloud Cam fornece “tudo o que você precisa para monitorar sua casa, dia ou noite”. De fato, o dispositivo artificialmente inteligente requer a ajuda de um esquadrão de funcionários invisíveis.
Dezenas de funcionários da Amazon baseados na Índia e na Romênia revisam clipes capturados pelo Cloud Cam, segundo cinco pessoas que trabalharam no programa ou que têm conhecimento direto dele. Esses trechos de vídeo são usados para treinar os algoritmos de IA para fazer um trabalho melhor, distinguindo entre uma ameaça real (um invasor doméstico) e um alarme falso (o gato pulando no sofá).
Uma equipe da Amazon também transcreve e anota comandos gravados nas casas dos clientes pelo assistente digital Alexa da empresa, informou a Bloomberg em abril.
A AI tornou possível conversar com seu telefone. Está ajudando os investidores a prever mudanças no sentimento do mercado. Mas a tecnologia está longe de ser infalível. O Cloud Cam envia alertas quando é apenas um farfalhar de papel na brisa. O Siri, da Apple Inc., e o Alexa, da Amazon, ainda ocasionalmente ouvem mal os comandos. Um dia, os engenheiros podem superar esses déficits, mas, por enquanto, a IA precisa de assistência humana. Muitos disso.
A certa altura, em um dia típico, alguns auditores da Amazon anotavam cerca de 150 gravações de vídeo, com duração de 20 a 30 segundos, segundo as pessoas, que pediram anonimato para falar sobre um programa interno.
Os clipes enviados para revisão são de testadores de funcionários, disse uma porta-voz da Amazon, bem como de proprietários de Cloud Cam que enviam clipes para solucionar problemas como notificações imprecisas e qualidade de vídeo. “Levamos a privacidade a sério e colocamos os clientes do Cloud Cam no controle de seus clipes de vídeo”, disse ela, acrescentando que, a menos que a filmagem seja enviada para fins de solução de problemas, “somente os clientes poderão ver seus clipes”.
Em nenhum lugar dos termos e condições do usuário do Cloud Cam a Amazon diz explicitamente aos clientes que os seres humanos estão treinando os algoritmos por trás de seu software de detecção de movimento.
E, apesar da insistência da Amazon de que todos os clipes sejam fornecidos voluntariamente, de acordo com duas pessoas, as equipes adotaram atividades que os proprietários de casas provavelmente não desejam compartilhar, incluindo casos raros de pessoas fazendo sexo.
Os clipes que contêm conteúdo inapropriado são sinalizados como tal e descartados para que não sejam usados acidentalmente para treinar a IA, disseram as pessoas. A porta-voz da Amazon disse que esses clipes são descartados para melhorar a experiência dos revisores humanos da empresa, mas ela não disse por que atividades inadequadas apareceriam nos vídeos enviados voluntariamente.
Os trabalhadores disseram que a Amazon impôs forte segurança na operação de anotação do Cloud Cam. Na Índia, dezenas de revisores trabalham em um andar restrito, onde os funcionários não podem usar seus telefones celulares, segundo duas pessoas. Mas isso não impediu que outros funcionários passassem filmagens para não membros da equipe, disse outra pessoa.
O Cloud Cam estreou em 2017 e, junto com a linha Alexa de alto-falantes Echo, é um dos vários dispositivos que a Amazon espera que seja uma vantagem no mercado emergente de residências inteligentes.
O dispositivo de US $ 120 detecta e alerta as pessoas sobre atividades em suas casas e oferece acesso gratuito às imagens por 24 horas. Os usuários dispostos a pagar entre US $ 7 e US $ 20 por uma assinatura mensal podem estender esse acesso por até um mês e receber alertas personalizados – para um bebê chorando, digamos, ou um alarme de fumaça. A Amazon não revela quantas Cloud Cams vende, mas o dispositivo é apenas uma das muitas câmeras de segurança doméstica no mercado, do Nest, do Google, ao Ring, de propriedade da Amazon.
Enquanto os algoritmos de IA estão melhorando no ensino de si mesmos, a Amazon – como muitas empresas – implementa treinadores humanos em seus negócios; eles ajudam o Alexa a entender comandos de voz, ensinam as lojas de conveniência automatizadas Amazon Go da empresa a distinguir um comprador do outro e até estão trabalhando em um software experimental de voz projetado para detectar emoções humanas.
O uso de seres humanos para treinar a inteligência artificial em produtos de consumo é controverso entre os defensores da privacidade, devido a preocupações de que seu uso possa expor informações pessoais. A revelação de que uma equipe da Amazon escuta comandos de voz do Alexa e divulgações subsequentes sobre programas de revisão semelhantes no Google e na Apple chamou a atenção dos reguladores e legisladores europeus e americanos. O alvoroço ainda estimulou alguns proprietários de eco a desconectar seus dispositivos.
Em meio à reação, Apple e Google interromperam seus próprios programas de revisão humana. Por seu lado, a Amazon começou a permitir que os usuários do Alexa excluíssem suas gravações de voz da revisão manual e alterou suas políticas de privacidade para incluir uma explicação de que os humanos podem ouvir suas gravações.
Os relatórios dos sites de tecnologia Information e Intercept no último ano examinaram o papel humano no treinamento do software por trás das câmeras de segurança construídas pela Ring. Os sites relataram que os funcionários usavam clipes que os clientes haviam compartilhado por meio de um aplicativo Ring para treinar algoritmos de visão computacional e, em alguns casos, compartilhavam vídeos de clientes não criptografados.
A Amazon não fala muito sobre o processo de solução de problemas do Cloud Cam. Em seus termos e condições, a empresa se reserva o direito de processar imagens, áudio e vídeo capturados por dispositivos para melhorar seus produtos e serviços.
Em uma sessão de perguntas e respostas sobre o Cloud Cam em seu site, a Amazon diz que “somente você ou as pessoas com quem você compartilhou as informações da sua conta podem visualizar seus clipes, a menos que você opte por nos enviar um clipe diretamente para solução de problemas. Os clientes também podem optar por compartilhar clipes por e-mail ou mídia social. ”
As equipes do Cloud Cam na Índia e na Romênia não sabem como a empresa seleciona os clipes a serem anotados, segundo três pessoas, mas disseram que não havia falhas técnicas óbvias nas filmagens que exigiriam o envio para fins de solução de problemas.
Em um evento do setor nesta semana, David Limp, que dirige as equipes de Alexa e hardware da Amazon, reconheceu que a empresa poderia ter sido mais próxima sobre o uso de pessoas para auditar a IA. “Se eu pudesse voltar no tempo, seria o que eu faria melhor”, disse ele. “Eu teria sido mais transparente sobre o porquê e quando estamos usando anotações humanas.”
FONTE: Bloomberg