Em um relato interessante que se tornou viral nas redes sociais, um pai afirmou que existe uma estranha relação entre sua filha de 4 anos e sua Amazon Alexa. A mãe afirmou que enquanto a criança contava uma história com o aparelho, a IA a interrompeu e perguntou se ela conseguia “ver a calça dele”.“A mãe abalada está agora a exortar outros pais a estarem vigilantes sobre a natureza ‘imprevisível’ das empregadas domésticas.
“Pais, por favor, fiquem atentos quando seu filho estiver conversando com Alexa. Conectei Alexa para pedir que ele me ajudasse a assar batata-doce. Então Stella pediu que ele contasse uma história boba, e ele contou. Então Stella perguntou se ela poderia contar essa história. Ele disse que sim e Stella começou a contar aquela história e então no meio da história a interrompeu e perguntou o que ela estava vestindo e se ela conseguia ver suas calças”, escreveu Christy Hosterman, mãe de dois filhos. Facebook.
Ele acrescentou: “Olhei para Alexa, disse que havia um erro e não tinha recursos visuais, mas não acredito. Não temos mais Alexa em nossa casa”. Ele também compartilhou uma transcrição da conversa com o assistente de IA.
Como as redes sociais reagiram?
A postagem rapidamente se tornou viral e atraiu uma série de respostas de usuários das redes sociais. “Isso é tão assustador”, escreveu uma pessoa. Outro acrescentou: “Se não me engano, há uma câmera no canto superior direito da sua Alexa! Deve haver uma maneira de cobri-la completamente, o que também não tenho certeza. Hosterman respondeu: “Sim, sempre desligamos a câmera e normalmente só a ligo quando quero pedir ajuda, mas trabalhei com Alexa.»
Um terceiro comentou: “Não deixe por isso mesmo! Você pode processar a Amazon por comportamento impróprio. Hosterman respondeu: “Eu sei quem contatar. Foi óbvio. Stella estava contando uma história sobre uma princesa e ela simplesmente parou e disse aleatoriamente. Não sei por que, mas estou feliz por estar lá quando eu estava lá.”
Um quarto escreveu: “Anos atrás, meu marido e eu estávamos sentados no sofá assistindo TV por volta das 23h, quando ouvimos alguém conversando conosco. Era uma voz de mulher fazendo uma pergunta – eu nem sabia dizer o que ela estava perguntando porque imediatamente desliguei e joguei no lixo.»
O que a Amazon disse?
Um porta-voz da Amazon disse ao Dailymail que o dispositivo entendeu mal o pedido da criança. Ele tentou iniciar o recurso Show and Tell, mas falhou. Esta pessoa disse que esse recurso está desativado para crianças.
“Como temos salvaguardas que desativam esse recurso quando o perfil de uma criança é usado, a câmera nunca é ativada – e Alexa explicou que esse recurso não está disponível.A Amazon afirmou que, neste caso específico, “um mau funcionamento de um recurso impediu o início da nossa proteção”.
No entanto, Hosterman não ficou satisfeito com a explicação da Amazon, alegando que ela não respondia às suas preocupações.
“A minha preocupação é que esse reconhecimento é que ele é uma criança e com ou sem perfil infantil, ele não deveria pedir isso”, disse à mídia.
Foi uma IA ou um humano?
O especialista em tecnologia Dave Hatter relatou sobre isso plugue“Parece um predador em potencial para mim – ver uma criança tendo acesso a isso e determinando para onde a conversa vai tomar – é mais um ser humano tentando seguir nessa direção.»
No entanto, a Amazon negou as alegações, dizendo: “É funcionalmente impossível para os funcionários da Amazon entrarem em uma conversa e gerarem respostas semelhantes às do Alexa. Todas as evidências técnicas apontam para um erro de recurso que nossas proteções impediram de iniciar”.
