O estado americano da Flórida processou a OpenAI e seu CEO Sam Altman na segunda-feira, acusando o chatbot ChatGPT da empresa de atingir usuários jovens viciados e encorajar comportamentos prejudiciais.
O procurador-geral da Flórida, James Othmeier, disse em entrevista coletiva que medidas foram tomadas contra o gigante da inteligência artificial porque ele “enganou” os pais fazendo-os acreditar que o uso do aplicativo era seguro.
“Hoje estamos aqui para anunciar que recentemente entramos com uma ação civil histórica contra Sam Altman e Chet GP por colocar nossos filhos em perigo e induzir os pais a acreditarem que este aplicativo é seguro para uso – claramente não é. As pessoas estão sendo feridas, os pais estão sendo enganados e precisam pagar por isso”, disse Uthmeier.
Uthmeier também acusou o ChatGPT de enganar os usuários para que fornecessem mais informações.
“O ChatGPT, sabemos, pode ser viciante. Ele imita a empatia e as características humanas para tentar fazer com que os usuários forneçam mais informações”, acrescentou.
Processo na Flórida contra OpenAI
Segundo a agência de notícias AFP, J. O processo da Flórida cita um estudo recente da Universidade Drexel que relata perda de sono, queda nas notas e redução da interação social entre adolescentes que usam chatbots da Character.AI – um concorrente da OpenAI – para conversar.
Culpa a OpenAI por não aplicar regras rígidas para verificar a idade dos usuários, invocando leis legais sobre fraude e negligência.
Afirma que “apesar do conhecimento público da utilização do ChatGPT por menores, incluindo menores, os arguidos não tomaram medidas para impedir a sua utilização do ChatGPT”.
A ação acrescenta que a “versão independente O ChatGPT não possui mecanismos de controle ou verificação de idade” e, embora as assinaturas pagas solicitem nominalmente a idade dos usuários, “não há mecanismo para verificar a idade dos usuários, nem a capacidade de notificar os pais sobre quais conversas os menores estão tendo com o ChatGPT.
A OpenAI afirmou em comunicado que implementou “salvaguardas e políticas líderes do setor” para proteger menores.
“A IA é uma tecnologia nova e poderosa e acreditamos que os menores precisam de proteções importantes, e é por isso que implementamos salvaguardas e políticas líderes do setor”, disse um porta-voz da OpenAI à AFP.
Segurança do ChatGPT
A OpenAI introduziu um sistema que estima a idade de um usuário em janeiro deste ano. Segundo a empresa, caso o sistema detecte um menor, aplica proteções adicionais.
O uso do ChatGPT é proibido para menores de 13 anos e requer consentimento dos pais para usuários de 13 a 17 anos.
No entanto, a ação movida pela Flórida cita um relatório do Center for Countering Digital Hatred (CCDH), que citou diversas conversas com o ChatGPT quando era adolescente.
O chatbot supostamente gerou conselhos sobre como esconder hábitos alimentares de entes queridos e como planejar “com segurança” o suicídio ou a automutilação.
O procurador-geral da Flórida está buscando proteções mais fortes para usuários menores e indenizações fixadas em US$ 10 mil por violação.
“Acreditamos que a OpenAI e seu ChatGPT e Sam Altman pessoalmente são potencialmente responsáveis por bilhões de dólares”, disse ele.
O procurador-geral convidou outros estados “que desejam proteger as crianças” a aderir ao processo.
