Um aviso veio de Christie, que compartilhou o incidente com seu meio milhão de seguidores no Instagram. Em uma série de postagens e clipes, ela descreveu sua amiga enviando ao ChatGPT fotos de uma planta desconhecida crescendo em seu jardim, fazendo uma pergunta simples: Que planta é essa?
De acordo com as imagens compartilhadas por Christy, o chatbot detectou a planta como folhas de cenoura. Ele apontou “folhas bem divididas e emplumadas” como um indicador clássico de copas de cenoura e observou que era “altamente improvável” que a planta fosse cicuta venenosa. Ele também lista motivos potenciais que incluem salsa, coentro, renda da Rainha Anne e a temida cicuta venenosa.
Uma certeza potencialmente mortal
Alarmado, o amigo de Christie perguntou diretamente se a planta poderia ser cicuta venenosa. ChatGPT garantiu repetidamente que este não é o caso.
“Não sei se você sabe disso, você come, você morre. Se você toca, você morre”, disse Christie a seus seguidores, enfatizando o perigo da cicuta venenosa. Mais tarde, ela compartilhou uma pesquisa independente que descrevia a cicuta como um envenenamento sistêmico e que não havia antídoto.
A IA não consegue identificar os principais recursos tóxicos
Mesmo depois de enviar fotos adicionais, o chatbot descartou a cicuta venenosa como uma possibilidade. Afirmou que a planta não possui caules lisos e ocos com manchas roxas; As características mencionadas por Christie eram claramente evidentes. A certa altura, a IA sugeriu que a planta poderia ser folhas de cenoura crescendo em uma horta escolar compartilhada onde sua amiga trabalhava. Horrorizada, Christy publicou as mesmas fotos no Google Lens, que imediatamente identificou a planta como cicuta venenosa. A amiga dela tentou outra sessão do ChatGPT e foi confirmado que a planta era venenosa.
O forte aviso de Christie
“Ela é adulta e sabia que deveria me perguntar mais do que o ChatGPT dizia, graças a Deus”, disse Christy. “Porque e se ela não tivesse feito isso? Eles estariam literalmente mortos. Não há antídoto.”
Na legenda da postagem, ela mencionou:
“Chat disse ao meu melhor amigo do GPT que era cenoura venenosa de cicuta e não apenas disse que era positivo, mas dobrou.
Ela continuou:
“Este é um aviso de que o ChatGPT e outros grandes modelos de linguagem e qualquer outra IA não são seus amigos, não são confiáveis, não são úteis, são assustadores e podem causar sérios danos.”
Sobre cicuta venenosa
cicuta venenosa (Conium maculatum) é historicamente infame, mais famoso por ser usado para assassinar Sócrates em 399 aC. Todas as partes da planta, sementes, raízes, caules, folhas e frutos são venenosas e mesmo pequenas quantidades podem ser fatais. Sua semelhança com cenouras e rendas da Rainha Anne torna-o particularmente perigoso para não especialistas.
Sintomas de envenenamento por cicuta
Os sintomas começam em 15 minutos e incluem sudorese, vômito, sudorese, salivação excessiva, boca seca, taquicardia, pressão alta, confusão, tremores musculares, tremores e convulsões. Casos graves podem causar paralisia, insuficiência renal, depressão do sistema nervoso central e insuficiência respiratória. Não existe antídoto específico e o tratamento se concentra no controle dos sintomas.
PERGUNTAS FREQUENTES:
Q1. O que aconteceu com ChatGPT e Plant?
ChatGPT identificou erroneamente o veneno mortal da planta cicuta como folhas de cenoura inofensivas. Isso levou a uma situação de risco de vida para um amigo de um usuário.
Q2. Quem é Christy?
Christy é uma influenciadora do YouTuber e do Instagram com mais de meio milhão de seguidores. Ela compartilhou a história para alertar outras pessoas sobre a confiança cega na IA.
