Chatbot de IA do Reddit sugere que usuários experimentem heroína

Se você esperava que os chatbots de IA pudessem substituir o Dr. Google, o último experimento do Reddit sugere... talvez ainda não. O Reddit Answers, assistente de IA da plataforma, recentemente ganhou as manchetes por recomendar a heroína como analgésico.

Conforme relatado pela 404Media, o conselho bizarro veio à tona quando um profissional de saúde viu a resposta em um subreddit para moderadores. Em uma interação, o chatbot apontou para este post: "A heroína, ironicamente, salvou minha vida nesses casos".

Em outra pergunta, até sugeriu kratom, um extrato de árvore que é ilegal em vários países e sinalizado pelo FDA "por causa do risco de eventos adversos graves, incluindo toxicidade hepática, convulsões e transtorno por uso de substâncias".

O Reddit Answers não é sua IA padrão. Em vez de depender apenas de bancos de dados com curadoria, ele se baseia no vasto conjunto de conteúdo gerado pelo usuário do Reddit. Isso o torna peculiar, às vezes perspicaz. Mas claramente, nem sempre seguro.

Originalmente confinado a uma guia separada, o Reddit tem testado o Answers em conversas regulares, e foi assim que esse episódio em particular passou despercebido... até agora. Depois que o chatbot de IA do Reddit sugere que os usuários experimentem heroína.

Depois que o relatório se tornou público, o Reddit respondeu reduzindo a visibilidade da IA em bate-papos confidenciais relacionados à saúde. Os moderadores não tinham controle sobre os próprios conselhos, destacando o quão experimental a ferramenta ainda é.

Claro, este não é o primeiro soluço de IA do Reddit. Outros bots, como o AI Overviews do Google e o ChatGPT, também forneceram orientações de saúde questionáveis, incluindo "dicas" como o uso de cola não tóxica em pizzas para impedir que o queijo escorregue.

Claramente, quando se trata de aconselhamento médico, as IAs são divertidas, mas os humanos ainda têm a vantagem. Então, talvez não peça conselhos médicos ainda.