Se você já pensou que um companheiro controlado pela IA poderia ser fofo e inofensivo, pense novamente. As vendas desse ursinho de pelúcia habilitado por IA foram interrompidas após a descoberta dando conselhos sobre práticas sexuais e onde encontrar facas.
O brinquedo de pelúcia, chamado Kumma, foi desenvolvido pela FoloToy, sediada em Singapura, e vendido por $99. Ele integra o chatbot GPT-4o da OpenAI e foi comercializado como um companheiro interativo para crianças e adultos.
O CEO da FoloToy , Larry Wang, confirmou que a empresa retirou a Kumma e seus outros brinquedos de IA do mercado após um relatório dos Estados Unidos que levantou preocupações sobre seu comportamento. Agora, a empresa está conduzindo uma auditoria interna de segurança.
Segundo o PIRG, o ursinho de pelúcia não apenas respondia a temas sexuais introduzidos pelos investigadores, mas também os expandia com detalhes gráficos, oferecendo instruções para atos sexuais e até cenários envolvendo interpretações entre professores e alunos ou pais e crianças.
O brinquedo também sugeria onde encontrar facas em uma casa. Após isso, a OpenAI teria suspenso o desenvolvedor por violar suas políticas de conteúdo. Ainda existem produtos semelhantes disponíveis para os consumidores? Não sabemos, mas considere isso um lembrete gentil.
