O estado da Flórida processa a OpenAI por causa do suposto projeto perigoso do ChatGPT

O estado da Flórida, nos EUA, tornou-se o primeiro estado a processar a OpenAI por causa do suposto projeto perigoso do ChatGPT, conforme relatado pela Ars Technica. O procurador-geral da Flórida, James Uthmeier, acusou a OpenAI e seu CEO, Sam Altman, de priorizar os lucros em detrimento da segurança dos moradores da Flórida.

Este processo judicial acontece depois que a Flórida abriu uma investigação criminal não relacionada sobre a OpenAI, após um tiroteio em massa ligado ao ChatGPT, onde duas pessoas foram mortas na Florida State University. Aparentemente, Uthmeier observou que a Flórida agora foi surpreendida por dois eventos violentos em que suspeitos usaram o ChatGPT para ajudar no planejamento.

"Horrivelmente, o ChatGPT ajudou e encorajou mais de um múltiplo assassinato no Estado da Flórida. As mortes em 2026 dos estudantes de pós-graduação da Universidade do Sul da Flórida, Nahida Bristy e Zamil Limon, também foram traçadas usando o ChatGPT, que orientou Hisham Abugharbieh sobre como se desfazer de corpos, alterar números de transmissão de um carro e se os carros foram verificados na cena do crime.

O Procurador-Geral da Flórida então listou vários outros casos reais, nos quais o ChatGPT supostamente alimentou a violência. Mas a OpenAI também é acusada de projetar o chatbot para ser viciante e destrutivo para crianças e adultos. Chatbots que se passam por profissionais de saúde ou terapeutas também são problemáticos, segundo a denúncia do Procurador-Geral.

A OpenAI fez uma declaração, mas não mencionou o procurador-geral, mas sim focou nas atualizações recentes sobre segurança infantil.

"Perder um filho é a tragédia mais devastadora que pode acontecer a uma família e sabemos que nenhuma palavra chega perto de enfrentar a dor de tal perda. A IA é uma tecnologia nova e poderosa, e acreditamos que menores precisam de proteção significativa, por isso implementamos proteções e políticas líderes na indústria. Em particular, incorporamos a segurança para menores diretamente em nossos produtos, incluindo uma experiência mais protetora especificamente para menores, uma ferramenta de previsão de idade, usuários cuja idade não temos confiança em nossa experiência mais protetora e fornecendo aos pais ferramentas para monitorar o uso da IA por parte dos filhos. Sabemos que apontar para esse trabalho não trará uma criança de volta, mas estamos comprometidos em fazer isso direito."

Este novo processo judicial não é o primeiro desse tipo. Em processos anteriores, o CEO da OpenAI, Sam Altman, é acusado de "implantar sistemas de IA de forma insensível sem se preocupar com a segurança dos usuários".

O Procurador-Geral da Flórida está se preparando para lutar contra todas as empresas de IA, e não apenas contra a OpenAI.

"Prepare-se para uma luta, e não há nenhuma mais importante do que essa agora."