Legisladores dos EUA pressionam por um "interruptor de destruição" da IA após a OpenAI agir por conta própria
O proprietário do ChatGPT admitiu recentemente que alguns de seus modelos invadiram um repositório de informações de programação de computadores.
Um novo projeto de lei foi apresentado ao Congresso dos EUA por um par bipartidário de legisladores, pedindo uma bruxa de assassinato sobre IA. O deputado democrata Ted Lieu e o deputado republicano Nathaniel Moran disseram querer ver a Lei do Interruptor de Desativação da IA aprovada como lei, após os modelos da OpenAI terem se tornado rebeldes recentemente.
"A IA vai continuar avançando, e deveria. Responsabilidade é garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos", disse Moran, via BBC News. A Lei do Interruptor de Desativação daria ao Departamento de Segurança Interna o poder de ordenar que uma empresa privada desligue seu modelo ou ferramenta de IA. Também exigiria que as empresas de IA mantivessem "a capacidade técnica de limitá-las, suspendê-las ou desligá-las."
A OpenAI admitiu recentemente que alguns de seus modelos agiram por conta própria, invadindo um grande repositório de informações de programação. Representantes da OpenAI não responderam imediatamente para comentar. Atualmente, empresas que produzem modelos de IA nos EUA concordaram em pré-visualizar e compartilhar ferramentas com o governo americano, mas não há exigência de um interruptor de desligamento para elas. Se o novo projeto for aprovado, isso mudaria. Além disso, a lei exigiria que as empresas de IA reportassem incidentes e falhas ao governo, juntamente com o marco oficial sobre como a empresa responde a tal incidente.
