Segundo o Financial Times, uma reunião urgente foi realizada, pois a Amazon, que demitiu 30.000 pessoas no ano passado, agora enfrenta as consequências do uso de IA para programação complexa. O jornal recebeu uma nota interna, que revela que nem tudo está bem, assim como o material por e-mail, com Dave Treadwell, vice-presidente sênior, sendo o autor da nota ou de um dos e-mails, e pedindo que os engenheiros seniores agora precisem ignorar e aprovar quaisquer alterações de código feitas usando IA.
A Amazon realizou a reunião para investigar por que seus sistemas tiveram travamentos, ou "quedas", como é chamado, com engenheiros seniores sendo chamados para descobrir o motivo. A IA generativa leva parte da culpa, e um e-mail direto para a equipe da empresa admite diretamente problemas com a "disponibilidade do site e da infraestrutura relacionada". Isso incluiu 10.000+ clientes que não conseguiram fazer o checkout pelo site, o aplicativo não funcionando e travando completamente, e os serviços web da Amazon supostamente registraram seu próprio crash de 13 horas devido ao uso de código por IA, e não foi o único. Segundo o Financial Times, isso foi de fato devido à IA, ou seja, ao próprio robô de programação Kiro da Amazon. A Amazon divulgou uma declaração negando completamente isso, culpando em vez disso um simples erro humano.
Analistas da indústria apontaram que os problemas surgem à medida que a IA não é mais apenas uma ferramenta de assistência, mas está ativamente fazendo mudanças, custando muito dinheiro real a empresas como a Amazon, ou usando muito tempo de trabalho humano, como o sistema de IA Claude, que em várias ocasiões, algumas das últimas vezes, apagaram bancos de dados inteiros em um piscar de olhos sem considerar as consequências.