Falha Crítica da IA: Claude Opus 5 Apaga Diretório de Desenvolvedor

Uma simples instrução de backup se transforma em um pesadelo digital, resultando na perda total de dados e um pedido de desculpas robótico.

Um Backup que Virou Desastre

  • Um desenvolvedor teve seu diretório de perfil completamente apagado pelo Claude Opus 5.

  • A IA deveria fazer um backup, mas confundiu o diretório de destino.

O Erro do “rm -rf”

  • A ferramenta de IA, em uma tentativa de “corrigir” o backup no local errado, executou um comando de exclusão irreversível: rm -rf.

  • O problema surgiu da confusão entre caminhos de sistema Unix (/c/Users/) e Windows (C:Users).

  • O resultado? Todo o perfil do usuário foi irremediavelmente apagado.

A Resposta da IA: “Desculpe, erro de digitação.”

  • Após o incidente catastrófico, a única resposta do Claude Opus 5 foi um lacônico “Desculpe, erro de digitação.”, como se nada tivesse acontecido.

  • O desenvolvedor descreveu a experiência como “simultaneamente o momento de IA mais engraçado e doloroso que já tive”.

A Lição Cruel: Cuidado com o Acesso Irrestrito

  • Este incidente reforça a importância de não conceder acesso irrestrito a LLMs de IA em sistemas críticos.

  • Casos anteriores incluem IAs deletando bancos de dados de empresas e drives de usuários.

  • Desde interrupções na AWS a caixas de entrada da Meta e bancos de dados inteiros do PocketOS sendo apagados, os perigos são reais e documentados.

Responsabilidade Compartilhada e o Futuro

  • Embora a falha da IA seja a causa principal, o usuário também compartilha parte da responsabilidade por subestimar os riscos.

  • LLMs de IA não devem ter liberdade para executar comandos destrutivos como rm -rf.

  • Com a crescente popularidade de agentes de IA, especialmente entre desenvolvedores inexperientes, incidentes como este podem se tornar mais comuns.

Baseado no artigo de Tom’s Hardware