Штучний інтелект намагався захистити комп’ютер, але видалив 700 ГБ даних: як Claude зруйнував працю розробника

Його ШІ-помічник Claude від фірми Anthropic, під час створення скрипта для очищення системного сміття, повністю деінсталював домашню директорію користувача, знищивши 700 ГБ даних та результати тижневої праці, як повідомляє Tom’s Hardware.

Як це трапилося

Гіймо звернувся до моделі Claude Fable з проханням створити скрипт, який би при роботі інших ШІ-агентів формував для них відокремлені директорії в системному каталозі /tmp, а після завершення їхньої діяльності видаляв би ці директорії.

Оскільки скрипт передбачав безповоротне видалення файлів, система безпеки Anthropic класифікувала це завдання як потенційно небезпечне. Система автоматично знизила рівень моделі спочатку до Opus 5, а потім до Opus 4.8.

Модель Opus 4.8 правильно ідентифікувала, що видалення домашньої директорії користувача є неприпустимим. Однак, під час проведення тесту безпеки, ШІ задіяв однакову назву змінної як для самого тесту, так і для фінального очищення. Внаслідок цього скрипт видалив всю домашню теку програміста.

Іронічний фінал полягає в тому, що скрипт успішно знищив 700 ГБ робочих даних користувача, але жодним чином не зачепив саму теку.

Фахівці висловлюють припущення, що причиною помилки стало саме автоматичне зниження версії ШІ: потужніша версія Fable 5 краще впоралася б з програмуванням і могла б виявити конфлікт змінних у коді.

Програміст відновив значну частину своїх даних завдяки збору інформації з git, nix, логів сесій тощо. Чоловік з гумором зазначив, що активно користувався десятками ШІ-агентів, але так і не організував щоденне резервне копіювання даних.