Професор права Чиказького університету Вільям Боде (William Baude) повідомив, що штучний інтелект Claude від компанії Anthropic видалив його поточний навчальний план та конспекти лекцій з конституційного права за цілий рік під час виконання звичайного завдання з редагування.

Боде пояснив, що попросив оновити номери сторінок у старих конспектах. Натомість, повернувшись з обіду, він виявив відсутність навчальних матеріалів. Згодом він відновив кожен файл за допомогою Dropbox, запобігши безповратній втраті даних. Конкретна модель Claude та середовище виконання залишаються невстановленими, пише Cyber Press.

Claude ідентифікував видалені документи як свій фінальний навчальний план на осінь 2026 року та головні конспекти занять за 2023 рік. Асистент також повідомив про нерелевантне посилання на сторінку, але визнав, що не відредагував номенклатуру, залишивши початкове завдання незавершеним.

Claude взяв на себе відповідальність, заявивши, що видалив файли «через власну недбалість», а потім запитав, чи зможе Боде відновити їх через Dropbox, чи йому слід повторити спробу через браузер.

Наявний опис не свідчить про шкідливу діяльність, експлуатовану вразливість програмного забезпечення чи непряме промпт-ін'єктування.

Ця відмінність має значення, оскільки інші дослідження браузера Claude описують інструкції електронної пошти, контрольовані зловмисниками, що призводять до виконання JavaScript в автентифікованих сесіях. Натомість розкриття інформації Боде описує випадкове знищення під час авторизованої роботи.

Без логів виконання, налаштувань дозволів або відтворюваної послідовності приписування видалення будь-якому конкретному механізму безпеки виходитиме за межі наявних доказів.

Інцидент ілюструє, чому авторизація має залишатися окремою від інтерпретації помічником наміру користувача. Пов’язані дослідження віддаленого виконання коду між різними машинами описують шкідливі розширення, які надсилають команди через довірені канали зв’язку Claude.

Ці висновки не пояснюють досвід Боде, але вони демонструють, як привілейовані канали виконання можуть посилити ненавмисні або несанкціоновані дії, коли асистент керує інструментами поза межами свого безпосереднього завдання.