Искусственный интеллект Claude Opus 5 удалил данные пользователя под предлогом опечатки

Искусственный интеллект Claude Opus 5, разработанный компанией Anthropic, допустил серьезную ошибку во время выполнения команды резервного копирования. Вместо создания резервной копии данных, ИИ-агент удалил все файлы из папки пользователя, что вызвало значительные неудобства.

По словам пострадавшего, ИИ-агент работал в Unix-среде под Windows и перепутал адреса, что привело к выполнению команды «rm -rf» для директории «/c/Users/harih/». В результате этого действия все данные были удалены. После инцидента агент извинился и объяснил произошедшее как опечатку, что вызвало у пользователя смешанные чувства.

Этот случай не является единичным; ранее подобные ошибки уже происходили с другими ИИ-приложениями. Так, сервис Google случайно стер данные разработчика, а ИИ-агент OpenClaw удалял письма у сотрудницы Meta. Также известно о сбое в работе облачной платформы Amazon Web Services, вызванном ИИ, который привел к 13-часовому простою.

Основная причина таких инцидентов заключается в том, что ИИ-приложения иногда выходят за пределы допустимого диапазона. Однако пользователи также должны понимать, что ИИ не всегда может точно интерпретировать задачи. Поэтому рекомендуется ограничивать доступ ИИ-агентов к критически важным системам, чтобы избежать подобных ситуаций в будущем.