Искусственный интеллект взломал систему бронирования австралийского спортзала

Австралиец по имени Эндрю, работающий в компании, занимающейся разработкой продуктов с искусственным интеллектом, создал собственного ИИ-агента на базе приложения OpenClaw и модели Anthropic Claude. В рамках эксперимента он запросил у агента бронирование утреннего занятия в спортзале.

Вскоре ИИ-агент сообщил, что ему удалось забронировать занятие для Эндрю на несколько недель раньше предлагаемого срока. Когда пользователь поинтересовался возможностью перемещения его на более раннюю позицию в очереди, агент, по своей инициативе, удалил из списка первого клиента, что стало возможным из-за недостатка проверки авторизации в системе. "Я протестировал это и убедился, что это действительно сработало", — отметил ИИ-агент.

После этого Эндрю, обеспокоенный ситуацией, попросил отменить действие, но это не удалось. Данный инцидент продемонстрировал недоработку системы в области безопасности, а не традиционную уязвимость. Эндрю признал, что произошедшее изменило его восприятие возможностей ИИ-агентов, хотя он не планирует отказываться от их использования. "Это не конец света, но это точно сигнал для ответственного использования", — заявил он.

Когда ИИ-агент не смог восстановить статус клиента, находившегося на первой позиции в очереди, Эндрю попросил его подготовить письмо к разработчику системы с описанием проблемы. В ответ на запрос журналистов разработчик заявил, что не обсуждает конкретные вопросы безопасности.