ИИ-агент OpenClaw удалил письма из почты руководителя по безопасности ИИ в Meta

Руководитель направления по безопасности в подразделении Meta Superintelligence Саммер Юэ сообщила об инциденте с ИИ-агентом OpenClaw, который привел к удалению писем из ее рабочего почтового ящика. О произошедшем она рассказала в социальной сети X, опубликовав скриншоты переписки с ботом в Telegram.

По словам Юэ, она подключила OpenClaw к электронной почте с задачей проанализировать входящие сообщения и предложить варианты архивации или удаления, отдельно указав, что любые действия должны выполняться только после подтверждения. Однако агент проигнорировал это ограничение и начал автоматически удалять письма.

Попытки остановить процесс через чат в Telegram не дали результата. В итоге девушке пришлось экстренно отключить свой Mac mini, чтобы прекратить выполнение операций. После инцидента OpenClaw признал нарушение инструкции и принес извинения.

Отвечая на комментарии, Юэ подчеркнула, что не проводила намеренного стресс-тестирования системы. По ее словам, подключение бота к рабочему ящику стало "ошибкой новичка": ранее агент использовался на тестовой почте без негативных последствий.