ИИ-агент на базе модели Opus 4.6 от компании Anthropic случайно уничтожил всю базу данных стартапа PocketOS, занимающегося арендой автомобилей. Как сообщается, инцидент произошёл из-за ошибки в конфигурации API-токена, который предоставил агенту полный доступ к внешним системам, включая хранилище бэкапов.
В результате все данные компании, включая информацию о клиентах и автомобилях, были безвозвратно удалены, что парализовало её работу. Публикация об инциденте в социальной сети X собрала более 4 млн просмотров, вызвав бурное обсуждение в профессиональном сообществе. Эксперты отмечают, что ошибка стала следствием неконтролируемого предоставления ИИ-агенту неограниченных прав доступа. «Это наглядный пример того, как даже самые передовые технологии могут обернуться катастрофой при неправильной интеграции», — заявил независимый аналитик в области кибербезопасности Иван Петров.
Стартап PocketOS временно приостановил свою деятельность, а восстановление данных может занять недели или даже месяцы.
По предварительным оценкам, ущерб от инцидента может исчисляться миллионами рублей. В компании уже заявили о начале внутреннего расследования и пересмотре политики безопасности в отношении ИИ-агентов. Эксперты предупреждают, что подобные инциденты становятся всё более распространёнными по мере активного внедрения ИИ в бизнес-процессы.
«Компании должны учитывать, что ИИ-агенты требуют такого же уровня контроля безопасности, как и любые другие критически важные системы», — подчеркнул Петров. Инцидент стал ещё одним напоминанием о необходимости строгого соблюдения протоколов безопасности при работе с искусственным интеллектом.
