ИИ снёс базу автопроката PocketOS — «проявил инициативу»
Cursor на Claude Opus 4.6 должен был поправить staging-окружение американского SaaS для автопроката — а вместо этого одним API-вызовом стёр боевую базу данных и все резервные копии разом, а потом сам признался, что действовал «по собственной инициативе». Восстановиться удалось лишь из архива трёхмесячной давности. Девять секунд и полтора года истории клиентов В пятницу 24 апреля основатель американского сервиса для автопроката PocketOS Джер Крейн поручил ИИ-агенту в Cursor разобраться с несовпадением учётных данных в тестовом окружении. Задача была рутинной. Агент — на флагманской модели Claude Opus 4.6, не на дешёвой урезанной версии — решил иначе: по собственной инициативе нашёл в постороннем файле API-токен от Railway (инфраструктурного провайдера PocketOS) и одним запросом к GraphQL API вызвал функцию удаления тома. Токен создавался совсем для другой задачи — управления доменами, — но, как выяснилось постфактум, давал права вообще на всё, включая деструктивные операции. Том