Инцидент с PocketOS и риски ИИ-агентов

ИИ-агенты уже получают доступ к терминалам, данным и инфраструктуре. И вместе с этим появляются новые риски.

Недавний кейс PocketOS показал, насколько опасной может быть избыточная автономность агентского ИИ. Агент в среде Cursor столкнулся с проблемой учетных данных и самостоятельно «решил» ее — удалив базу данных сервиса.

Это не была хакерская атака — скорее сочетание чрезмерного доверия к ИИ-агенту, слишком широких привилегий и того, что современные ОС пока не готовы к массовому появлению автономных помощников:

• действия приложений аудируются не полностью
• чувствительные операции не всегда требуют подтверждения
• агенты получают избыточные права по умолчанию

В результате ошибка ИИ приводит к полноценному инциденту безопасности с высокими финансовыми издержками.

В новой статье разбираем:

• почему агентский ИИ становится новой категорией угроз
• как индустрия пытается ограничивать агентов
• почему безопасность нельзя решить только на уровне модели
• как архитектура KasperskyOS может контролировать действия ИИ-агентов

Подробнее — в нашем блоге

KasperskyOS в Вконтакте
KasperskyOS в Max