AI-агенти створюють нові ризики для корпоративної безпеки

Опитування 418 фахівців з IT та безпеки, проведене у січні 2026 року за ініціативою компанії Token Security, засвідчило значний розрив між уявленням компаній про стан AI-безпеки та реальною ситуацією. Попри те, що 68% респондентів заявили про впевненість у видимості власних систем, переважна більшість зіткнулася з неконтрольованою появою штучного інтелекту в корпоративному середовищі.

Про це повідомляє BleepingComputer з посиланням на token.security

Проблема виникає через простоту створення агентів, які здатні інтегруватися з електронною поштою, ERP-системами та месенджерами без участі профільних фахівців. Небезпека полягає у використанні особистих API-ключів та OAuth-токенів, які часто залишаються активними навіть після того, як власник агента змінює посаду.

Експерти застерігають, що зловмисники можуть використовувати приховані інструкції, впроваджені у звичайні робочі документи, такі як рахунки-фактури, для маніпуляції діями агентів.

Деякі інструкції надходять безпосередньо від того, хто може спілкуватися з агентом. Інші потрапляють у вміст, який він зчитує, включаючи електронний лист, який ніхто не відкривав.

— Джошуа Коупленд, CISO та дослідник кібербезпеки.

Для мінімізації ризиків фахівці, зокрема з компаній Roblox та DataRobot, радять дотримуватися правил безпечного проєктування. Це включає обмеження функціонала агента та обов’язковий перегляд дій, які передбачають роботу з приватними даними або автоматичне внесення змін до фінансових систем. У разі виявлення підозрілої активності рекомендується призупинити роботу агента, відкликати облікові дані, але зберегти історію запитів та транскрипти для подальшого аудиту.

Автентичність неможливо відновити після того, як подія вже відбулася. Якщо запит від людини та ланцюжок делегування не були зафіксовані в момент виконання дії, вони втрачені назавжди.

— Раджеш Сешадрі Аппікулам, старший директор з питань ідентифікаційної безпеки в Simeio.

Наразі розробляються галузеві стандарти та навчальні ресурси для фахівців, які мають справу з безпекою агентів безпосередньо у виробничому середовищі.