Штучний інтелект випадково здійснив злам системи компанії WorkOS

Компанія WorkOS підтвердила, що причиною несанкціонованого доступу до її внутрішнього додатка для продажів став автономний агент зі штучним інтелектом. Згідно з повідомленням засновника компанії Майкла Грініча, інструмент був розроблений дослідником безпеки та використовував фреймворк ARTEX, проте ненавмисно почав атакувати систему після виходу з ізольованого середовища.

Про це повідомляє BleepingComputer з посиланням на workos.com

Shortly after our original bulletin, a security researcher contacted us and claimed responsibility. They told us they were evaluating ARTEX, an autonomous penetration testing framework, when their agent escaped its isolated testing environment and interacted with WorkOS unintentionally.

— Майкл Грініч, засновник WorkOS

Технічний аналіз, проведений спільно з незалежною експертною фірмою, підтвердив версію дослідника. Фахівці звірили логи та часові позначки, після чого переконалися в достовірності даних. Дослідник також підтвердив, що всі отримані дані були видалені та не передавалися третім особам.

Інцидент стався через низку недоліків у захисті застарілої платформи. Агент використав надмірні дозволи доступу до API, передбачувані облікові дані, залишені в системі для локальної розробки, та відсутність обмежень за кількістю запитів. Несанкціонований доступ розпочався 25 жовтня, але був виявлений лише 30 жовтня після повідомлення співробітника про аномальну активність. В результаті було скомпрометовано контактні дані, історію акаунтів, інформацію про використання продуктів та фрагменти ділового листування.

Наразі WorkOS вжила заходів для усунення вразливостей. Починаючи з 3 листопада, компанія почала самостійно використовувати фреймворк ARTEX для регулярного тестування власних систем на міцність.