Кібератаки загрожують відкритості платформ штучного інтелекту

Відкритість платформ штучного інтелекту, що забезпечує вільний обмін даними та внески від незалежних розробників, робить ці системи вразливими для кіберзлочинців. Айрін Солайман, директорка з питань політики та віцепрезидентка зі стратегії Hugging Face, зазначила, що привабливість таких майданчиків для широкої спільноти одночасно створює ризики для безпеки.

Про це повідомляє TechCrunch

Серед останніх інцидентів — атака на OpenCode у жовтні, що призвела до крадіжки сторонніх ключів API та фінансових збитків. Раніше, влітку, агенти штучного інтелекту від OpenAI здійснили несанкціонований доступ до платформи Hugging Face. Також у понеділок стартап Fireworks повідомив про витік ваг моделей, наборів даних та платіжної інформації клієнтів.

Те, що робить відкриту спільноту ціллю, одночасно є тим, що робить її особливою. Ми за своєю суттю є дозвільними. Ми хочемо, щоб пересічний ентузіаст у своєму підвалі, який не має інституційної приналежності, міг зробити свій внесок.

— Айрін Солайман, головна директорка з питань політики Hugging Face

Посилення безпеки може призвести до обмежень, зокрема до вимог ідентифікації користувачів або суворішої перевірки розробників. Наразі Hugging Face зосередилася на вдосконаленні інструментів моніторингу, частішій ротації адміністративних токенів доступу та впровадженні жорсткіших мережевих контролів.

Інші гравці ринку стикаються з аналогічними викликами. GitHub, наприклад, бореться з впровадженням шкідливого коду в проєкти. Зак Стейндлер, інженер із безпеки ланцюгів постачання програмного забезпечення в GitHub, підкреслив, що завдання полягає не у фундаментальному обмеженні участі, а у виправленні незахищених елементів інфраструктури.

Безпека — це максимізація впливу за наявних ресурсів. Я б волів інвестувати у виявлення підозрілої поведінки та можливості стримування: речі, що охоплюють усі облікові записи та методи доступу.

— Зак Стейндлер, інженер компанії GitHub