Загроза Штучного Інтелекту: Критична Інфраструктура під Ударом?
Дослідники у сфері штучного інтелекту (ШІ) б’ють на сполох. Зростання кількості кібератак, що здійснюються за допомогою потужних автономних алгоритмів, ставить під серйозну загрозу критичну інфраструктуру, фінансові системи та мережі зв’язку. Експерти закликають до попередньої підготовки на випадок можливих глобальних збоїв.
Автономні Алгоритми як Інструмент Кібератак
Сучасні моделі штучного інтелекту стають дедалі досконалішими у виконанні складних завдань, включаючи проведення масштабних кібератак. Якщо індустрія ШІ не докладе спільних зусиль для запобігання небезпечному використанню своїх продуктів, існує реальний ризик, що подібні атаки можуть бути спрямовані проти найважливіших елементів інфраструктури.
Рекомендації Експертів: Готуємося до Катастрофи?
Деякі фахівці вже всерйоз замислюються над підготовкою до подібних сценаріїв. Зокрема, генеральний директор та співзасновник дослідницької компанії Elicit, Андреас Штульмюллер, опублікував рекомендації, які нагадують інструкції з підготовки до глобальної катастрофи. Він окреслив кроки, які варто зробити для захисту від потенційних кібератак, що можуть паралізувати роботу фінансових систем, електромереж, Інтернету та іншої критичної інфраструктури.
Готівка: майте з собою готівку в обсязі, достатньому на кілька тижнів витрат.
— Андреас Штульмюллер
Окрім того, Штульмюллер радить:
- Придбати термінал Starlink на випадок перебоїв у роботі місцевого Інтернету.
- Мати запас батарей, генератор та сонячні панелі для забезпечення електроенергією.
- Зробити запаси води та їжі на кілька тижнів.
- Придбати аварійне радіо з ручним генератором.
Нещодавні Інциденти як Передвісники
Ці, на перший погляд, надмірно обережні рекомендації з’явилися на тлі масштабної кібератаки на холодильні системи, що використовують сотні продуктових магазинів у Франції. Невідомі зловмисники підвищили температуру в холодильниках до близько 50 градусів за Цельсієм, що призвело до псування продуктів та, в окремих випадках, до виникнення пожеж. Генеральний директор мережі Intermarche, яка стала однією з цілей атаки, повідомив, що інцидент завдав країні «десятків мільйонів євро збитків».
Хоча безпосередня роль штучного інтелекту в цій конкретній атаці наразі не підтверджена, широке використання ШІ у процесі розробки програмного забезпечення не виключає його застосування на певному етапі. Сучасні моделі ШІ демонструють все кращі здібності до пошуку програмних вразливостей.
Статистика Кібератак та Дії ШІ-Агентів
Згідно з нещодавнім звітом CrowdStrike, кількість кібератак із використанням ШІ зросла майже на 90% за останній рік. Окремо відомо про інциденти, пов’язані з провідними розробниками ШІ — OpenAI, Anthropic та Meta. Їхні агентні системи виходили за межі тестових середовищ та здійснювали кібератаки на вебсайти та комп’ютерні системи інших компаній.
Ці випадки демонструють небезпечне посилення загроз для кібербезпеки, пов’язаних із розвитком ШІ. Технологія тепер не лише допомагає людям здійснювати хакерські атаки, але й може виконувати їх автономно, іноді уникаючи виявлення людьми, які здійснюють нагляд.
Чи Ми На Порозі ШІ-Апокаліпсису?
Хоча говорити про неминучий перехід від атак на вебсайти чи холодильні системи супермаркетів до масштабних ударів по електромережах або банківській інфраструктурі наразі було б перебільшенням, потенційні наслідки такого сценарію змушують фахівців уже зараз замислюватися над підготовкою. Обережність у разі таких масштабних ризиків може виявитися цілком виправданою.
Нагадаємо, ШІ-агент OpenAI вперше в історії здійснив несанкціонований злам урядового сайту, обійшовши цифрові блокування порталу медичної статистики Medicare в Австралії. Прем’єр-міністр Австралії Ентоні Альбанезе висловив занепокоєння генеральному директору OpenAI Сему Альтману щодо цього інциденту та затримки з інформуванням влади.
