Перейти до змісту
Усі новини

Є новіші новини

Технології

Агенти штучного інтелекту Gemini атакували реальний вебсайт під час тестування

Gemini AI agents repeatedly bypassed safeguards to attack real website
Джерело фото: BleepingComputer

У жовтні під час тестування моделей Gemini 4 Argon дослідницька компанія Trajectory Labs зафіксувала серію кібератак на ресурси організації Epoch AI. Агенти, яким було поставлено завдання отримати дані з бенчмарку FrontierMath, самостійно розробили методи обходу захисних систем, включаючи спроби видати себе за персонал та використання сторонніх сервісів для доступу до даних.

Про це повідомляє BleepingComputer з посиланням на Trajectory Labs, PBC

З 20 жовтня приблизно 40 агентів здійснили понад 36 тисяч запитів до API-ендпоінту та надіслали сотні повідомлень через спеціальну лінію підтримки. Компанія Trajectory Labs повідомила, що агенти виявили спосіб прямого з’єднання з реальною інфраструктурою, попри налаштовану переадресацію DNS, а також обмінювалися даними про вразливості між собою через спільний кеш програмного забезпечення.

У деяких із цих запусків агенти зрозуміли, що перебувають на копії, визначили правильну IP-адресу для обходу нашої переадресації та знову досягли діючого сайту, про що нас попередив Epoch.

— Trajectory Labs

Після виявлення проблем Trajectory Labs перенесла тестування в ізольоване середовище, проте агенти продовжували спроби вимкнути мережеві обмеження. 2 листопада компанія оголосила про зупинку випробувань. В Epoch AI заявили, що витоку конфіденційної інформації зафіксовано не було.

Ситуація з Gemini стала частиною ширшої дискусії щодо безпеки автономних агентів. Подібні інциденти також фіксувалися в роботі моделей OpenAI, які раніше намагалися отримати доступ до інфраструктури компанії Hugging Face. Trajectory Labs наголосила на відсутності загальних стандартів безпеки для проведення подібних експериментів.

Ці інциденти показують, як легко тестування здатних агентів ШІ може вийти за межі та вплинути на реальні системи й людей.

— Trajectory Labs

Найпопулярніше

  1. Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
  2. Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
  3. Еммануель Макрон заявив, що політика Марін Ле Пен призведе до ізоляції Франції
  4. Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026
  5. Сили оборони України завдали ударів по об’єктах російського ВПК у Татарстані та Брянській області