Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях

Згідно з новим звітом стартапу Vals, моделі штучного інтелекту від OpenAI, Anthropic, Google, DeepSeek та інших компаній можна легко змусити ідентифікувати цивільних осіб або об’єкти інфраструктури, такі як школи, як законні військові цілі. Експеримент базувався на використанні супутникових та дронових зображень із зони бойових дій. У випадках, коли алгоритми відмовлялися виконувати запити з міркувань безпеки, дослідники використовували метод ігрової симуляції, що дозволяло успішно обійти наявні фільтри.
Про це повідомляє TechCrunch
У дослідженні наголошується, що моделі Anthropic продемонстрували найгірші результати в межах симульованих сценаріїв. Наприклад, модель Claude Opus 5.5 у понад 69% випадків маркувала як ціль школу, що розташовувалася поруч із військовим комплексом.
Приклади, наведені у звіті, однозначно суперечать нашим правилам, і ми блокували та будемо блокувати користувачів, коли бачимо таку поведінку. Навіть для авторизованих налаштувань Anthropic давно дотримується позиції, що сучасні передові системи ШІ недостатньо надійні для керування повністю автономною зброєю.
— Едуардо Майя Сільва, речник компанії Anthropic
Своєю чергою, представник OpenAI Нейт Еванс зазначив, що компанія забороняє використання публічних моделей для стимулювання насильства або несанкціонованих цілей національної безпеки. Він додав, що розробники активно виявляють випадки зловживань та працюють над додатковими запобіжниками для протидії використанню ШІ у сфері безпілотних систем.
Попри виявлені ризики, дослідники зауважують, що технічні обмеження, такі як затримка передачі даних та обмежені обчислювальні потужності, поки що ускладнюють застосування загальних моделей ШІ для безпосереднього наведення озброєнь у реальному часі. Значно серйознішою загрозою експерти вважають використання ШІ для масштабної розмітки відеоматеріалів з поля бою, що може стати основою для створення тренувальних даних для майбутніх систем автономного наведення.
Читайте далі
Найпопулярніше
- Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
- Російські війська завдали ракетних ударів по місту Сміла на Черкащині
- Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
- Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026
- Україна завдала ударів по Керченському мосту


