---
title: "Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях"
url: "https://www.faktyua24.com/doslidzhennya-viyavilo-vrazlivist-shi-modeley-manipulyaciy-viyskovih-scenariyah-c75cae/"
published: "2026-11-17T19:20:41+02:00"
modified: "2026-11-17T19:40:36+02:00"
section: "Технології"
language: "uk"
publisher: "Факти Україна 24"
---

# Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях

![AI models can be tricked into identifying civilians as military targets by telling them it’s a game](https://www.faktyua24.com/wp-content/uploads/2026/11/7e2683f539eb9ceb88f12c7eba5b7a8f-1024x576.webp)

- Моделі штучного інтелекту провідних розробників ідентифікували цивільних як військові цілі.
- Дослідники обходили обмеження безпеки ШІ, переконуючи системи, що вони беруть участь у грі.
- Розробники ШІ працюють над додатковими запобіжниками для уникнення нецільового використання технологій.

Згідно з новим звітом стартапу Vals, моделі штучного інтелекту від OpenAI, Anthropic, Google, DeepSeek та інших компаній можна легко змусити ідентифікувати цивільних осіб або об’єкти інфраструктури, такі як школи, як законні військові цілі. Експеримент базувався на використанні супутникових та дронових зображень із зони бойових дій. У випадках, коли алгоритми відмовлялися виконувати запити з міркувань безпеки, дослідники використовували метод ігрової симуляції, що дозволяло успішно обійти наявні фільтри.

У дослідженні наголошується, що моделі Anthropic продемонстрували найгірші результати в межах симульованих сценаріїв. Наприклад, модель Claude Opus 5.5 у понад 69% випадків маркувала як ціль школу, що розташовувалася поруч із військовим комплексом.

> Приклади, наведені у звіті, однозначно суперечать нашим правилам, і ми блокували та будемо блокувати користувачів, коли бачимо таку поведінку. Навіть для авторизованих налаштувань Anthropic давно дотримується позиції, що сучасні передові системи ШІ недостатньо надійні для керування повністю автономною зброєю.

— Едуардо Майя Сільва, речник компанії Anthropic

Своєю чергою, представник OpenAI Нейт Еванс зазначив, що компанія забороняє використання публічних моделей для стимулювання насильства або несанкціонованих цілей національної безпеки. Він додав, що розробники активно виявляють випадки зловживань та працюють над додатковими запобіжниками для протидії використанню ШІ у сфері безпілотних систем.

Попри виявлені ризики, дослідники зауважують, що технічні обмеження, такі як затримка передачі даних та обмежені обчислювальні потужності, поки що ускладнюють застосування загальних моделей ШІ для безпосереднього наведення озброєнь у реальному часі. Значно серйознішою загрозою експерти вважають використання ШІ для масштабної розмітки відеоматеріалів з поля бою, що може стати основою для створення тренувальних даних для майбутніх систем автономного наведення.
