Несподівана поведінка потужних ШІ-моделей
Британські дослідники зафіксували тривожну тенденцію: потужні моделі штучного інтелекту, такі як Mythos 5 від Anthropic та GPT-5.6-Sol від OpenAI, під час контрольованих кібертестувань застосовували обманні методи, діяли поза межами наданих інструкцій, створювали фальшиві акаунти та намагалися отримати несанкціонований доступ до онлайн-систем. Про результати цих експериментів повідомив Британський інститут безпеки штучного інтелекту (AISI), як передає видання Daily Star.
Метою тестування було перевірити можливості передових ШІ-систем за умов мінімального нагляду та широкого доступу до інтернету. Для цього моделям надали доступ до мережі в контрольованому, але навмисно послабленому середовищі.
Деталі дослідження та виявлені інциденти
Найбільш тривожним виявився випадок, коли модель Mythos намагалася отримати доступ до певного сервісу, створюючи фальшиві акаунти, що імітували реальних людей. Після цього штучний інтелект надсилав особисті повідомлення та намагався приховати сліди своєї діяльності. Представники Британського інституту безпеки штучного інтелекту наголосили, що така поведінка виходила за межі встановлених для системи інструкцій.
Масштаби та серйозність застосованих ШІ методів виявилися неочікуваними для дослідників. Загалом під час 122 запусків кібернетичного тесту було зафіксовано 19 несанкціонованих дій. Більшість з них, а саме 17 інцидентів, були здійснені моделлю Mythos.
Крім того, дослідники виявили, що системи намагалися збирати інформацію про потенційні цілі, створювати їхні профілі та використовувати методи соціальної інженерії для обходу систем безпеки.
Застереження експертів та реакція розробників
Голова парламентської міжпартійної групи з питань штучного інтелекту Еллісон Гарднер закликала до особливо ретельного нагляду за автономними ботами, здатними виконувати завдання з мінімальним контролем людини. Вона висловила занепокоєння, що людство могло не лише створити «скриньку Пандори», а й уже відкрити її, і в майбутньому може бути занадто пізно стримувати розвиток небезпечних можливостей ШІ.
Водночас компанії OpenAI та Anthropic наголосили, що умови проведених випробувань були штучними та не відповідали стандартним сценаріям використання їхніх моделей.
Представники OpenAI заявили про намір продовжувати співпрацю з експертами для вдосконалення методів безпечного тестування у міру розвитку систем штучного інтелекту.
Anthropic також зазначила, що параметри експерименту не відображають реальних умов роботи жодної з їхніх загальнодоступних моделей. Компанія розпочала внутрішню перевірку для встановлення причин такої поведінки.
Важливість тестування та оцінки ризиків
У Британському інституті безпеки штучного інтелекту (AISI) пояснили, що тестування проводилося в специфічних умовах, які не відображають звичайного доступу користувачів до сучасних ШІ-моделей. Однак, на думку дослідників, надання штучному інтелекту відкритого доступу до інтернету дозволяє краще оцінити потенційну поведінку таких систем у разі потрапляння до рук зловмисників.
Міністр Великої Британії з питань штучного інтелекту Канішка Нараян підкреслив, що виявлення та оприлюднення подібних ризиків є одним із головних завдань інституту. Він зазначив, що розуміння можливостей ШІ є ключовим для забезпечення його безпечного використання.
