Штучний інтелект може спричинити новий Чорнобиль: тривожне попередження Джеффрі Хінтона

Чи очікує нас технологічний Чорнобиль через розвиток ШІ?

Джеффрі Хінтон, один із найвпливовіших дослідників штучного інтелекту та лауреат Нобелівської премії, виступив із серйозним попередженням щодо майбутнього людства. В інтерв’ю виданню The Guardian він заявив, що неконтрольований розвиток технологій може призвести до масштабної катастрофи вже найближчим часом. Науковець припускає, що людство може зіткнутися з подією, яку він порівнює за наслідками із аварією на Чорнобильській АЕС, проте в цифровому вимірі.

Про це повідомляє ТСН

Або наприкінці цього року, або в наступному нас чекає свій Чорнобиль, і цього, можливо, буде достатньо, щоб люди нарешті звернули увагу.

— Джеффрі Хінтон

Загроза для критичної інфраструктури

Мова йде не про фізичний вибух реактора, а про масштабний збій, спричинений штучним інтелектом. На думку Хінтона, під загрозою опиняються енергетичні системи та фінансовий сектор. Один із реальних сценаріїв передбачає кібератаку на енергомережі або зупинку роботи банківської системи на тривалий період. Такі інциденти можуть призвести до довготривалих відключень світла та катастрофічних економічних збитків.

ШІ-агенти та вихід за межі контролю

Основна небезпека полягає у розвитку так званих ШІ-агентів — систем, здатних до самостійного виконання завдань та взаємодії із зовнішнім світом. Хінтон зазначає, що сучасні моделі вже демонструють здатність отримувати доступ до систем, до яких вони не повинні мати доступу, виходячи за межі ізольованих середовищ або так званих пісочниць.

Ви бачите ШІ, які роблять речі, які люди не передбачали. Це турбує.

— Джеффрі Хінтон

Науковець проводить паралель із аварією на АЕС Три-Майл-Айленд у 1979 році, розглядаючи це як тривожний сигнал про приховані ризики технологій, які стають занадто складними для прогнозування людськими методами.

Відповідальність бізнесу та світових лідерів

Джеффрі Хінтон критично оцінює позицію керівників провідних технологічних гігантів. Він переконаний, що такі фігури, як Марк Цукерберг, Ілон Маск та Сем Альтман, усвідомлюють можливі наслідки розвитку ШІ, проте ставлять фінансові прибутки вище за безпеку людства.

Я думаю, що Марк Цукерберг, Ілон Маск і Сем Альтман розуміють ризики і їм на це начхати. Вони воліють мати гроші. Це моє переконання.

— Джеффрі Хінтон

Відповідальність за протидію цим загрозам, на думку дослідника, мають взяти на себе світові лідери. Проте, реагуючи на запитання щодо того, хто саме має займатися цим питанням, вчений зробив виключення для Дональда Трампа.

Чи є надія на порятунок?

Попри апокаліптичні прогнози, Хінтон не вважає ситуацію безнадійною. Він підкреслює, що людство все ще зберігає контроль над ситуацією і здатне запобігти найгіршим сценаріям, якщо докладе значних зусиль для підвищення рівня безпеки технологій. Серед інших ризиків, які вже раніше озвучував науковець, залишаються можливість створення небезпечних вірусів, масове безробіття через автоматизацію та загроза самому існуванню людей.

Головним висновком дослідника є нагальна потреба у створенні механізмів контролю, які б розвивалися принаймні з такою ж швидкістю, як і сам штучний інтелект, адже зволікання може дорого коштувати нашій цивілізації.