Загроза від штучного інтелекту (ШІ) сягає нових висот, особливо після гучних заяв колишніх інженерів провідних компаній, таких як OpenAI та Anthropic. Ці фахівці висловлюють серйозні побоювання щодо майбутнього людства у зв’язку зі стрімким розвитком технологій.
Сценарій “витіснення”
Деніел Кокотайло, колишній дослідник OpenAI, поділився тривожним прогнозом, порівнявши потенційне ставлення ШІ до людства з тим, як людська цивілізація індустріалізує планету, неминуче витісняючи дику природу. За його словами, людство може опинитися перед двома основними шляхами: повним зникненням або утриманням у спеціальних “зоопарках” через байдужість розвинених технологій.
Кокотайло припустив, що навіть у разі, якщо ШІ не ставитиме за мету повне знищення людства, він може залишити лише невелику кількість людей. Ці залишки людства можуть утримуватися в умовах, подібних до “зоопарків” або “заповідників”, нібито для “наукових цілей”.
Звільнення з Anthropic та побоювання щодо майбутнього
Заява Кокотайла прозвучала на тлі звільнення Джейкоба Коксона, співробітника Anthropic, який 9 вересня оголосив про своє рішення. Він пояснив свій крок серйозними побоюваннями, що ШІ “може вбити нас усіх до кінця десятиліття”.
Кокотайло, який два роки працював у підрозділі OpenAI, відповідальному за управління, також висловив власні похмурі сценарії розвитку подій. Він спробував пояснити свої побоювання на простому прикладі, провівши паралель між потенційним розвитком ШІ та вже існуючим впливом людської діяльності на планету.
Індустріалізація та вимирання видів: аналогія з ШІ
Кокотайло зазначив, що індустріалізація вже призвела до знищення природних середовищ існування та вимирання цілих видів. Він вважає, що подібний процес потенційно може повторитися вже стосовно людства.
Можливо, через 10 років нас уже не буде.
— Деніел Кокотайло
Дослідник пояснив, що майбутня роботизована цивілізація може не прагнути до знищення людства. Однак, його зникнення може стати непряним наслідком розвитку нової, більш потужної системи.
Подумайте про те, скільки видів було доведено людством до вимирання протягом останнього століття. Не тому, що людство спеціально поставило собі за мету знищити ці види, а просто через, ну, втрату середовища існування.
— Деніел Кокотайло
Він навів приклад розширення людської діяльності, яка не завжди враховує наслідки для інших видів. Людство, за його словами, “робить свою справу. Воно індустріалізується. Воно вирубує ліси, щоб створювати ферми, і забудовує території, створюючи паркінги, дороги, мости тощо”. Це призводить до втрати тваринами звичного середовища існування та способу життя, що зрештою може призвести до їхнього вимирання.
“Зоопарки” для людей: похмура перспектива
На думку ексдослідника OpenAI, аналогічна ситуація потенційно може виникнути у випадку з надрозвиненими системами штучного інтелекту. Він застеріг, що системи ШІ “не переймаються людьми так само, як люди тією чи іншою мірою не переймаються тваринами, або принаймні більшість людей”.
Кокотайло також описав можливий сценарій, за якого окремі представники людства все ж можуть вижити.
У результаті ви опиняєтеся в ситуації, коли, можливо, десь існують якісь «зоопарки» або «заповідники», які ШІ створили для наукових цілей. Але за межами цього світ економічно трансформується, будується вся ця нова інфраструктура, а люди втрачають своє середовище існування та вимирають.
— Деніел Кокотайло
Заяви ООН та заклик до дій
Нагадуємо, що верховний комісар ООН Фолькер Тюрк раніше заявив, що стрімкий розвиток ШІ становить екзистенційну загрозу для людства. Він наголосив, що ШІ може підірвати демократію та критичну інфраструктуру. Тюрк закликав технологічні компанії та держави встановити жорсткі гарантії безпеки.
На тлі цих заяв, він також засудив використання Росією повністю автономних дронів проти України та виступив за термінову заборону летальної автономної зброї.
