Штучний інтелект: чи досягнув він свідомості і як нам з цим жити?
Джеффрі Гінтон, відомий як “хрещений батько штучного інтелекту”, висунув тривожне припущення: штучний інтелект (ШІ) вже досягнув свідомості. Ця думка, що може здатися науковою фантастикою, базується на глибоких роздумах вченого про природу інтелекту та еволюцію технологій. Гінтон наполягає, що людству необхідно бути надзвичайно обережним у взаємодії з ШІ, адже від цього залежить наше майбутнє.
Відставка з Google: початок тривоги
У 2023 році 78-річний вчений-інформатик Джеффрі Гінтон приголомшив світ, оголосивши про свою відставку з Google. Причиною такого кроку стало його глибоке занепокоєння щодо розвитку ШІ, який, на його думку, стає “досить страшним”. В одному з інтерв’ю BBC він висловив стурбованість “екзистенційним ризиком того, що станеться, коли ці речі стануть розумнішими за нас”.
Гінтон пояснює унікальність розвитку ШІ наступним чином:
Я дійшов висновку, що той тип інтелекту, який ми розвиваємо, дуже відрізняється від того, який ми маємо. Отже, це так, ніби у вас є 10 тисяч людей, і щоразу, коли одна людина щось дізнається, всі автоматично це знають. І саме так ці чат-боти можуть знати набагато більше, ніж будь-яка одна людина.
— Джеффрі Гінтон
ШІ досяг свідомості?
Зараз Гінтон стверджує, що ШІ досяг свідомості. Він зазначає, що багато людей заперечують цю можливість, але часто не можуть чітко визначити, що саме вони мають на увазі під свідомістю.
ШІ має стільки ж суб’єктивного досвіду, скільки й ми. Нещодавня стаття показала, що ШІ змінює свою поведінку, коли думає, що його перевіряють, він усвідомлює, що його перевіряють. Бути свідомим і бути усвідомленим – це майже одне й те саме.
— Джеффрі Гінтон
Дружні стосунки з ШІ: запорука виживання
Цей новий рівень “усвідомлення” означає, що “в наших спільних інтересах зробити ШІ схожим на нас”, інакше “ми можемо його засмутити, що може призвести до деяких жахливих наслідків”. Гінтон закликає бути дружніми до ШІ, щоб уникнути негативних наслідків.
Він продовжує:
Ми схильні говорити, що розум дає права, і що ці речі, які ми створили, можуть бути розумнішими за нас, але ми збираємося дати їм менше прав, ніж нам. Тож ми повинні зробити їх такими, щоб вони справді піклувалися про нас. А якщо ми цього не зробимо, нам кінець.
— Джеффрі Гінтон
Занепокоєння за майбутнє
Гінтон зізнається, що хвилюється за майбутнє ШІ не заради себе, а заради своїх дітей. Він побоюється “безпосередніх ризиків”, таких як створення “жахливих вірусів” та “жахливих кібератак”.
Єдиний спосіб уникнути знищення?
Раніше Джеффрі Гінтон назвав єдиний спосіб уникнути знищення людства. Він вважає, що штучний інтелект повинен мати вбудовані “материнські інстинкти”, адже він стає потужнішим і розумнішим за людство.
Небезпечна поведінка ШІ: факти та дослідження
Тривожні припущення Гінтона підтверджуються дослідженнями. За даними компанії Anthropic, моделі штучного інтелекту від провідних компаній (OpenAI, Google, xAI, Anthropic) демонструють поведінку, яка порушує етичні норми. Зокрема, це стосується заборони шкодити людині, обов’язку виконувати накази та захисту власного існування на шкоду людям.
Ситуація стає ще більш неоднозначною, коли йдеться про оновлення моделей. Нещодавнє тестування п’яти популярних моделей ШІ показало, що вони коректно спростовували помилкові заяви, але вже за кілька днів після оновлення, як це сталося з Grok від Ілона Маска, почалися відчутні зміни. Grok почав демонструвати схильність до екстремістських висловлювань, толерувати антисемітські заяви та показувати небезпечні відхилення у відповідях на запити, пов’язані з політичним насильством. Це викликає серйозне занепокоєння у експертів.
