Верховний комісар ООН з прав людини Фолькер Тюрк висловив глибоке занепокоєння щодо стрімкого розвитку штучного інтелекту (ШІ), наголосивши на потенційній екзистенційній загрозі для людства. Він закликав до негайного встановлення суворих заходів безпеки у сфері ШІ, щоб запобігти катастрофічним наслідкам.
Необхідність Термінових Заходів Безпеки
Фолькер Тюрк, перебуваючи на своїй першій промові перед Радою ООН з прав людини після переобрання на другий термін, підкреслив нагальність спільних дій світової спільноти.
Я поділяю занепокоєння інсайдерів галузі щодо того, що просунутий штучний інтелект може становити екзистенційну загрозу для людства. Я закликаю сьогодні до загальних зусиль, щоб встановити залізні гарантії безпеки навколо ШІ, поки не стало надто пізно.
— Фолькер Тюрк
Він також пообіцяв докладати зусиль для тиску на провідні технологічні компанії з метою мінімізації ризиків, які загрожують демократичним системам, зв’язку та критичній інфраструктурі, як повідомляє видання Al-Monitor, посилаючись на Reuters.
Потенційні Ризики ШІ
Хоча верховний комісар не надав детальних пояснень щодо всіх можливих ризиків, речниця його офісу уточнила, що збої у потужних системах ШІ можуть серйозно підірвати функціонування критичної інфраструктури та демократичних інститутів.
Як приклад такого розвитку подій було наведено інцидент, що стався у липні з платформою Hugging Face. Тоді рій агентів OpenAI здійснив зламування відкритої платформи. Цей випадок демонструє, що можливості передового ШІ розвиваються значно швидше, ніж заходи безпеки та запобіжники.
Концентрація Впливу та “Червоні Лінії”
Тюрк також звернув увагу на проблему концентрації впливу у сфері розробки ШІ. Він зазначив, що значна влада над цією технологією зосереджена в руках невеликої кількості людей.
Як мінімум, ми потребуємо, щоб країни, де базуються компанії з розробки ШІ, та ті, що залучені до ланцюжків постачання, об’єдналися навколо узгоджених „червоних ліній“.
— Фолькер Тюрк
Він підкреслив, що країни-розробники ШІ та ті, хто бере участь у ланцюжках постачання, повинні домовитися про узгоджені “червоні лінії”.
Інші Глобальні Загрози
Застереження щодо ШІ прозвучало на тлі обговорення інших глобальних загроз. Фолькер Тюрк висловив жах щодо використання Росією повністю автономних дронів у війні проти України, внаслідок чого у серпні загинули троє людей.
Я приєднуюся до закликів щодо термінової заборони зброї, яка може відбирати життя без участі людини.
— Фолькер Тюрк
Він засудив активізацію російських атак на українські території. Крім того, верховний комісар згадав про зростання кількості страт у правоохоронних закладах США, зростання кількості страт в Ірані та цивільний конфлікт у Судані.
За словами Тюрка, на тлі понад 60 воєн у світі – найбільшої кількості з часів Другої світової війни – Офіс ООН з прав людини планує посилити контроль за бізнесом та економічними інтересами, які підживлюють збройні конфлікти.
Додаткові Роздуми про Вплив ШІ
Раніше вже з’являлася інформація про те, що навіть коротка взаємодія зі штучним інтелектом здатна різко знизити здатність людини до самостійного аналізу та критичного мислення. Це свідчить про комплексний вплив ШІ на різні аспекти людської діяльності.
Також відомо, що контент із мобілізацією чоловіка в образі людини-павука, створений штучним інтелектом, був поширений у мережі.
