Генеральний директор OpenAI Сем Альтман висловив занепокоєння щодо майбутнього розвитку штучного інтелекту, окресливши два сценарії, яких, на його думку, людство повинно рішуче уникати. Ці заяви прозвучали на тлі закликів інших лідерів галузі, зокрема Даріо Амодеї з Anthropic, до уповільнення темпів розробки найпотужніших моделей ШІ та посилення контролю над цією технологією.
Заклик до уповільнення та відповідальності
Даріо Амодеї 12 вересня опублікував есе під назвою “We Must Pace the Frontier”, де запропонував триетапний план для сповільнення розвитку ШІ. Він наголосив на потенційних ризиках, які швидке вдосконалення технології може нести для суспільства. Сем Альтман підтримав цю ініціативу, заявивши:
Я погоджуюся з Даріо, що нам потрібно встановити темп розвитку передових технологій.
— Сем Альтман
За словами Альтмана, OpenAI вже вживає заходів безпеки, зокрема проводить попередні оцінки безпеки перед навчанням передових моделей, коли очікується значне зростання їхніх можливостей. Він також закликав інші компанії розробляти власні підходи та спільні стандарти для контролю, моніторингу та безпеки ШІ.
Два моторошні сценарії
Пізніше Сем Альтман детальніше описав свої побоювання, визначивши два ключові сценарії, яких слід уникнути:
Сценарій 1: Втрата контролю над майбутнім
Першим і найсерйознішим ризиком Альтман назвав можливість втрати контролю над майбутнім через надпотужний ШІ. Він наголосив, що OpenAI стоїть на боці людства, і штучний інтелект завжди має служити людям. Для досягнення цієї мети критично важливо, щоб методи узгодження поведінки ШІ з людськими цілями та технології безпеки розвивалися швидше, або щонайменше не відставали від зростання можливостей самих моделей.
Сценарій 2: Нав’язування світогляду
Другий моторошний сценарій, на думку Альтмана, полягає в тому, що надзвичайно потужний штучний інтелект може потрапити під контроль однієї людини або однієї компанії. Якщо така потужна технологія буде використана для нав’язування власного бачення світу іншим, наслідки можуть бути надзвичайно антиутопічними.
Якщо надзвичайно потужний ШІ буде використаний однією людиною або компанією, щоб нав’язати всім іншим своє бачення світу, наслідки можуть бути надзвичайно антиутопічними.
— Сем Альтман
Саме з цієї причини Альтман підтримує ідею Амодеї щодо “уповільнення” розвитку передових систем ШІ. Однак він уточнив, що це не означає повну зупинку прогресу.
Коли ми говоримо про «уповільнення», ми не маємо на увазі „зупинку“. Прогрес був швидким і продовжуватиметься. Але він має бути повільнішим, ніж міг би бути за інших умов.
— Сем Альтман
Він вважає, що така ціна за додаткову безпеку буде цілком виправданою. Раніше Альтман вже заявляв про необхідність відповідальної поведінки компаній, що розробляють потужний ШІ, та забезпечення впевненості суспільства у безпеці цих технологій.
