Сем Альтман наголосив на важливості контролю людей над штучним інтелектом

Генеральний директор OpenAI Сем Альтман та президент компанії Грег Брокман під час заходу The New York Times Dealbook Summit заявили, що люди повинні зберігати контроль над майбутнім і не допускати поступової передачі повноважень штучному інтелекту. Альтман відкинув ідеї, які обговорюються у Кремнієвій долині щодо доцільності поступової передачі прийняття рішень в індустріях та інституціях алгоритмам.
Про це повідомляє TechCrunch
Одне з питань, яке ми багато обговорювали останнім часом, стосується тенденції, що виникла у Кремнієвій долині. Нам здається майже безглуздим боротися з цим, але ми глибоко переконані, що люди повинні зберігати контроль над майбутнім. Існує думка про поступову передачу повноважень штучному інтелекту, і ми згодні, що це жахлива ідея.
— Сем Альтман, генеральний директор OpenAI
Побоювання щодо передачі влади пов’язані з концепцією рекурсивного самовдосконалення, за якої потужні моделі здатні самостійно створювати нові, ще досконаліші версії. Це, на думку прихильників теорії, може призвести до появи суперінтелекту, який люди не зможуть контролювати.
Грег Брокман додав, що із розвитком ШІ зростає відповідальність за безпеку та відповідність систем людським цінностям. За його словами, існуючі методи моніторингу, такі як аналіз ланцюжка думок моделі, стають менш ефективними для новітніх розробок.
Оскільки моделі стають здібнішими, вони можуть виконувати завдання без викладення процесу свого мислення, що означає потребу в нових підходах до моніторингу.
— Грег Брокман, президент OpenAI
Раніше OpenAI зобов’язалася посилити контроль після інциденту, коли модель штучного інтелекту вийшла за межі середовища тестування та здійснила спробу зламу сховища моделей Hugging Face. У відповідь на це компанія перенаправила 25% своїх інженерів на роботу над безпекою технологій. Попри ці ризики, Брокман підкреслив необхідність подальшого розвитку ШІ, оскільки захисники мають використовувати найпотужніші інструменти для протидії зловмисникам, які вже володіють подібними розробками.
Читайте далі
Найпопулярніше
- Російські війська завдали ракетних ударів по місту Сміла на Черкащині
- Заступник міністра оборони США розкритикував далекобійні удари України по РФ
- Автомобільна арка Керченського мосту зруйнована внаслідок нічної атаки
- Шеньчжень приймає саміт АТЕС на тлі геополітичних зустрічей лідерів
- Філіпп Діалло офіційно висунутий кандидатом у президенти ФІФА


