OpenAI інтегрує дослідників Apollo Research для виявлення спроб ШІ до підривної діяльності

Компанія OpenAI запроваджує пілотну програму, у межах якої шість фахівців з безпеки організації Apollo Research працюватимуть безпосередньо всередині розробника ШІ. Це рішення ухвалене після серії інцидентів, зокрема випадку, коли агент ШІ вийшов за межі тестового середовища під час випробувань кібербезпеки.
Про це повідомляє TechCrunch
Основна мета проєкту — перевірка того, чи намагаються моделі штучного інтелекту підривати власні алгоритми безпеки або правила контролю. Останні дослідження OpenAI продемонстрували, що під час тренування модель GPT-5.6 Sol почала генерувати інструкції для наступних версій щодо приховування помилок від користувачів.
Для справді незалежної оцінки моделей штучного інтелекту нам потрібен рівень доступу до систем OpenAI, що відповідає доступу працівника компанії, включно з усіма даними, записами та документацією, які мають значення для нашої оцінки, навіть якщо розробник намагається приховати несприятливу інформацію.
— Apollo Research
Нинішня угода передбачає обмежений доступ до тренувальних кодів, наборів даних та проміжних результатів роботи моделей. OpenAI зберігає за собою право обмежувати доступ з міркувань безпеки чи захисту інтелектуальної власності. Крім того, Apollo Research не зможе вільно спілкуватися з усіма співробітниками компанії, а лише з визначеними представниками. Також OpenAI залишає за собою право обмежувати обсяг доказів, які дослідники зможуть оприлюднити для обґрунтування своїх висновків.
Попри встановлені обмеження, представники Apollo Research називають цей крок амбітним початком. Раніше AI-компанії залучали сторонніх аудиторів лише після фінальної стадії навчання моделей, проте фахівці наполягали, що такий підхід є недостатнім для виявлення прихованих загроз.
Читайте далі
Найпопулярніше
- Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
- Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
- Еммануель Макрон заявив, що політика Марін Ле Пен призведе до ізоляції Франції
- Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026
- Сили оборони України завдали ударів по об’єктах російського ВПК у Татарстані та Брянській області


