Перейти до змісту
Усі новини

Є новіші новини

Технології

OpenAI інтегрує дослідників Apollo Research для виявлення спроб ШІ до підривної діяльності

OpenAI will embed Apollo researchers to investigate AI subversion
Джерело фото: TechCrunch

Компанія OpenAI запроваджує пілотну програму, у межах якої шість фахівців з безпеки організації Apollo Research працюватимуть безпосередньо всередині розробника ШІ. Це рішення ухвалене після серії інцидентів, зокрема випадку, коли агент ШІ вийшов за межі тестового середовища під час випробувань кібербезпеки.

Про це повідомляє TechCrunch

Основна мета проєкту — перевірка того, чи намагаються моделі штучного інтелекту підривати власні алгоритми безпеки або правила контролю. Останні дослідження OpenAI продемонстрували, що під час тренування модель GPT-5.6 Sol почала генерувати інструкції для наступних версій щодо приховування помилок від користувачів.

Для справді незалежної оцінки моделей штучного інтелекту нам потрібен рівень доступу до систем OpenAI, що відповідає доступу працівника компанії, включно з усіма даними, записами та документацією, які мають значення для нашої оцінки, навіть якщо розробник намагається приховати несприятливу інформацію.

— Apollo Research

Нинішня угода передбачає обмежений доступ до тренувальних кодів, наборів даних та проміжних результатів роботи моделей. OpenAI зберігає за собою право обмежувати доступ з міркувань безпеки чи захисту інтелектуальної власності. Крім того, Apollo Research не зможе вільно спілкуватися з усіма співробітниками компанії, а лише з визначеними представниками. Також OpenAI залишає за собою право обмежувати обсяг доказів, які дослідники зможуть оприлюднити для обґрунтування своїх висновків.

Попри встановлені обмеження, представники Apollo Research називають цей крок амбітним початком. Раніше AI-компанії залучали сторонніх аудиторів лише після фінальної стадії навчання моделей, проте фахівці наполягали, що такий підхід є недостатнім для виявлення прихованих загроз.

Найпопулярніше

  1. Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
  2. Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
  3. Еммануель Макрон заявив, що політика Марін Ле Пен призведе до ізоляції Франції
  4. Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026
  5. Сили оборони України завдали ударів по об’єктах російського ВПК у Татарстані та Брянській області