Перейти до змісту
Усі новини

Є новіші новини

Технології

Головний науковець OpenAI запропонував метрику для обмеження розвитку ШІ

OpenAI’s chief scientist has thoughts on how to limit AI development
Джерело фото: TechCrunch

Головний науковець компанії OpenAI Якуб Пачоцький у своєму новому блозі окреслив шляхи можливого обмеження розвитку штучного інтелекту. Ключовою пропозицією стало використання метрики під назвою перплексія для вимірювання темпів прогресу систем. Генеральний директор OpenAI Сем Альтман назвав цю публікацію однією з найважливіших серед тих, що оприлюднювала компанія останнім часом.

Про це повідомляє TechCrunch

Згідно з поясненням розробника, перплексія вимірює, наскільки добре модель передбачає наступний токен у середньому. Низький показник свідчить про вищу якість прогнозів.

GPT-4, з показником близько 0,91, ефективно використовував ланцюжок логічних міркувань, що спонукало до створення сучасних моделей міркувань. Зараз, коли ми досягли втрат нижче 0,8, ми спостерігаємо появу трансформаційних можливостей у таких сферах, як кібербезпека та математика.

— Якуб Пачоцький

Дискусії про необхідність уповільнення розвитку ШІ активізувалися після заяв колишніх дослідників про ризики для суспільства. Раніше генеральний директор Anthropic Даріо Амодей запропонував план темпів прогресу, який передбачає встановлення спільних стандартів безпеки. Цю ініціативу підтримали керівники OpenAI та SpaceX.

Наразі традиційні бенчмарки можливостей моделей швидко застарівають. Натомість показник перплексії залишається інформативним та може слугувати універсальним стандартом для встановлення спільних меж розвитку штучного інтелекту.

Оригінал допису

Sam Altman @sama ·

This is the most important thing OpenAI has published in awhile.We are providing a lot of transparency into our pretraining progress and hope we can agree as a frield to common limits. I think that would be very wise and help ensure safety and control.

Переглянути в X

Найпопулярніше

  1. Президент України заявив про перебої в роботі системи Starshield
  2. У Черкасах з річки Дніпро підняли автомобіль із тілами двох загиблих жінок
  3. Дональд Трамп пов’язав гарантії безпеки для України з мирною угодою з Росією
  4. Студенти заочної форми навчання не мають права на відстрочку від мобілізації
  5. Нідерландська компанія Destinus розробила ракети для атаки на Керченський міст