OpenAI представила інструменти для боротьби з матеріалами сексуального насильства над дітьми

Компанія OpenAI оголосила про запуск нових інструментів для боротьби з матеріалами, що містять сексуальне насильство над дітьми (CSAM). Захід включає впровадження класифікатора зображень, оновлені рекомендації для розробників та надання спеціалізованих ресурсів для правоохоронних органів.
Про це повідомляє TechCrunch
Новий класифікатор зображень, розроблений спільно з Національним центром з питань зниклих та експлуатованих дітей (NCMEC), здатен виявляти ознаки жорстокого поводження на зображеннях, зокрема створених штучним інтелектом. Згідно з попередніми тестуваннями, інструмент дозволяє зменшити навантаження на модераторів, забезпечуючи при цьому вищу точність ідентифікації шкідливого контенту.
У системі ChatGPT з’явилися нові екрани попереджень. Користувачі, які намагаються сформувати запити на створення контенту, що сексуалізує дітей, отримуватимуть відповідні сповіщення та рекомендації щодо отримання спеціалізованої допомоги. Крім того, компанія запровадила тимчасове блокування облікових записів на 24 години, а повторні порушення можуть призвести до їх остаточного видалення.
Ці заходи розроблені у співпраці з організаціями та дослідниками, щоб ефективно запобігати та виявляти небезпечний контент.
OpenAI також надає правоохоронцям доступ до спеціальних плагінів, інструментів для проведення розслідувань та аналізу даних.
Такі кроки було вжито на фоні зростаючої критики щодо безпеки ШІ-технологій. Раніше організація Common Sense Media оцінила технології OpenAI як такі, що несуть неприйнятний ризик для підлітків, а використання інших чат-ботів неодноразово фіксувалося для створення небажаного сексуалізованого контенту. У відповідь компанія протягом останнього року впроваджувала оновлені правила та спеціальні версії продуктів для підлітків.
Читайте далі
Найпопулярніше
- Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
- Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
- Еммануель Макрон заявив, що політика Марін Ле Пен призведе до ізоляції Франції
- Сили оборони України завдали ударів по об’єктах російського ВПК у Татарстані та Брянській області
- Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026


