Розширення Pangram для Gmail почало автоматично виявляти згенерований штучним інтелектом текст

Компанія Pangram розробила браузерне розширення, яке аналізує вхідні повідомлення в поштовій скриньці Gmail на наявність тексту, створеного штучним інтелектом. Інструмент автоматично сканує 100 найновіших електронних листів, а також усі наступні вхідні повідомлення.

Про це повідомляє Wired з посиланням на pangram.com

Для використання функції користувачі повинні надати відповідні дозволи через налаштування облікового запису. Згідно із заявою розробника, вміст електронних листів не зберігається після оцінювання та не використовується для навчання моделей. Користувачі мають можливість у будь-який момент вимкнути інтеграцію.

Інструмент класифікує повідомлення на три категорії: написані людиною, згенеровані штучним інтелектом або змішаний варіант. Система дозволяє встановлювати спеціальні мітки на листи, а також автоматично переміщувати виявлений контент, згенерований ШІ, у спам або архів. Доступні опції виключення окремих доменів, відправників або ключових слів із процесу сканування.

Випробування показали, що пристрій не позначає листи від реальних людей як такі, що створені ШІ. Проте алгоритм має обмеження: він не аналізує повідомлення, які не відповідають мінімальному порогу кількості слів, і перевіряє лише перший лист у кожному ланцюжку листування.

Pangram’s detection algorithms seem to be working.

— автор тестування інструменту.

За повідомленнями інших джерел, сервіс додає мітку про використання ШІ безпосередньо в інтерфейс Gmail, забезпечуючи швидку ідентифікацію походження вхідної кореспонденції.