Науковці виявили дивовижний психологічний феномен, який перетворює можливості штучного інтелекту на потужну зброю для шахраїв. Виявляється, сучасні нейромережі здатні генерувати настільки переконливі обличчя, що звичайні люди підсвідомо довіряють їм більше, ніж фотографіям справжніх людей. Це створює ідеальні умови для розквіту шахрайства та поширення масштабних дезінформаційних кампаній.
Дослідження переконливості штучних облич
У ході інноваційного дослідження, проведеного науковицею Алексіс Макгвайр з Ланкастерського університету разом зі своєю командою, було вивчено реакцію людей на обличчя, створені за допомогою новітньої дифузійної технології. Перший експеримент залучив 169 учасників, яким було продемонстровано 96 випадкових портретів людей різної статі, віку та раси.
Завданням учасників було визначити, яке зображення належить реальній людині, а яке — результат роботи нейромережі. Результати виявилися вражаючими: середня точність розпізнавання склала лише 58,4 відсотка. Це означає, що можливість відрізнити справжнє від штучного є не набагато ефективнішою, ніж звичайне підкидання монети.
Цікаво, що учасники оцінили обличчя, згенеровані новішою дифузійною моделлю, як менш реалістичні порівняно зі зображеннями від старіших систем генерації (GAN). При цьому дифузійна технологія є значно більш досконалою.
Парадоксальна довіра до штучних облич
Другий етап експерименту приніс ще більш несподівані висновки. Нова група учасників отримала завдання оцінити рівень довіри до тих самих 96 облич за семибальною шкалою (від 1 до 7).
Результати виявилися шокуючими:
- Справжні людські фотографії отримали найнижчий середній бал — 4,03.
- Зображення від старих нейромереж (GAN) набрали 4,36 бала.
- Портрети, створені новітньою дифузійною моделлю, стали абсолютними лідерами, досягнувши показника 4,70 бала.
Алексіс Макгвайр пояснила цей парадокс:
Цей висновок є парадоксом і підкреслює ймовірність того, що судження про реалістичність і достовірність керуються двома різними психологічними механізмами.
— Алексіс Макгвайр
Вона зазначила, що наш мозок використовує різні процеси для оцінки реалістичності та безпечності співрозмовника. Саме тому штучні обличчя, які учасникам здавалися найменш схожими на справжні, одночасно викликали в них найбільшу довіру.
Соціальні загрози та майбутнє
Дослідники висловлюють серйозне занепокоєння щодо наслідків такої “демократизації” штучного інтелекту. Вони попереджають, що тепер будь-хто, навіть без глибоких технічних навичок, може створити фейкову особу для шахрайських схем, таких як виманювання грошей, крадіжка особистих даних або маніпуляції. Наші базові візуальні інстинкти, які раніше служили певним захистом, більше не є надійним бар’єром.
Ці висновки підтверджують стрімкий розвиток штучного інтелекту, коли сценарії з наукової фантастики дедалі більше наближаються до реальності. Експерти неодноразово попереджали про потенційні загрози, які штучний інтелект може нести людству, і про те, що звичних систем захисту може бути недостатньо для протистояння новим викликам.
