Дослідження виявило, що ШІ-чат-боти рекомендують підроблені інтернет-магазини

Компанія з питань захисту інтелектуальної власності Podqi провела дослідження, яке продемонструвало, що популярні чат-боти зі штучним інтелектом можуть надавати користувачам посилання на шахрайські ресурси. Під час тестування, проведеного у вересні, аналітики поставили чат-ботам питання щодо 151 бренду. У ході аналізу 6795 відповідей було з’ясовано, що всі три перевірені платформи — ChatGPT, Gemini та Perplexity — пропонували ризиковані вебсайти, які імітують відомих роздрібних продавців або продають підроблені товари.

Про це повідомляє The Verge з посиланням на podqi.com

За даними дослідників, показники небезпечних рекомендацій відрізнялися залежно від моделі ШІ. Чат-бот Perplexity продемонстрував найвищий рівень ризику, включивши небезпечні посилання у 15 відсотків своїх відповідей. Чат-бот ChatGPT видав такі результати у 8 відсотках випадків, тоді як Google Gemini показав найнижчий показник — 4 відсотки. Водночас було встановлено, що менші бренди частіше стають об’єктами таких маніпуляцій, ніж великі корпорації.

Представники компаній-розробників прокоментували результати дослідження, наголосивши на важливості безпеки користувачів.

Частиною цього питання є переконання, що споживачі знають: навіть якщо ви отримуєте результат у певному чат-боті, завжди краще перевірити джерело, перш ніж вводити особисту інформацію або дані кредитної картки.

— Тревор Вест, генеральний директор та співзасновник Podqi

Компанія Google заявила, що постійно працює над покращенням моделей та відображає посилання на джерела поруч із відповідями для перевірки інформації. OpenAI також запевнила, що продовжує впроваджувати засоби захисту, щоб знизити ймовірність появи оманливих сайтів у результатах пошуку товарів. Представник Perplexity підкреслив, що компанія фокусується на точності даних, проте не стверджує, що їхня система є безпомилковою.

Дослідники зазначають, що проблема стає особливо актуальною напередодні святкового сезону покупок, коли споживачі частіше використовують ШІ для пошуку товарів та вигідних цін. Podqi також виявила, що запити щодо регіональних офіційних сайтів частіше призводили до появи небезпечних посилань, ніж інші типи запитів.