Перейти до змісту
Усі новини

Є новіші новини

Технології

Дослідники перехопили контроль над обліковим записом популярної моделі ШІ Kokoro на Hugging Face

Researchers hijack Hugging Face account for popular Kokoro AI model
Джерело фото: BleepingComputer

Група дослідників з питань безпеки продемонструвала вразливість платформи Hugging Face, отримавши контроль над обліковим записом моделі синтезу мовлення Kokoro. Ця модель широко використовується в проектах таких компаній, як Google, NVIDIA, AMD, Intel та Amazon Web Services. Вразливість пов’язана з відсутністю належної перевірки прав власності на облікові записи, що дозволяє зловмисникам перехоплювати їх та розповсюджувати скомпрометовані дані.

Про це повідомляє BleepingComputer

Фахівці отримали доступ, зареєструвавши домен hexgrad.com, який був вказаний у файлі DONATE.md оригінального розробника, та здійснивши скидання пароля до облікового запису на платформі. Після отримання доступу дослідники змінили нейронні ваги моделі за 87 секунд, що дозволило змінити результат роботи ШІ без зміни архітектури чи прикладного коду.

Ми змінили те, що каже ця модель, шляхом тонкого налаштування її нейронних ваг. Той самий вхідний текст. Той самий голосовий файл. Та сама конфігурація. Той самий код виведення — жодного рядка не було змінено в додатку, який це запускає.

— Алон Герц, аналітик з питань безпеки

За словами Алона Герца, модифікована модель виглядає як легітимний реліз, оскільки файли зберігають схожий розмір та формат. Це створює загрозу для систем, що автоматично завантажують оновлення, оскільки механізми перевірки Hugging Face не позначають такі зміни як підозрілі.

Hugging Face не перевіряє видавців. Вона не верифікує, чи утримується обліковий запис початковим законним власником, чи кимось, хто тихо перехопив його минулого тижня. Платформа не проводить перевірку моделей чи наборів даних, які завантажують ці облікові записи.

— Алон Герц, аналітик з питань безпеки

Дослідники повідомили Hugging Face про виявлену проблему, проте на момент звіту відповіді від адміністрації платформи не отримали. Модель Kokoro, розроблена Hexgrad, залишається популярною з показником майже 13 мільйонів завантажень на місяць, незважаючи на відсутність оновлень з квітня 2025 року.

Найпопулярніше

  1. Україна збільшила експорт нафти в 11 разів до 269 мільйонів доларів
  2. Російські війська завдали ракетних ударів по місту Сміла на Черкащині
  3. Канарські острови зіткнулися з напливом тисяч мігрантів на тлі надзвичайної ситуації в Іспанії
  4. Українські тенісистки заробили призові на Підсумковому турнірі WTA-2026
  5. Керченський міст зазнав серйозних пошкоджень внаслідок операції СБУ