Google створила ізольовану мережу для тестування ШІ-агентів у браузері Chrome

Компанія Google офіційно представила Mirror Dimension — ізольований вебсередовище, створене для тестування та навчання штучного інтелекту, призначеного для роботи в браузері Chrome. Це середовище містить копії різноманітних вебсайтів, включаючи соціальні мережі, магазини та банківські сервіси, які за своєю структурою ідентичні реальним інтернет-платформам.
Про це повідомляє Wired
За словами фахівців, використання реального інтернету для навчання агентів є небезпечним, а обмежені тестові умови не дозволяють повноцінно відпрацювати навички. Mirror Dimension дозволяє безпечно випробовувати агентів, зокрема піддавати їх атакам, таким як ін’єкції промптів, щоб оцінити стійкість систем.
Агенти не програмуються, тому ви не можете передбачити все, що вони можуть побачити. Простір для дослідження, який ми маємо охопити, є величезним, а інтернет — ворожим середовищем. Будь-який користувач може поставити будь-яке запитання на будь-якому сайті, тому ми повинні дослідити цей простір якомога ретельніше.
— Чарльз Цянь, інженер-програміст команди Chrome з безпеки ШІ
Для швидкого наповнення цього віртуального простору Google залучила інші ШІ-агенти, які створювали реалістичні вебсервіси та дані. Оскільки середовище повністю контролюється, дослідникам довелося впроваджувати спеціальні технічні налаштування, зокрема підроблені сертифікати, щоб агенти могли використовувати реальний браузер Chrome у робочому режимі. Компанія підкреслює, що ці методи тестування не впливають на звичайних користувачів, оскільки обмежені лише внутрішньою інфраструктурою Google.
Ми ділимося цим підходом, щоб інші команди, як внутрішні, так і зовнішні, замислилися над подібними методами роботи. Це лише перший крок, і ми продовжимо інвестувати у цей напрямок для навчання моделей.
— Даг Тернер, директор з інженерії Google
Читайте далі
Найпопулярніше
- Польща розробила три плани на випадок нової хвилі українських біженців
- Суд скасував мобілізацію чоловіка з чинною бронею
- Сенатор Джон Корнин заблокував призначення Т. Елліота Гейзера на посаду федерального судді
- Російські війська завдали ракетних ударів по місту Сміла на Черкащині
- Головне за день, 18 листопада


