Google анонсував важливе оновлення для своїх сервісів, яке допоможе користувачам краще орієнтуватися у світі цифрових зображень. Найближчим часом у Google Пошуку, Google Lens та функції Circle to Search на Android з’являться спеціальні позначки для зображень, які були створені або змінені за допомогою штучного інтелекту. Ці зміни можуть пізніше торкнутися й інших платформ Google, зокрема YouTube.
Як це працюватиме?
- Позначки з’являться у вікні “Про це зображення”, яке відкривається при кліку на зображення в результатах пошуку. Ця функція дозволяє з’ясувати, коли зображення вперше з’явилося в Google і де саме воно було опубліковане. Головна мета — дати користувачам можливість встановити первісне джерело зображення та розуміння його контексту.
- Google планує поступово розширювати цю функцію на інші свої платформи, включаючи YouTube. Більше деталей про це обіцяють повідомити пізніше цього року.
- Важливо розуміти, що позначки з’являться лише на тих зображеннях, які містять спеціальні метадані C2PA (Coalition for Content Provenance and Authenticity).
Що таке C2PA?
C2PA – це група, яка розробляє технічні стандарти для відстеження “біографії” зображення. Ці стандарти дозволяють фіксувати інформацію про те, яке обладнання та програмне забезпечення використовувалося для створення або редагування зображення.
Підтримують стандарт такі компанії, як Google, Microsoft, Amazon та Adobe, проте стандарт ще не набув широкого поширення. Як зазначає The Verge, C2PA стикається з проблемами впровадження та сумісності, адже лише кілька генеративних ШІ-інструментів і камер, як-от від Leica та Sony, підтримують цей стандарт.
Проблема в тому, що ці метадані можна видалити або пошкодити. Крім того, не всі популярні ШІ-інструменти для створення зображень їх використовують.
А деякі популярні генеративні інструменти штучного інтелекту, такі як Flux, який використовується чат-ботом Grok від xAI для створення зображень, не підтримують метадані C2PA. Частково це тому, що їх розробники вирішили не впроваджувати цей стандарт для своїх продуктів.
Які ризики пов’язані з використанням ШІ?
Шахрайства з використанням діпфейків швидко поширюються: з 2023 до 2024 року кількість таких випадків зросла на 245%. Компанія Deloitte прогнозує, що збитки від deepfake збільшаться з 12,3 мільярдів доларів у 2023 році до 40 мільярдів доларів до 2027 року. Раніше, я вже писала, як протидіяти шахрайству зі штучним інтелектом, важливо розвивати технології для виявлення підробок. Оскільки ШІ все частіше використовується для створення маніпулятивного контенту, занепокоєння серед користувачів зростає.