Штучний інтелект (ШІ) став потужним інструментом для різноманітних завдань, від написання листів до створення мистецтва. На жаль, він також може бути використаний зловмисниками для обману людей. Враховуючи це, варто обговорити, як розпізнавати потенційні загрози.
Останніми роками спостерігається значний прогрес у створенні тексту, аудіо, зображень та відео за допомогою ШІ. Ті самі технології, що допомагають митцям створювати фантастичні образи, можуть бути використані зі зловмисними намірами. Не варто очікувати, що шахрайство матиме вигляд роботів з науково-фантастичних фільмів. Це ті ж старі схеми обману, вдосконалені за допомогою ШІ, що робить їх більш правдоподібними та ефективними.
Цей огляд не є вичерпним, але висвітлює найбільш очевидні способи, якими ШІ може підвищити ефективність шахрайства.
Поширені види шахрайств
З розвитком технологій ШІ шахраї використовують все більш витончені методи для обману. Ось деякі з найбільш поширених видів шахрайств, що стали можливими завдяки ШІ:
Клонування голосу
Хоча синтезовані голоси існують давно, лише нещодавно технології досягли такого рівня, що можуть створити копію голосу з мінімальної кількості аудіоматеріалу. Це означає, що будь-хто, чий голос був публічно доступний, може стати об’єктом імітації.
Шахраї вже використовують цю технологію для створення правдоподібних копій голосів рідних чи друзів. Хоча ці голоси можна змусити сказати що завгодно, найчастіше вони використовуються для створення фальшивих прохань про допомогу.
Типовий сценарій може включати батьків, які отримують голосове повідомлення з невідомого номера, що звучить як голос їхньої дитини. У повідомленні може йтися про крадіжку речей під час подорожі та прохання про фінансову допомогу. Подібні схеми можуть варіюватися, включаючи проблеми з автомобілем чи медичні витрати.
Такі шахрайські дії вже мали місце, навіть з використанням голосу президента Байдена. Хоча винних у цьому конкретному випадку було знайдено, майбутні шахраї, ймовірно, будуть діяти більш обережно та витончено.
Як боротися з клонуванням голосу?
Не покладайтеся на спроби розпізнати підроблений голос самостійно. Якість імітації постійно покращується, а недоліки можна легко замаскувати. Навіть фахівці можуть бути введені в оману.
Ставтеся з підозрою до всіх повідомлень з незнайомих джерел, будь то номер телефону, електронна пошта чи обліковий запис. Якщо хтось представляється вашим знайомим або близькою людиною, спробуйте зв’язатися з цією особою звичним для вас способом. Швидше за все, ви дізнаєтеся, що з ними все гаразд і що отримане повідомлення було шахрайським.
Зазвичай шахраї не наполягають, якщо їх ігнорують, на відміну від справжніх родичів. Можна тимчасово залишити підозріле повідомлення без відповіді, поки ви перевіряєте його достовірність.
Автоматизований персоналізований фішинг та спам
Технології генерації тексту на основі штучного інтелекту дозволяють створювати масові, але індивідуалізовані розсилки. Завдяки численним витокам даних, особиста інформація багатьох людей стала доступною для зловмисників.
Раніше спам-повідомлення були очевидними та примітивними. Тепер, використовуючи навіть мінімум персональних даних, вони можуть виглядати набагато переконливіше. Мовні моделі здатні швидко адаптувати загальний шаблон листа для тисяч отримувачів, використовуючи їхні особисті дані.
Замість загальних фраз, листи тепер можуть містити конкретні деталі про одержувача, як-от ім’я, недавні покупки чи місце проживання. Це робить такі повідомлення менш підозрілими на перший погляд.
Хоча це все ще спам, його якість значно зросла. Раніше такі персоналізовані розсилки створювалися людьми, тепер це може робити ШІ з кращими навичками написання, ніж у багатьох професійних авторів.
Як захиститися від такого спаму?
Пильність залишається ключовим фактором захисту. Однак не варто сподіватися, що ви зможете відрізнити текст, створений ШІ, від написаного людиною – це складно навіть для експертів.
Незважаючи на покращену якість тексту, основна мета таких листів – змусити вас відкрити шкідливі вкладення чи посилання. Якщо ви маєте найменші сумніви щодо автентичності відправника, утримайтеся від взаємодії з вмістом листа. За можливості, попросіть когось обізнаного перевірити підозрілі повідомлення.
Загроза підробки особистості та обходу систем верифікації
Через численні витоки даних особиста інформація багатьох людей стала доступною в даркнеті. Хоча дотримання правил онлайн-безпеки зменшує ризики, генеративний ШІ створює нові загрози.
Використовуючи доступні онлайн дані та зразки голосу, зловмисники можуть створити віртуальну особу, яка звучить як справжня людина і володіє інформацією, що зазвичай використовується для верифікації.
Уявіть ситуацію, коли ви не можете увійти в обліковий запис і звертаєтесь до служби підтримки. Вони перевіряють вашу особу за базовою інформацією, як-от дата народження чи номер телефону. Навіть більш складні методи, такі як селфі-верифікація, стають вразливими.
Представник служби підтримки (який також може бути ШІ) може надати доступ такій підробленій особі. Наслідки цього можуть бути різними, але завжди негативними.
Головна небезпека полягає не в реалістичності підробки, а в можливості масштабного та повторюваного здійснення таких атак. Раніше подібні атаки були дорогими і спрямовувались на високоцінні цілі. Тепер можна автоматизовано створювати тисячі фальшивих агентів, які можуть самостійно звертатися до служб підтримки різних сервісів.
Як захиститися від шахрайства з особистими даними?
Основи кібербезпеки залишаються найкращим захистом. Хоча ваші дані вже могли потрапити в мережу, ви можете захистити свої облікові записи від очевидних атак. Багатофакторна автентифікація – ключовий крок. Важливі дії в обліковому записі повинні підтверджуватися через ваш телефон, а підозрілі спроби входу чи зміни пароля мають повідомлятися електронною поштою. Не ігноруйте ці попередження, навіть якщо отримуєте їх часто.
Діпфейки та шантаж за допомогою ШІ
Однією з найстрашніших форм шахрайства з використанням штучного інтелекту є можливість шантажу за допомогою deepfake. Завдяки швидкому розвитку технологій генерації зображень, зловмисники можуть створювати підроблені оголені тіла, до яких прикріплюють обличчя будь-якої людини. Це розширило явище, відоме як “порно помста”, тобто розповсюдження інтимних зображень без згоди.
Тепер, для шантажу не потрібні справжні інтимні фото. Достатньо згенерованого зображення низької якості, щоб налякати людину і змусити її заплатити за те, щоб уникнути публікації. Навіть якщо зображення не ідеально реалістичне, у піксельному або з низькою роздільною здатністю форматі, воно може здатися переконливим і викликати страх.
Шантаж зазвичай не обмежується одним платежем — після першого платежу часто слідують нові вимоги. Цей вид шахрайства може бути особливо руйнівним, оскільки він порушує приватність людини та використовує страх перед суспільною ганьбою як важіль для отримання грошей.
Щоб протидіяти діпфейкам, важливо бути обізнаним про його існування та знати, як діяти в разі шантажу. Звертайтеся до правоохоронних органів, якщо ви стали жертвою, і дотримуйтеся принципів кібербезпеки, щоб захистити свої особисті дані.
Як протидіяти діпфейкам?
На жаль, ми рухаємося до світу, де фальшиві оголені фото будь-кого можуть стати легкодоступними. Це тривожна ситуація, яка задовольняє лише зловмисників.
Проте є кілька моментів, які варто враховувати потенційним жертвам:
- Згенеровані зображення часто мають недоліки, яких не буде на справжніх фото (відсутність особливих прикмет, неточності в деталях).
- Розвиваються правові та технічні засоби боротьби з розповсюдженням таких зображень.
Якщо ви стали жертвою такого шантажу, зверніться до правоохоронних органів. Хоча вони можуть не мати ресурсів для глибокого розслідування в інтернеті, сам факт звернення може налякати шахраїв. Іноді такі справи вдається розкрити або принаймні зупинити розповсюдження через звернення до провайдерів чи адміністраторів форумів.
Висновок
З появою нових технологій зростають і ризики шахрайств. Для ефективного захисту необхідно дотримуватись основних принципів кібербезпеки. Використовуйте багатофакторну автентифікацію для додаткового рівня захисту облікових записів. Будьте пильними щодо підозрілих повідомлень, якщо щось здається підозрілим, не взаємодійте з ним. Перевіряйте достовірність інформації, зв’язуючись з людьми звичними способами. Уникайте розголошення конфіденційних даних через незахищені канали. Регулярно оновлюйте програмне забезпечення для захисту від нових загроз. Якщо вас намагаються шантажувати, негайно повідомте про це відповідні служби.
Важливо бути обізнаним про потенційні загрози та готовим протидіяти їм, щоб захистити себе та свої дані.