Як хакери використовують AI, щоб обдурити вас в кліки Схематичні посилання

Користувачі Twitter, можливо, повинні бути більш обережними щодо посилання, на які вони натискаються.

Філіп Туллі та Джон Сеймур (ZeroFox) Філіп Туллі і Джон Сеймур виявили в ході хакерської конвенції Black Hat USA 2016, що вони можуть використовувати машинне навчання (тобто штучний інтелект), щоб зробити користувачів Twitter відкритими посилання на шкідливі веб-сайти з успіхом від 30 до 66 відсотків.

Дует створив SNAP_R, "повторювану нейронну мережу, яка навчається твітів фішинговим повідомленням, орієнтованим на певних користувачів", щоб довести, що штучний інтелект може бути використаний для надання допомоги у спробах фішингу. Фішинг у списі - це пряма спроба фішингу користувача у натисканні поганого посилання, на відміну від звичайного фішингу, який надає широку мережу багатьом користувачам (наприклад, у мережевих або спам-листах, які вимагають реєстраційну інформацію). SNAP_R, по суті, знаходить ціль, пише твіт, що, на їхню думку, зацікавить їх, використовує укорочення URL-адрес від Google, щоб приховати зловмисне посилання, а потім надішліть його на мету, сподіваючись примусити їх натиснути на посилання.

"На тестах, що складаються з 90 користувачів, ми виявили, що наша автоматизована фішинг-копія мала від 30% до 66% успішності". Тюллі і Сеймур пишуть у статті про SNAP_R. "Це є більш успішним, ніж 5-14%, що раніше повідомлялося в широкомасштабних фішинг-кампаніях, і порівняно з 45%, повідомленими для великомасштабних ручних фішингових зусиль".

Штучний інтелект часто використовується для захисту даних, а не для компрометації. Сеймур і Туллі хотіли перевернути це на голову, щоб показати це, хоча хакери не бояться А.І. роблячи все незручним, широка громадськість повинна хвилюватися, що хакери можуть використовувати подібні засоби проти своїх цілей.

OpenAI, підтриманий Елоном Муском проект вивчення способу впливу штучного інтелекту на нас у майбутньому, заявив у липні, що технологія може становити ризик. «« Раннє використання ІІ буде пробиватися в комп'ютерні системи », - пише OpenAI. "Ми хотіли б, щоб методи ІІ захищалися від складних хакерів, які використовували методи AI."

Виявлення того, як працює програма SNAP_R, має "сприяти підвищенню обізнаності та розуміння" атак фішинг-копій. Обговорення внутрішньої роботи інструменту допоможе людині знайти спосіб захистити користувачів Twitter від подібних загроз, якщо користувачі Twitter зможуть стримати свою цікавість і бути більш обережними.

«Наш підхід ґрунтується на тому, що соціальні медіа швидко стають легкою мішенню для фішингових та соціально-інженерних атак», - пишуть Сеймур і Туллі. "Ми використовуємо Twitter як нашу платформу через низьку планку допустимих посад, толерантність спільноти до зручних послуг, таких як скорочені посилання, її ефективний API, а також поширену культуру перерозподілу особистої інформації".

Ця презентація була лише однією з багатьох у Black Hat USA 2016, щоб допомогти людям зрозуміти загрози безпеці. Можливо, це не матиме значного впливу, як нова програма з відзнаки помилок від Apple, але все одно добре відстежувати, як розвиваються інструменти для злому.

Ви можете прочитати повний текст статті Seymour і Tully на SPAN_R нижче: