A.I. Алгоритм розпізнає терористичну пропаганду з точністю до 99%

Компанія ASI Data Science у Великобританії оприлюднила в середу алгоритм машинного навчання, який може визначити терористичні пропагандистські відео з точністю до 99%.

Такий розвиток знаменує собою одне з перших випадків успішного використання компанії A.I. пропагувати екстремістську пропаганду. Група ісламських держав відома своїми зусиллями по залученню соціальних медіа, і цей алгоритм може допомогти їх подолати.

Незважаючи на те, що дослідники з ASI не обговорюватимуть технічну специфіку алгоритму, вона, здається, працює як інші види A.I. розпізнавання програмного забезпечення. Алгоритм може вивчити будь-яке відео і визначити ймовірність того, що відео є частиною екстремістської пропаганди. За даними Бі-Бі-Сі, алгоритм тренувався на тисячах годин відеозапису терористів, і він використовує характеристики цих відео для визначення рейтингу ймовірностей.

Якщо відео позначається як дуже висока ймовірність, його позначено для перегляду модератором людського вмісту. Оскільки відео не знімається автоматично, будь-які помилкові позитивні дані повинні бути виявлені, перш ніж відео буде вилучено неправильно. ASI сказав, що алгоритм може виявити до 94 відсотків завантажень ісламського держави.

Алгоритм, який частково фінансується британським урядом, був створений головним чином на користь менших відеоплатформ, які не мають ресурсів для підтримки великого персоналу для модерації контенту. Оскільки ці сайти не можуть детально вивчити кожне завантажене відео, терористичним групам легше проводити на них пропаганду. Як повідомив Бі-бі-сі дослідник Марк Уорнер з ASI, "понад 400 різних відеороликів на більш ніж 400 різних платформах".

Невідомо, коли новий алгоритм буде розгорнутий на цих сайтах. Коли вона нарешті стане доступною, групи, такі як Ісламська держава, швидше за все, спробують змінити спосіб, у який вони створюють свої відео, щоб уникнути їх виявлення.

Сподіваюся, що комп'ютерні вчені можуть залишитися на крок попереду.