Штучний інтелект у виробництві джихадистської пропаганди: Нова тенденція для ІДІЛ?
Вступ
Донедавна пропагандистські матеріали Ісламської держави (ІДІЛ), створені за допомогою штучного інтелекту (ШІ), поширювалися онлайн її прихильниками. Однак досі такі матеріали не були зафіксовані у приватних чатах і каналах, що входять до комунікаційної інфраструктури ІДІЛ (її “цифрових безпечних притулків”). Після нападу на Crocus City Hall у Москві 26 березня 2024 року користувач отримав доступ до сервера ІДІЛ у Rocketchat і опублікував відео, згенероване ШІ, у головній кімнаті обговорень сервера. З того дня до 1 травня він розмістив п’ять різних пропагандистських відео, використовуючи ті самі методи виробництва, хоча й з певними відмінностями у графіці та змісті. На даний момент це найяскравіший приклад використання ШІ прихильником ІДІЛ. Той факт, що відео було опубліковано на Rocketchat – одному з основних цифрових притулків ІДІЛ з 2019 року – свідчить про чіткий компроміс між безпекою та ефективністю та свідомий вибір користувача якомога швидше закріпитися в про-ІДІЛівському цифровому екосистемі. Напад на Crocus City Hall у Москві можна вважати головним джерелом натхнення для створення цих відео, оскільки саме він став темою першого з них. Напад навіть був представлений як “нове начало” у аудіоповідомленні речника ІДІЛ, поширеному її медіа-крилом Al-Furqan. Цей момент міг започаткувати нову еру для медіа-операторів, лояльних до ІДІЛ. Цей аналіз досліджує, як прихильники ІДІЛ використовують ШІ для поширення інституційної пропаганди Ісламської держави. Аналіз змісту свідчить, що відео структуровані навколо офіційної пропаганди ІДІЛ, яка подається як випуск новин від імені згенерованого ШІ арабомовного диктора. Зокрема, результатом стало створення онлайн-версії масових новинних випусків ІДІЛ. Крім того, використання офіційних матеріалів ІДІЛ, таких як бюлетені Amaq, є дуже важливим, оскільки користувач подає себе з усіма формальними ознаками офіційного медіа-ресурсу. Більше того, використання матеріалів, зібраних з офіційного комунікаційного потоку ІДІЛ, та вибір розповсюдження відео в середовищі, що вважається безпечним, підкреслює бажання виставити цей контент напоказ. Іншими словами, це явна спроба просунути новий бренд, дотримуючись деяких соціо-цифрових практик, що існують у про-ІДІЛівській екосистемі. Наприклад, черпаючи натхнення з інституційних матеріалів та створюючи впізнаваний бренд медіа-хаусу. Єдиним відсутнім елементом є цифровий *bay’ah* (присяга на вірність), заява про альянс з Халіфом, яка зазвичай подається у вигляді текстового банера. Тим не менш, відсутність цього елемента не виключає майбутніх публікацій. У минулому інші медіа-хауси заявляли про альянс після консолідації своєї позиції в мережі. З 26 березня по 4 квітня користувач створив та опублікував відео арабською мовою (два по 90 секунд і одне 60-секундне). Цікаво, що для створення відео було використано три різні методи ШІ:
- Генерація персонажа (диктора).
- Генерація аудіофайлу. У цьому випадку використовувався ШІ для перетворення тексту на мову, який, починаючи з письмового тексту, просто читає його з попередньо обраною інтонацією та мовою (арабською).
- Синхронізація руху губ з аудіофайлом.
Перше відео являє собою джихадистський огляд преси Amaq та бюлетенів ІДІЛ, пов’язаних з московською атакою, тоді як друге і третє представляють огляд преси операцій ІДІЛ на Близькому Сході та в Африці. Як показано на скріншотах (рис. 1), перший згенерований персонаж одягнений у військову форму, тоді як у двох інших диктор одягнений у традиційний ісламський цивільний одяг (рис. 2).
Рис. 2: Персонаж у цивільному одязі, згенерований ШІ.
Зміст відео залишався єдиним постійним елементом: офіційні заяви та повідомлення використовуються як накладені зображення (матеріали від Amaq, IS та Al-Naba), а синтетичний голос читає письмовий текст. Крім того, варто зазначити, що, окрім першого відео від 26 березня, автор підписує чотири інші відео логотипом, що нагадує його ім’я на Rocketchat, натякаючи на те, що це його власна медіа-компанія.
Відео та використання контенту ІДІЛ
За результатами аналізу комунікаційного потоку та реакцій про-ІДІЛівської спільноти, це успішна спроба надати послугу “цифрового огляду преси” щодо операцій ІДІЛ на Близькому Сході та в Субсахарській Африці. Тематично це перетинається з Nashir News, хоча вони лише діляться офіційними матеріалами ІДІЛ. Користувач також зібрав частину цих матеріалів, зокрема воєнні новини, і вставив їх у відео. Більше того, верстка відео відсилає до певного комунікаційного імперативу, нагадуючи стиль великих телевізійних новинних мереж, таких як CNN та BBC. Внизу екрана видно короткий текстовий оверлей, доповнений праворуч офіційним логотипом ІДІЛ.
Хоча п’ять відео презентуються як нова форма передових медіа-продуктів, варто зазначити, що, за винятком першого відео від 26 березня, деякі матеріали демонструють значні розбіжності у хронології та географії між випусками медіа-центру ІДІЛ та Amaq і наступними зображеннями. Інституційні матеріали, представлені у відео, стосуються недавніх операцій ІДІЛ, тоді як деякі зображення датуються 2022, 2023 і навіть 2017 роками. Зокрема, у другому відео зображення з 2023 та 2017 років (одне з яких неможливо ідентифікувати, оскільки його персонажі занадто загальні), а в третьому відео — зображення з 2022 та 2023 років. Наприклад, у випадку з рис. 4, користувач розміщує зображення провінції Ісламської держави в Західній Африці (ISWAP), зокрема Мозамбіку, яке йде після бюлетеня медіа-центру ІДІЛ, що стосується операції в Нігерії. Найбільш примітним є те, що користувач, здавалося, усвідомлював цю розбіжність. Він обрізав нижню частину деяких із цих зображень, щоб видалити накладений текст, в якому медіа-центр ІДІЛ та Amaq надають коротку підпис, місцезнаходження та дату операції.
Реакція про-ІДІЛівської спільноти
П’ять відео, поширених користувачем на Rocketchat, отримали позитивні та сприятливі відгуки, як показано на рис. 5. Крім того, ознакою того, що відео привернуло увагу спільноти, є численні поради від інших користувачів щодо того, як зробити відео теологічно послідовним.
Одна з реакцій спільноти була надзвичайно цікавою, особливо з огляду на її можливі майбутні наслідки. Хоча різні користувачі пропонували деякі загальні виправлення, найцікавіші взаємодії стосувалися мови та релігійних аспектів відео. Після отримання запиту від користувача на англійську версію, творець відео зі ШІ позитивно відповів, припускаючи, що в майбутньому вони можуть створювати нові відео англійською мовою. Інший користувач більше переймався теологічними наслідками використання ШІ. Його взаємодія з творцем ШІ спонукала останнього розмити обличчя диктора (рис. 6), щоб це не вважалося *харам* (гріховним).
Це тісно пов’язано з потенціалом цієї нової форми контенту, створеного за допомогою ШІ, який обіцяє значне підвищення зручності використання контенту, виробленого як ІДІЛ, так і офіційними медіа-джерелами. Створюючи огляд основних новин та контенту ІДІЛ (останнє відео базується на статтях з офіційного журналу Ісламської держави Al-Naba), передбачається, що користувач, через свою медіа-компанію, прагне запропонувати новий інструмент пропаганди у стилі телевізійних програм, прискорюючи та полегшуючи поширення інформації та пропагандистських матеріалів для ширшої західної аудиторії. Щодо того, як цей випадок може представляти використання ШІ, це все ще оточене ореолом неоднозначності стосовно допустимості використання таких інструментів в ісламі. За словами кількох експертів з ісламського права, використання ШІ не вважається харам, проте джихадистська екосистема все ще дуже скептично ставиться до його використання. Тим не менш, спостерігаючи за користувачами основного сервера ІДІЛ на Rocketchat, було помічено, що кілька користувачів повідомляли про свої спроби використовувати інструменти ШІ для розробки пропагандистських матеріалів, не отримуючи жодного заохочення чи несхвалення від інших користувачів. Зважаючи на позитивні реакції екосистеми на вищезгадані відео та зусилля Hisad отримати більшу прийнятність, варто стверджувати, що за відсутності чіткої релігійної доктрини, яка забороняє його використання, технології ШІ можуть розвиватися в інструмент для виробництва та розповсюдження пропагандистських матеріалів.
Як запобігти новій ері пропаганди ІДІЛ
Першим кроком для визначення можливої хвилі медіа-операторів, оснащених ШІ, є аналіз контенту. Після ідентифікації використаних матеріалів можна цілеспрямовано впливати на ланцюг постачання зображень та новин. Зокрема, зосередження на каналах *Nashir*, які вважаються вузькими місцями в про-ІДІЛівській цифровій екосистемі, може вплинути на потужності виробництва відео та його видимість. По-друге, провайдери ШІ, внутрішня модерація та політика доступу повинні перешкоджати виробництву терористичного контенту на платформах. Дослідження пропаганди, випущеної та поширеної джихадистськими організаціями, такими як ІДІЛ, дозволило нам виявити специфічні повторювані елементи (контент, візуальні мотиви та вирази), які можна використовувати для навчання ШІ, спрямованих на розпізнавання терористичних патернів. Стає все більш необхідним використання ШІ, здатного розпізнавати та повідомляти про терористичні патерни. Алі Фішер та Ніко Пруха наразі займаються розробкою передової системи штучного інтелекту. Ця система ШІ розроблена так, щоб бути автентичною та ґрунтуватися на доказах, гарантуючи, що її функції ґрунтуються на перевірених даних. Її основна здатність включає розпізнавання теоцентричної природи, характерної для Ісламської держави. Шляхом швидкої класифікації матеріалу та використання величезних наборів даних, ШІ прагне точно інтерпретувати та аналізувати складні ідеологічні основи, що визначають цей рух. Мета їхньої роботи — створити інструмент, який не тільки покращує наше розуміння таких рухів, але й сприяє ефективнішому виявленню контенту в соціальних мережах.