Смертельна трійця: мережі дезінформації, меметична війна ШІ та діпфейки
Зміст:
Попередження про контент: Ця стаття містить тривожні та образливі зображення, згенеровані штучним інтелектом.
Вступ
Технології генеративного штучного інтелекту (ШІ) стрімко розвиваються, трансформуючи майбутнє роботи, освіти та національної безпеки. Поява ChatGPT у 2022 році та подальших інструментів ШІ незворотно змінила цифрову екосистему. Однак, попри гонку компаній за розробку власних систем ШІ, технічні засоби безпеки та політичні рішення значно відстають. Ця невідповідність викликає глибоке занепокоєння щодо алгоритмічної упередженості, безпеки даних та цифрової нерівності.
Президентські вибори 2024 року в Сполучених Штатах є першими після появи загальнодоступних інструментів генеративного ШІ, здатних створювати реалістичні синтетичні тексти, зображення, аудіо та відео. Експерти побоюються, що ці інструменти посилять поширення дезінформації та мізінформації, сприяючи подальшій поляризації та радикалізації американського суспільства.
Цей аналіз досліджує використання генеративного ШІ для створення мереж дезінформації, що важко виявити, для участі в меметичній війні та поширення реалістичних синтетичних медіа. Поєднання цих трьох елементів та зворотних зв’язків, які вони генерують, створює бурхливе політичне середовище, де ставиться під сумнів сама тканина реальності. Ми вивчали ці елементи, провівши глибокий огляд існуючих наукових робіт, звітів та статей. Також ми шукали політичні меми, твори генеративного ШІ та діпфейки на платформах Reddit та 4chan.
Мережі дезінформації
Мережі дезінформації в соціальних мережах становлять значний ризик під час нинішнього виборчого сезону. Стає все легше для окремих осіб створювати цілі мережі соціальних медіа для поширення дезінформації. Серед виявлених у 2020 році операцій впливу на Facebook та X, 76% становили окремі особи, що поширювали дезінформацію, порівняно з 62% у 2019 році та 47% у 2018 році. Одна з таких мереж, виявлена у 2019 році, “Мережа Каллберга” (The Kullberg Network), складалася з 24 сторінок із приблизно 1,4 мільйона підписників. Мережа поширювала ультраправу дезінформацію та ісламофобський контент через сторінки, націлені на християнських, єврейських та афроамериканських громадян США. Незважаючи на спроби імітувати різноманітність, Snopes виявив, що за мережею стояла радикальна американська євангелістка Келлі Монро Каллберг. Ще тривожнішим є той факт, що ці сторінки отримували фінансування від політичних донорів для просування суперечливих публікацій як політичної реклами, націленої на конкретні аудиторії.
Мережі дезінформації, подібні до “Мережі Каллберга”, ставатимуть простішими у створенні та більш вправними у виявленні поширення дезінформації з розвитком генеративного ШІ. Раніше пошук зображень у зворотному пошуку допомагав виявляти фейкові профілі. Тепер ж зображення профілів, створені ШІ, можуть генеруватися за лічені секунди, успішно уникаючи виявлення за допомогою зворотного пошуку зображень. Хоча Facebook має політику щодо звітування та видалення фейкових профілів, зображення профілів, створені ШІ, становлять унікальну проблему для виконання цієї політики через складність їх виявлення.
Меметична війна, керована ШІ
Меметична війна використовується для поширення дезінформації, радикалізації окремих осіб та просування екстремістських порядків денних, водночас формуючи відчуття спільноти. Онлайн-платформа 4chan містить численні теми, пов’язані з меметичною війною, де анонімні користувачі публікують чіткі інструкції щодо використання генераторів зображень ШІ, таких як DALL-E3 та Midjourney, для створення расистських, ультраправих мемів. Ці теми також містять рекомендації щодо створення пропагандистських мемів (Рис. 1).
Творці та учасники цих тем глибоко вірять у переконливість свого контенту, згенерованого ШІ. Усі теми, які ми вивчали, містили такий
“Ми мали /mwg/ на цій дошці кілька років тому, і це, ймовірно, одна з найважливіших причин перемоги на виборах 2016 року. Якщо ми зможемо спрямувати наш аутизм та креативність на спільні справи, перемога буде забезпечена.”
Ці теми меметичної війни містять антисемітські, античорношкірі та антиіндійські зображення, згенеровані ШІ (Рис. 2-5). Користувачів 4chan заохочують модифікувати інші зображення, якщо вони вважають їх натхненними. Коли образливий контент видаляється з сайту, генеруються та перезавантажуються “нові” версії образливих зображень – це явище, що розвивається у створенні пропаганди за допомогою генеративного ШІ.
Діпфейки
Поширеність і розповсюдження діпфейків – реалістичних зображень, аудіо та відео, згенерованих ШІ – також викликають глибоке занепокоєння. Дослідники з Університетського коледжу Лондона виявили, що слухачі могли ідентифікувати аудіодіпфейки лише в 73% випадків. Хоча діпфейки важко розпізнати людині, згідно з опитуванням Sumsub, кількість діпфейків у Північній Америці подвоїлася з кінця 2022 року до березня 2023 року. Зростання кількості діпфейків у поєднанні з людською нездатністю точно розрізняти між людським та синтетично згенерованим контентом створює ідеальні умови для процвітання дезінформації та мізінформації. Неправдива інформація поширюється в шість разів швидше за правду, що свідчить про потенціал діпфейків завдати далекосяжної шкоди.
Експерти побоюються, що діпфейки можуть використовуватися зі злочинними намірами, включаючи, але не обмежуючись, посівом плутанини серед громадськості та збройних сил щодо оголошень громадської безпеки, військових наказів та думок політичних лідерів. Зображення політичних лідерів у вигляді діпфейків з’являються все частіше. У березні 2022 року було випущено відеодіпфейк президента України Володимира Зеленського, в якому він закликав свій народ здатися російському уряду. Хоча українські чиновники попереджали про такий напад, а сам президент Зеленський спростував відео, воно все ж встигло ненадовго заплутати людей по всьому світу.
Переконливий аудіодіпфейк лідера Лейбористської партії Великої Британії Кіра Стармера, де він словесно ображав своїх співробітників, був випущений у жовтні 2023 року і переглянутий понад 1 мільйон разів. Незважаючи на те, що кліп був спростований як діпфейк, виборці стверджували, що Стармер назвав його штучно згенерованим як “вихід з тюрми”. Інші неодноразово запитували, як люди визначили, що аудіо було підробкою, оскільки цей діпфейк був набагато переконливішим за діпфейк Зеленського.
У Сполучених Штатах автоматизовані телефонні дзвінки, що імітували президента Байдена, були націлені на виборців Нью-Гемпшира за вихідні до перших праймеріз 2024 року. У голосовому повідомленні зазначалося: “Голосування у вівторок лише сприятиме республіканцям у їхньому прагненні знову обрати Дональда Трампа”. Джерело цієї відвертої спроби придушення виборців виявилося важко ідентифікувати, хоча чиновники сповнені рішучості притягти винних до найвищої відповідальності.
Хоча цей конкретний приклад був націлений на демократів, інші діпфейки переконливо націлені на республіканців, включаючи колишнього президента Дональда Трампа. Нещодавнє зображення Трампа та Джеффрі Епштейна на приватному літаку Епштейна, сумнозвісному “Лоліта Експрес”, поширилося в мережі X (Рис. 6). На початку січня 2024 року актор Марк Руффало поділився зображеннями Трампа з неповнолітніми дівчатами, згенерованими ШІ. Хоча Руффало вибачився, коли ці зображення були ідентифіковані як діпфейки, це не зменшило того факту, що вони були широко розповсюджені та визнані справжніми.
Жінки-політики та громадські діячі стикаються з загрозою діпфейк-порнографії значно більше, ніж їхні чоловічі колеги. Звіт 2019 року показав, що 96% діпфейк-відео, знайдених в Інтернеті, були порнографією, яка виключно націлена на жінок. Рана Айяб, індійська журналістка-розслідувачка, стала жертвою такого нападу у 2018 році, після чого вона “значною мірою самоцензурувалася з необхідності”, що вплинуло на її кар’єру. Деякі повідомлення стверджують, що відео з діпфейк-порнографією конгресменки США Александрії Окасіо-Кортес (AOC) випускаються щотижня на таких платформах, як Mr Deepfakes.
Ці напади за допомогою діпфейків на жінок є тактикою залякування, спрямованою на придушення їхніх голосів. Ці відео не тільки здатні зруйнувати репутацію, але й стають все швидшими та легшими у створенні. Користувач на 4chan заявив:
“Я бачив, як цей кліп з діпфейк-порнографією, що зображує жінку-політика, був опублікований тут, тож заради розваги я зайшов у Telegram і знайшов бота, який робить такі речі, і миттєво знайшов одного. За 5 хвилин я отримав кліп з обличчям гарячої дівчини, яку я знаю, перенесеним у відео з перспективи, і це було безкоштовно.”
Хоча жінки наразі є основною мішенню відео з діпфейк-порнографією, такі відео можуть використовуватися в майбутньому для шантажу державних службовців незалежно від статі.
Смертельна трійця
Поєднання мереж дезінформації, меметичної війни, керованої ШІ, та діпфейків є смертельною трійцею на майбутніх президентських виборах у Сполучених Штатах. Мережі дезінформації залучили мільйони підписників ще до появи генеративного ШІ для широкого загалу. Зараз такі методи, як використання зображень профілів, згенерованих ШІ, дозволяють цим мережам збільшувати охоплення, уникаючи при цьому виявлення ще довше.
Зі зростанням мереж дезінформації створення екстремістського контенту стає все легшим, а його виявлення – все складнішим. Меметична війна, керована ШІ, дозволяє екстремістам створювати расистські, сексистські та політичні зображення, часто засновані на дегуманізації їхніх опонентів. Коли користувачі розробляють і поширюють такий контент, вони часто обмінюються відгуками та похвалою, що призводить до формування спільноти та спільної дружби. Легко зрозуміти, як це може стати шляхом до самотніх злочинців, що вчиняють напади від імені екстремістських рухів, таких як QAnon, особливо враховуючи, що дослідники виявили, що 90% екстремістів у 2016 році були радикалізовані через соціальні мережі. Ті ж дослідники також встановили, що ультраправі екстремісти частіше створюють контент, ніж ліві чи ісламістські екстремісти. Це означає, що ультраправі екстремісти, ймовірно, будуть цифрово радикалізувати людей у більших масштабах, ніж ліві екстремісти, у Сполучених Штатах.
Щодо діпфейків, то ясно, що жодна політична партія чи громадський діяч не застрахований. Американці вже бачили та чули переконливі діпфейки президента Байдена, колишнього президента Трампа та інших обраних посадовців. Ці діпфейки використовувалися для придушення виборців, посилення поляризації, посівання плутанини серед виборців та залякування політиків. Найважливіше те, що діпфейки є достатньо переконливими, щоб спотворити реальність та сфабрикувати докази. Навіть після того, як контент ідентифіковано як діпфейк, деякі залишаються скептичними. Більше того, зростає тенденція ставити під сумнів законність автентичного контенту. Коли факти можуть бути сфабриковані, люди стають більш сприйнятливими до своїх упереджень. Це призводить до більшої політичної поляризації та швидкого “відчуження” тих, хто має інші світогляди. Дозволяючи діпфейкам розширювати цей розрив довіри, країни, включаючи Сполучені Штати, опиняться розколотими на фракції зі своїми власними версіями реальності, що ґрунтуються на їхніх власних версіях фактів. Коли вся нація не може домовитися про єдину реальність із встановленими та доведеними фактами, її сама основа демократії перебуває під загрозою.
Можливі рішення
Боротьба з цією трійцею на майбутніх президентських виборах у США та за їх межами вимагатиме виваженого, багатопланового підходу. Законодавці та державні службовці повинні розробити політику проти створення та розповсюдження діпфейків та іншого контенту, згенерованого ШІ. Технологічні компанії повинні розробити технічні інструменти для ідентифікації контенту, згенерованого ШІ, а освітні організації повинні посилити зусилля з підвищення рівня грамотності у сфері ШІ для широкої громадськості, починаючи з раннього віку.
Без політики та законодавства для захисту індивідів та суспільства від діпфейків та іншої шкоди, спричиненої ШІ, компанії та особи менш схильні надавати пріоритет відповідальній розробці та впровадженню цих технологій. Організації з питань безпеки ШІ вважають, що саморегуляція ШІ великими технологічними компаніями є рівнозначною відсутності регулювання. Хоча ця позиція може здатися жорсткою, було багато невдач саморегуляції у сфері ШІ та інших галузях, таких як соціальні мережі та харчова промисловість. Оскільки шкідливі системи ШІ можуть бути відтворені та розгорнуті відносно дешево та в масштабі, саморегульований ШІ становить прискорений ризик, порівнянний з ядерною зброєю, створення якої є значно дорожчим і трудомістким. Щоб запобігти таким екстремальним рівням ризику, необхідно мати державне регулювання, яке притягуватиме компанії до юридичної та фінансової відповідальності. Зробивши це, компанії будуть більше мотивовані створювати етичні технології ШІ.
Лише за перші три тижні 2024 року законодавці-демократи та республіканці з 13 штатів внесли законодавство про розкриття або заборону контенту, згенерованого ШІ. Однак, жодна кількість законодавства не матиме відчутного ефекту, якщо його неможливо буде виконати. Наприклад, якщо вимагатиметься розкриття інформації про діпфейки або їх заборона, все одно буде важко точно ідентифікувати діпфейки та визначити їхнє джерело.
Саме тому критично важливо створювати технології, які не тільки точно визначають, чи є контент згенерованим ШІ, але й ідентифікують як інструменти, що використовуються для його створення, так і джерело контенту. Такі інструменти можуть використовуватися соціальними платформами, державними установами та приватними особами. Завдяки багаторівневому впровадженню цих інструментів споживачі контенту зможуть впевнено розрізняти, чи є медіа, з якими вони взаємодіють, справжніми чи сфабрикованими. Це може запобігти радикалізації, керованій ШІ, та політичній поляризації, забезпечуючи при цьому автентичне споживання медіа, незалежно від політичних чи соціальних переконань.
Зрештою, без грамотності щодо ШІ люди залишатимуться необізнаними про численні ризики, які ШІ становить для суспільства, включаючи далекосяжні наслідки дезінформації та мізінформації. У 2021 році дослідники виявили, що 84% дорослих американців були неграмотними у сфері ШІ, що вказує на нагальну потребу в широких зусиллях з підвищення грамотності щодо ШІ. У політиці виборці повинні бути поінформовані про автентичність медіаконтенту, з яким вони стикаються. Це включатиме освіту про те, як створюються діпфейки та інший контент, згенерований ШІ, і як алгоритми соціальних мереж можуть ефективно поширювати такий контент, часто призводячи до “ехокамер”.
Без поєднання законодавчих, технічних та освітніх зусиль для боротьби з негативними соціополітичними наслідками ШІ, уряди залишають своїх виборців та інтереси національної безпеки вразливими до дій внутрішніх екстремістів та іноземних зловмисників. Завдяки цьому багатогранному підходу до боротьби з екстремістськими мережами дезінформації, меметичною війною ШІ та діпфейками, країни можуть проактивно випереджати зловмисних суб’єктів на кількох фронтах, включаючи цілісність виборчих циклів.
Ачі Мішра є інженером з етики ШІ в Polygraf Inc., займаючись виявленням та пом’якшенням етичних проблем, пов’язаних з управлінням та виявленням ШІ. Раніше вона була дослідником у лабораторії ASSIST Lab в UC Santa Cruz, де здобула ступінь магістра обчислювальних медіа.
Вігнеш Карумбая є операційним директором та співзасновником Polygraf Inc., компанії, що надає рішення з цілісності даних, моніторингу та управління за допомогою ШІ. Він є бізнес-стратегом і колишнім консультантом з управління з глобальним досвідом у високотехнологічному, промисловому та роздрібному секторах. Вігнеш здобув ступінь MBA у галузі корпоративної стратегії в Ross School of Business Мічиганського університету, де він також був стипендіатом Tauber Institute of Global Operation. Він отримав ступінь магістра економіки в Loyola College та ступінь бакалавра (з відзнакою) з економіки в Університеті Делі, Індія.
Погляди та думки, висловлені в цьому аналізі, є власними поглядами авторів і не обов’язково відображають погляди GNET або будь-якого з його партнерів.