У мережі з’явилося сфабриковане відеозвернення мера Харкова Ігоря Терехова, в якому він нібито оголошує про формування батальйону з місцевих підлітків. Звісно, джерело цього незграбного підроблення та цілі, які при цьому ставилися, очевидні. Цей ролик було створено за допомогою технології «діпфейк», і ми вирішили розібратися, що це таке і як ця технологія впливає на медіапростір та на суспільство загалом.

Що таке діпфейк

Діпфейк (від англ. deep learning — глибоке навчання, та fake — підробка) — це синтетичні медіа: відео, аудіо чи зображення, в яких за допомогою штучного інтелекту обличчя, голос або дії людини замінені або повністю сфабриковані так, щоб виглядати правдоподібно. Термін з’явився наприкінці 2017 року, коли користувач Reddit під ніком deepfakes почав публікувати підроблені ролики, і за кілька років пройшов шлях від нішевої технічної забави до інструменту, який серйозно обговорюють спецслужби, виборчі комісії та міжнародні організації.

Ключова відмінність дипфейку від звичайного монтажу чи фотошопу полягає в тому, що підробку створює не людина вручну, а нейромережа, навчена на великому масиві реальних зображень або записів голосу. Саме це забезпечує фотореалістичність і — що важливіше — масштабованість: один оператор здатний створити десятки роликів там, де раніше потрібна була студія та тижні роботи.

Як це працює

Історично основою дипфейків стали генеративно-змагальні мережі, запропоновані Яном Гудфеллоу у 2014 році. Архітектура складається з двох нейромереж, що навчаються у протистоянні.

Генератор отримує на вхід випадковий шум і намагається створити з нього правдоподібне зображення. Дискримінатор — класифікатор, якому по черзі показують справжні зображення та підробки генератора, і його завдання — відрізнити одне від іншого. Генератор прагне обдурити дискримінатор, дискримінатор — не дати себе обдурити.

Помилки дискримінатора слугують сигналом для генератора: він коригує свої ваги, щоб наступна підробка була переконливішою. З кожною ітерацією обидві мережі вдосконалюються, і якість зростає, доки дискримінатор вже не може надійно відрізнити фейк від оригіналу.

Класична аналогія — фальшивомонетник і експерт-детектив: чим краще детектив виявляє підробки, тим майстернішим стає фальшивомонетник, і навпаки.
Дифузійні моделі

Приблизно з 2021–2022 років лідерство перейшло до дифузійних моделей, і сьогодні саме вони лежать в основі передового генерування зображень і відео.

Принцип інший. Спочатку, на етапі навчання, до реального зображення крок за кроком додають гаусівський шум, доки картинка не перетвориться на беззмістовну «сніжну» текстуру. Нейромережа вчиться робити навпаки — передбачати, який шум потрібно прибрати на кожному кроці, щоб повернутися до чистого зображення. Навчивши її на мільйонах прикладів, модель запускають із чистого випадкового шуму й просять поетапно його «розчищати»: за десятки кроків із хаосу проступає зв’язне зображення. Текстовий запит при цьому кодується окремою моделлю й спрямовує процес, «підштовхуючи» результат до відповідності опису.

Проривом стала латентна дифузія (Stable Diffusion, 2022): замість роботи з кожним пікселем процес перенесли в стислий латентний простір, що різко здешевило генерацію та дозволило запускати моделі на споживчих відеокартах.

Переваги дифузії перед GAN — більша різноманітність результатів і стабільніше навчання без крихкого протистояння двох мереж. Головний мінус — повільність, оскільки генерація вимагає безлічі послідовних кроків; над цим працюють методи дистиляції, що скорочують кількість кроків до одиниць. На дифузії побудовані Stable Diffusion, Midjourney, DALL·E, а також проривні відеомоделі на кшталт Sora та Veo.

Аудіодіпфейки

Окремо варто виділити синтез голосу. Сучасні системи клонування здатні відтворити тембр, інтонацію та манеру мовлення людини за кількома секундами зразка. Для політичних маніпуляцій аудіо виявилося навіть небезпечнішим за відео: його дешевше створити, складніше викрити (немає візуальних артефактів на кшталт неприродного моргання) і простіше поширити через телефонні дзвінки або голосові повідомлення.

Спектр застосування: не лише шкода

Перш ніж перейти до темної сторони, слід чесно зазначити, що технологія є нейтральною і має законні сфери застосування. У кіно її використовують для «омолодження» акторів і дубляжу з синхронізацією губ. Технологія оживляє історичних постатей у музейних експозиціях, допомагає людям, які втратили голос, синтезувати мовлення, а також застосовується в освіті та рекламі. Проблема не в самому інструменті, а в його використанні без згоди та з метою обману.

Негативні сценарії

Статистика зростання є тривожною. За даними баз даних інцидентів, якщо у період 2017–2022 років фіксувалося лише близько 22 публічних випадків політичного використання дипфейків, то у 2023-му їх стало 42, а у 2024-му — вже близько 150. У першому кварталі 2025 року було зареєстровано близько 179 випадків — більше, ніж за весь попередній рік. При цьому серед загальної кількості дипфейків близько трьох чвертей політичних підробок створюються саме для політичних цілей, частина — для шахрайства, а значна частка — для створення сексуалізованого контенту без згоди.

Порнографія без згоди

Історично це була і залишається найбільшою за обсягом категорією. Ще у 2019 році, за оцінками дослідників, понад 90 % дипфейків, що циркулювали в Інтернеті, становили порнографічні матеріали, в які без згоди вставляли обличчя жінок. Наприкінці січня 2024 року соціальні мережі заполонили згенеровані ШІ порнографічні зображення співачки Тейлор Свіфт — випадок, що привернув увагу до проблеми на найвищому рівні. Окремо турбує використання цієї тактики проти жінок-політиків та журналісток: в Індії, наприклад, підроблений порнографічний контент став інструментом тиску, покликаним зганьбити жінок-лідерок і підірвати їхні шанси.

Фінансове шахрайство

Клонування голосу та відео використовується для обману: підробка голосу керівника, який віддає розпорядження про переказ коштів, фейкові відеодзвінки «від начальства», вимагання. Аудіопідробки в месенджерах стали масовим інструментом шахраїв.

Політика: головна мішень

Саме політичне застосування викликає найбільшу тривогу — за опитуваннями, близько 43% респондентів вважають вплив дипфейків на вибори найнебезпечнішим напрямком їхнього використання. Нижче — найбільш показові задокументовані кейси.

Словаччина, 2023 рік. Один із найгучніших ранніх випадків. За дві доби до парламентських виборів у соцмережах з’явився аудіозапис, на якому лідер прогресивної партії Міхал Шимечка нібито обговорює з журналісткою план фальсифікації виборів. Фактчекери виявили ознаки ШІ-генерації, а фігуранти заперечили свою причетність — але запис встиг поширитися в останні години кампанії, коли словацьке законодавство забороняє кандидатам відповідати на нападки. Прогресивна партія програла.

США, 2024 рік. Напередодні праймеріз у Нью-Гемпширі тисячі виборців отримали автоматичні дзвінки з голосом, схожим на голос президента Джо Байдена, який закликав не приходити на попереднє голосування. Дзвінки відстежили до політичного консультанта, який працював на конкуруючу кампанію, — йому висунули кримінальні звинувачення та призначили штрафи. 

Тайвань, січень 2024 року. Під час виборів поширювалися дипфейк-відео, зокрема сфабрикована «таємна історія» лідера, що йде з посади, Цай Іньвень. 
Індія, 2024 рік. Під час виборів поширювалися дипфейки, в яких знаменитості нібито критикували прем’єра Нарендру Моді та підтримували опозицію; ролики поширювалися у WhatsApp та YouTube.

Румунія, грудень 2024 року. Конституційний суд скасував результати першого туру президентських виборів — безпрецедентний для сучасної Європи крок — на тлі свідчень іноземного втручання із застосуванням ШІ.

Україна, 2022 рік і далі. З 2022 року фіксується перше застосування дипфейків у військово-політичних цілях. 16 березня 2022 року на зламаному новинному сайті поширилося фейкове відео, в якому президент Володимир Зеленський нібито закликає українських військових скласти зброю. Підробка була досить грубою і швидко викрита, але експерти назвали її «верхівкою айсберга» в інформаційній війні. 

Росія проти України: дипфейки як зброя інформаційної війни

Якщо для більшості країн дипфейки — це загроза в контексті виборів, то для України вони стали інструментом повномасштабної війни. З 2014 року, за оцінками Google, Україна піддається складним кібератакам частіше, ніж будь-яка інша країна, а фейки та дипфейки голова дочірньої компанії Google Jigsaw Джаред Коен у виступі на Раді Безпеки ООН виділив як один із ключових напрямків російської цифрової війни. 

Фейкова капітуляція: дипфейк Зеленського 2022 року

Показово, що найперший гучний військовий діпфейк виявився й найнезграбнішим. Ще в березні 2022 року українська розвідка та Центр стратегічних комунікацій публічно попереджали: Росія готує підроблене відео, в якому президент нібито оголосить про капітуляцію. Попередження спрацювало на випередження — коли 16 березня 2022 року на зламаному сайті телеканалу «Україна 24» та в соцмережах з’явився ролик із «Зеленським», який закликав військових скласти зброю, аудиторія вже була готова. Підробка була технічно слабкою: невідповідність розміру голови та тіла, неприродний колір шкіри, дивна артикуляція. Її швидко викрили, а сам Зеленський оперативно опублікував справжнє відеозвернення. Проте експерти назвали цей епізод «верхівкою айсберга», передбачивши, що якість буде зростати.
Наступні роки підтвердили, що тема капітуляції залишається улюбленим сценарієм: українські структури неодноразово попереджали про підготовку нових дипфейків із «зверненнями» Зеленського — то про Маріуполь, то про загальну капітуляцію.

Дискредитація через фабрикацію «доказів» корупції

Значна частина кампаній присвячена звинуваченням Зеленського та українського керівництва у привласненні західної допомоги. Тут росіяни поєднують дипфейки та синтетичні зображення з більш традиційною дезінформацією: у 2024 році створювалися підроблені сайти, що імітували європейські та американські ЗМІ, публікувалися замовні статті в маловідомих африканських виданнях, поширювалися фейкові зображення — наприклад, графіті в Парижі та Лондоні, на яких Зеленського зображували як вимагача грошей. За тією ж схемою поширювалася вигадка про те, що українська делегація нібито вивезла 300 кг кокаїну з Аргентини, — з посиланням на сайти-двійники новинних видань, спеціально створені для дезінформації.

Гібридні операції та захоплення ефіру

Російські кампанії дедалі частіше поєднують контент на основі штучного інтелекту з класичними кібератаками — гібридний підхід, який стає стандартом. Яскравий приклад — операція 9 травня 2024 року: програми приблизно 15 українських телеканалів були замінені трансляцією російського параду; злом торкнувся й латвійського каналу Baltcom. Це ілюструє, що дипфейк для Росії — не самоціль, а один із компонентів у комплексі «злом інфраструктури + підміна контенту + вкидання через мережу підконтрольних ресурсів».

Стратегічна мета: не переконати, а виснажити

Ключовий момент для розуміння російської тактики: її завдання полягає не стільки в тому, щоб змусити українців повірити в конкретну фейкову інформацію (суспільство якраз виробило високу стійкість і навчилося швидко розпізнавати підробки), скільки в тому, щоб створити загальний фон недовіри, перенавантажити інформаційний простір і підірвати віру в будь-які джерела — той самий «дивіденд брехуна» (про це детальніше — нижче) у масштабах цілої країни. Окремі наративи — про «нелегітимність» Зеленського після формального закінчення терміну повноважень навесні 2024 року, про неонацизм, про корупцію — спрямовані не стільки на українську, скільки на західну аудиторію, з метою послаблення військової підтримки. Інститут вивчення війни зазначав, що у важкі для себе моменти Росія найактивніше імітувала інтерес до «мирних переговорів», щоб вплинути на західних політиків.

Саме тому українська сторона зробила ставку на превентивне викриття — публічні попередження про підготовлювані дипфейки до їхнього поширення, — і ця стратегія «пребанкінгу» на сьогодні вважається однією з найефективніших у світі.

Важливе застереження: масштаб виявився меншим, ніж очікувалося

2024 рік називали «матір’ю всіх виборчих років» — вибори відбувалися в понад 45 країнах, і багато експертів пророкували, що дезінформація на основі штучного інтелекту «зламає» демократію. Однак постфактум картина виявилася складнішою за апокаліптичні прогнози, і сумлінна стаття зобов’язана це зазначити.
Незалежна Міжнародна панель з інформаційного середовища (IPIE) нарахувала лише близько 215 випадків ШІ-дипфейкової виборчої дезінформації у всіх 50 країнах, де у 2024 році відбувалися конкурентні вибори. Meta повідомляла, що на такий контент припало менше 1% перевіреної дезінформації на її платформах. В Індії з 258 передвиборчих перевірок лише 12 стосувалися контенту, створеного ШІ.

Ключовий висновок дослідників: так звані «дешеві підробки» (cheapfakes) — вирвані з контексту ролики, оманливі підписи, примітивний монтаж — використовувалися приблизно в сім разів частіше, ніж справжні дипфейки. І цьому є раціональне пояснення: вирвати реальний кліп із контексту займає лічені секунди, відмовка «я просто поділився відео» звучить безпечніше, ніж «я створив синтетичне медіа», а масштаби поширення примітивних методів більші. Іншими словами, 2024 рік став скоріше полігоном, де держави та зловмисники прощупували, що працює, і нарощували можливості для майбутніх циклів, ніж роком катастрофи, що сталася.

Не лише обман, а й «дивіденд брехуна»

Небезпека дипфейків не зводиться до конкретних підроблених роликів. Чи не більш руйнівний ефект — розмивання самої довіри до аудіовізуальних свідчень. Коли суспільство знає, що підробити можна що завгодно, у будь-якої публічної особи з’являється зручна відмовка: справжній компрометуючий запис можна оголосити дипфейком. Цей феномен називають «дивідендом брехуна» (liar's dividend). У результаті страждає не тільки конкретна жертва підробки, а й сама можливість спиратися на факти — фундамент, на якому тримаються і журналістика, і демократичний процес.

Боротьба із загрозою

Протидія розвивається за кількома напрямками: технічні детектори дипфейків (які, втім, постійно відстають від генераторів, що вдосконалюються), цифрове маркування та стандарти походження контенту (наприклад, водяні знаки та метадані C2PA), законодавче регулювання, а також — що багато дослідників вважають найнадійнішим — підвищення цифрової грамотності населення та зміцнення незалежного фактчекінгу. Окремо обговорюється ідея добровільних «червоних ліній» для політичних партій: зобов’язань не використовувати нерозкритий ШІ-контент у кампаніях.

Висновок

Діпфейки пройшли шлях від технічної дивацтва до реального чинника світової політики всього за кілька років, і технологічний поріг входу продовжує знижуватися. При цьому досвід «надвиборчого» 2024 року дає підстави й для обережного оптимізму: катастрофічного краху демократій не сталося, а набагато масовішою загрозою поки що залишаються примітивні, а не високотехнологічні підробки. Головний урок, який виводять дослідники, простий: готуватися заздалегідь, а не реагувати постфактум. Стійкість суспільства до синтетичної дезінформації в кінцевому рахунку визначається не стільки якістю детекторів, скільки зрілістю медіасередовища, силою незалежної журналістики та здатністю громадян критично оцінювати те, що вони бачать і чують на екрані.