Це гірше, ніж ви думали. Як ШІ руйнує наше суспільство

У боротьбі за захоплення й утримання влади правителі фабрикують ілюзорні тріумфи, режими ховають реальні звірства за завісою штучно створених сумнівів, а держави-конкуренти вже здійснили перші залпи в інформаційній війні епохи штучного інтелекту.

ШІ як інструмент зміцнення авторитарної влади

Авторитарні режими одними з перших почали використовувати штучний інтелект, щоб підлаштовувати реальність під власні інтереси. Буркіна-Фасо, де капітан Ібрагім Траоре прийшов до влади внаслідок перевороту 2022 року, стала одним із піонерів у застосуванні генеративного штучного інтелекту. На відео в TikTok і на інших платформах Траоре відкриває заводи, виявляє родовища золота, зустрічається зі світовими лідерами та зриває зловісні західні змови.

Авторитарні режими одними з перших почали використовувати ШІ

Ці відеоролики зібрали мільйони переглядів і підвищили його впізнаваність у регіоні. Однак, як засвідчив детальний аналіз західноафриканської організації з перевірки фактів Dubawa, усі вони від початку до кінця сфабриковані. Траоре і президент Росії Володимир Путін знаходять у Буркіна-Фасо мільярди барелів нафти? Цього не було. Траоре запускає компанію з виробництва літаків? Теж вигадка. Тим часом усередині країни Траоре забороняє опозиційні партії, а джихадисти поступово наближаються до столиці.

Правлячий режим Ірану використовує ШІ інакше — експлуатуючи так званий «дивіденд брехуна» (тобто можливість оголосити підробкою навіть справжні свідчення), — щоб дискредитувати відеозаписи січневого придушення протестів 2026 року. Вірусна світлина самотнього чоловіка, який протистояв силам безпеки, підкреслювала мужність демонстрантів. Знімок був справжнім і верифікованим, однак рупори режиму почали посилатися на його відредаговані цифрові версії — які міг оприлюднити будь-хто, — щоб оголосити фейком сам оригінал. Аналітикиня Махса Алімардані назвала це явище «епістемологічним туманом», достатньо густим, щоб приховати за ним реальні звірства. До речі, той самий режим використовує проти жінок-активісток порнографічні діпфейки, створені за допомогою ШІ, — прийом, до якого масово вдаються авторитарні системи, щоб змусити незгодних замовкнути.

Росія та Китай створили складніші системи. Кремль поєднує інфраструктуру інтернет-стеження, що існує вже кілька десятиліть, з інструментами штучного інтелекту, які аналізують щоденний потік онлайн-трафіку в пошуках заборонених антивоєнних матеріалів або свідчень висловлювань, небажаних для влади. Протестувальники стикаються з густою мережею камер відеоспостереження, оснащених вбудованими програмами розпізнавання облич.

Імовірно, саме цю технологію поліція використала, щоб розшукати й заарештувати жінку, яка була присутня на похороні опозиційного лідера Олексія Навального в березні 2024 року: цвинтар, де його поховали, спеціально до цієї події обладнали камерами спостереження.

Телеканал, контрольований російськими військовими, транслює створені за допомогою штучного інтелекту «інтерв'ю» з західними лідерами — наприклад, із президентом Франції Емманюелем Макроном і колишнім прем'єр-міністром Великої Британії Борисом Джонсоном. Хоча деякі ролики мають виразно сатиричний характер і навіть натякають на роль ШІ в їхньому створенні, схоже, що цей контент розрахований на поширення в інтернеті без зазначення джерела, що ще більше розмиває межу між реальним і вигаданим.

Китай пішов іще далі. У звіті Австралійського інституту стратегічної політики (ASPI), опублікованому в грудні 2025 року, описано єдину систему, що охоплює доктрини, нормативні акти, інфраструктуру цензури й інструменти кримінального правосуддя з використанням ШІ, спрямовані насамперед проти етнічних меншин. Підозрюваного ідентифікують за допомогою системи всеосяжного стеження, після чого він постає перед судом під управлінням ШІ, де суддя лише формально затверджує вердикт машини, а зрештою його відправляють до «розумної» в’язниці з постійним моніторингом поведінки й емоційного стану. Механізми фільтрації контенту і цензури, посилені гібридною взаємодією людини й алгоритмів, інтегровано безпосередньо в китайські розробки у сфері ШІ. За оцінкою ASPI, ризик «криється не стільки в прямій пропаганді, скільки в непомітному замовчуванні — коли алгоритм, що формує картину реальності, починає визначати, які саме її фрагменти дозволено демонструвати».

Густий туман війни

Штучний інтелект змінює також інформацію, яку отримує суспільство на тлі геополітичних криз. 22 квітня 2025 року бойовики, пов’язані з Пакистаном, убили 26 туристів у місті Пахалгам на півночі Індії. Очікувалося, що відповідь Індії, яка отримала кодову назву Операція Сіндур, стане звичайним обміном ударами. Натомість вона перетворилася на першу в Південній Азії повномасштабну інформаційну війну з застосуванням штучного інтелекту.

За кілька годин після першого індійського удару вірусним стало гіперреалістичне діпфейк-відео з прем'єр-міністром Пакистану Шехбазом Шаріфом. На ньому він нібито «здавався» і повідомляв парламенту, що, за винятком союзної Туреччини, Пакистан залишився на самоті: арабські держави та Китай покинули його.

На відео, створених за допомогою ШІ, хибно демонструвалося, ніби пакистанська армія збила індійські літаки. Обидві сторони поширювали підроблені супутникові знімки: на зображеннях, змінених за допомогою ШІ, було видно зруйнований ангар на пакистанській авіабазі Боларі (хоча насправді він зазнав лише незначних пошкоджень) і наслідки удару по індійській авіабазі Джамму, яка, згідно з підтвердженими супутниковими даними, узагалі не постраждала. Аудіозаписи-діпфейки імітували голоси високопоставлених пакистанських командирів, які нібито віддавали накази оголосити ядерну тривогу або, навпаки, припинити бойові дії. Це спричиняло розгубленість серед цивільного населення і молодшого командного складу.

Цей штучний «туман війни» спирався на методи, відпрацьовані під час виборів у Пакистані 2024 року. Можливо, уперше у світі партія Техрік-і-Інсаф використала штучний інтелект для клонування голосу свого ув’язненого лідера Імрана Хана, що дозволило йому вести передвиборчу кампанію з тюремної камери.

Під час виборів в Індії того ж року поширювали діпфейки за участю прем'єр-міністра Нарендри Моді та лідерів опозиції, які нібито виступали різними мовами або закликали голосувати за своїх суперників. Найбільше занепокоєння викликало перетворення політичної агітації на цілеспрямоване психологічне насильство: гендерно-орієнтовані кампанії з використанням «діпнюдів» мали на меті витіснити із суспільного життя таких жінок, як міністерка інформації Пенджабу Азма Бухарі.

Росія активно використовує штучний інтелект для посилення інформаційних атак на Україну та її партнерів. На початку 2026 року компанія OpenAI повідомила, що російська мережа використовувала ChatGPT і генератор зображень Sora для створення пропагандистської контент-ферми. Кремль автоматизує роботу «фабрик тролів», які він підтримує ще з початку 2010-х років. При цьому він залучає великі мовні моделі для створення персонажів, дуже схожих на реальних людей, завдання яких — підривати підтримку України в соціальних мережах. Українці змушені постійно стикатися з потоком створених штучним інтелектом відеороликів у TikTok, що демонструють удавані сцени здачі українських військових у полон.

Китайська доктрина «когнітивної війни», сформульована у 2025 році, передбачає використання штучного інтелекту в усьому спектрі протистояння — від поля бою до геополітичної конкуренції. Бюро національної безпеки Тайваню зафіксувало спроби вплинути на громадську думку на острові за допомогою штучного інтелекту — через дезінформацію, фейкові акаунти в соціальних мережах, маркетингові кампанії та клікбейт.

Після зіткнення між Індією та Пакистаном у 2025 році Пекін поширював створені штучним інтелектом зображення, покликані дискредитувати французький винищувач Rafale і покращити репутацію власних бойових літаків.

Однак великі держави — не єдині учасники цього процесу. У 2024 році компанія OpenAI виявила на своїй платформі ознаки ізраїльської кампанії впливу — таємної операції, яку проводила ізраїльська компанія STOIC. За допомогою штучного інтелекту вона впливала на аудиторію в США, Канаді, а також в Індії під час виборів 2024 року.

Європейські ультраправі мережі навчилися долати захисні бар'єри моделей штучного інтелекту за допомогою методу так званої поетапної маніпуляції. Створюючи реалістичні зображення крок за кроком, вони конструюють расистські фантазії про континент, повністю «зачищений» від неєвропейських іммігрантів. Загальнодоступні моделі ШІ, які можна вільно завантажувати і параметри яких користувачі можуть самостійно змінювати, а також перехоплення цифрової ідентичності та злам промптів (що дає змогу шляхом обману змусити системи ігнорувати власні захисні механізми), передають можливості, раніше доступні лише спецслужбам і державним структурам, до рук будь-кого, хто має ноутбук. Недержавні суб'єкти і навіть окремі особи тепер здатні запускати синтетичні «фабрики тролів» або завалювати інформаційний простір фейками — діяльність, що раніше потребувала величезних ресурсів, цілої армії «цифрових воїнів» у Санкт-Петербурзі чи окремого управління КДБ.

Чи може демократія вижити, якщо реальність розчиниться?

Демократичні інституції, які і так зазнають атак, починають давати збої у США й інших країнах, а штучний інтелект створює нові виклики. За даними Pew Research Center, у 1960-х роках три чверті американців довіряли федеральному уряду й уважали, що він здатен «чинити правильно»; сьогодні таких людей — менше за одну п’яту. Друковані та цифрові медіа зазнають подвійного удару: спершу вони втратили традиційні доходи від реклами (коли читачі масово перейшли в інтернет, розраховуючи отримувати будь-який контент безкоштовно), а згодом потрапили в залежність від сторонніх цифрових гігантів, які відрізали видавців від прямого контакту з аудиторією. На цьому тлі регіональні та місцеві ЗМІ на більшій частині території США перетворилися на справжню випалену пустелю.

Ця криза була б досить серйозною сама собою, навіть якби Сполучені Штати намагалися її подолати. Але вони цього не роблять. Стратегія США у сфері штучного інтелекту ставить стрімкий прогрес вище за заходи безпеки. План дій Білого дому щодо ШІ на 2025 рік прямо закликає вилучити будь-які «згадки про дезінформацію» з національних стандартів — нібито задля захисту свободи слова. Адміністрація Трампа ліквідувала спеціальний підрозділ Держдепартаменту з питань боротьби з маніпулюванням інформацією, Центр протидії іноземному шкідливому впливу при розвідувальному співтоваристві, а також аналогічні структури в Міністерстві внутрішньої безпеки та ФБР. У травні 2026 року оглядачThe Washington Post Джеймс Джераті написав, що США «в односторонньому порядку роззброїлися» саме тоді, коли Росія, Китай та Іран нарощують свої інформаційні операції.

Водночас адміністрація Трампа активно використовує зображення, створені штучним інтелектом, у публікаціях, що розколюють суспільство. Після того як у жовтні 2025 року протести вивели на вулиці мільйони американців, президент Трамп оприлюднив згенероване ШІ відео, на якому він скидає екскременти на демонстрантів. Коли на початку 2026 року під час заворушень у Міннеаполісі поліція затримала активістку Некіму Леві Армстронг, Білий дім опублікував відредаговане зображення її арешту, на якому вона виглядала розпатланою й заплаканою. «Їм не вдалося зламати мене арештом, — сказала вона виданню The New York Times. — Тому вони підробили зображення, щоб показати світові хибну версію тієї миті й виставити мене слабкою».

Цей сфабрикований знімок є частиною ширшої тенденції поширення контенту, створеного штучним інтелектом, який закріплює расистські стереотипи: наприклад, фейкові відео, на яких темношкірі жінки хизуються шахрайством із продовольчими талонами, набрали сотні тисяч переглядів. Дослідники Антидифамаційної ліги задокументували, наскільки легко обійти захисні механізми для створення антисемітського контенту.

Відео, створені штучним інтелектом, проникають і в традиційну політику. В агітаційному ролику республіканців, спрямованому проти лідера меншості в Сенаті Чака Шумера, реальну цитату політика супроводжував сфабрикований вираз обличчя. Інший ролик, що мав на меті дискредитувати кандидата на посаду мера Нью-Йорка Зохрана Мамдані, обернувся проти його авторів: виборців відштовхнули расистські зображення, створені штучним інтелектом, які містилися в цьому відео.

Виборчі штаби змушені діяти в умовах правової невизначеності. Окремі штати просувають закони, що зобов’язують зазначати використання контенту, створеного штучним інтелектом, у політичній рекламі й інших медіаматеріалах, тоді як Конгрес зволікає, а Білий дім намагається запобігти регулюванню на рівні штатів. Восени 2026 року відбудуться проміжні вибори до Конгресу, а у 2028-му — президентські вибори. Спостерігачі попереджають про «потрясіння… які змінять зміст і характер виборчих кампаній». Спотворені стимули посилюють найнебезпечніші тенденції.

Інфлюенсер зі Шрі-Ланки отримує значні доходи від реклами на ісламофобському контенті, створеному штучним інтелектом і орієнтованому на літню британську аудиторію, «оскільки саме ці люди не люблять іммігрантів». Наукові журнали потерпають від напливу вигаданих статей і посилань, адже вчені намагаються впоратися з тиском, що змушує їх постійно публікуватися. За оцінками Deloitte, до 2027 року шахраї, які використовують штучний інтелект, можуть заробити 40 мільярдів доларів.

Новини зі сфер освіти, академічних досліджень, журналістики і правової системи також не вселяють оптимізму. Хоча ШІ справді може суттєво допомагати в дослідженнях і написанні текстів, його використання з недобросовісною метою виходить із-під контролю. Студенти пишуть свої роботи за допомогою ШІ, викладачі перевіряють їх так само, і результатами мало хто задоволений. Фальшиві цитати і вигадані посилання заполонили наукові журнали. Найбільший репозиторій препринтів був змушений блокувати неякісні статті, створені ШІ, відмовившись приймати публікації без попереднього рецензування. Тим самим він сам створив саме той бар'єр, задля усунення якого колись і створювали репозиторії препринтів, адже їхньою головною метою було саме прискорення обміну науковими знаннями. Паралельно з цим поширюються шахрайські схеми за участю фіктивних журналістів і навіть цілком фейкових регіональних видань — наприклад, вигаданої газети South Florida Standard.

Куди рухатися далі?

Зупинити шкоду, якої вже завдає стрімке поширення штучного інтелекту, непросто, але для початку варто принаймні оцінити масштаби проблеми. Деякі організації вже займаються цією роботою. Наприклад, такі організації, як Witness (що спеціалізується на аудіовізуальних технологіях в епоху ШІ) та індійська Boom (яка займається перевіркою фактів), надають безцінні дані. У звітах таких різних установ, як Американська асоціація юристів і британське Незалежне товариство музикантів, детально описано дестабілізаційний уплив генеративного ШІ на правову сферу та креативні індустрії — з метою пошуку можливих рішень.

Так, ШІ можна застосовувати цілком легітимно й конструктивно. Можливо, зрештою він навіть підтвердить правоту своїх найпалкіших прихильників. Але тут і зараз, у своєму нинішньому вигляді, ШІ підриває ключові елементи вільних суспільств і посилює репресивні можливості авторитарних режимів.

Нам украй необхідні політика й механізми регулювання, які дали б нам змогу захиститися. Білий дім із цим не погоджується, а Конгрес здебільшого бездіє, хоча на рівні окремих штатів і з’являються багатообіцяльні ініціативи. Європейський закон про цифрові послуги повільно адаптується до сфери штучного інтелекту й викликає обґрунтовані побоювання щодо свободи слова — особливо з огляду на ліберальнішу американську традицію. Новий індійський закон, що зобов’язує маркувати відео, створені за допомогою ШІ, ще не пройшов перевірку на практиці. Утім, нинішня ситуація відповідає двом фундаментальним умовам для державного регулювання: по-перше, технологічний прогрес завдає шкоди, з якою наявні правові інститути ледве справляються (як це було під час стрімкої індустріалізації століття тому), а по-друге, соціологічні опитування свідчать: суспільство набагато більше побоюється недостатнього регулювання ШІ з боку держави, ніж того, що вона зайде в цьому питанні надто далеко.

Невже ми дійшли до межі, коли розумне регулювання видається безнадійно амбітним завданням? Хоча такі вимоги не утопічніші за декларації, з якими керівники провідних лабораторій штучного інтелекту систематично виступають на міжнародних форумах.

Коли у 2000-х роках соціальні мережі почали набувати популярності, нездатність дослідити їхні негативні наслідки та невиправдана довіра до цієї індустрії завдали суспільству й політиці довготривалої шкоди.

Зі штучним інтелектом ставки ще вищі. Не варто двічі наступати на ті самі граблі.

Переклад NV

Оригінал