Это хуже, чем вы думали. Как ИИ разрушает наше общество

В борьбе за захват и удержание власти правители фабрикуют несуществующие триумфы, режимы прячут реальные зверства за завесой искусственно созданных сомнений, а конкурирующие государства уже сделали первые залпы в информационной войне эпохи искусственного интеллекта.

ИИ как инструмент укрепления авторитарной власти

Авторитарные режимы одними из первых начали использовать ИИ, чтобы подстраивать реальность под собственные интересы. Буркина-Фасо, где капитан Ибрагим Траоре пришёл к власти в результате переворота 2022 года, стала одним из пионеров применения генеративного ИИ. На видео в TikTok и других платформах Траоре открывает заводы, обнаруживает месторождения золота, встречается с мировыми лидерами и срывает зловещие западные заговоры.

Авторитарные режимы одними из первых начали использовать ИИ

Эти ролики собрали миллионы просмотров и повысили его узнаваемость в регионе. Однако, как показал подробный анализ западноафриканской организации по проверке фактов Dubawa, все они от начала до конца сфабрикованы. Траоре и президент России Владимир Путин обнаруживают в Буркина-Фасо миллиарды баррелей нефти? Такого не было. Траоре запускает компанию по производству самолётов? Тоже выдумка. Тем временем внутри страны Траоре запрещает оппозиционные партии, а джихадисты постепенно приближаются к столице.

Правящий режим Ирана использует ИИ иначе — эксплуатируя так называемый «дивиденд лжеца», то есть возможность объявить поддельными даже реальные свидетельства, — чтобы дискредитировать видеозаписи январского подавления протестов 2026 года. Вирусная фотография одинокого мужчины, противостоящего силам безопасности, подчёркивала мужество демонстрантов. Снимок был подлинным и верифицированным, однако рупоры режима стали ссылаться на его отредактированные цифровые версии — выложить которые мог кто угодно, — чтобы объявить фейком сам оригинал. Аналитик Махса Алимардани назвала происходящее «эпистемическим туманом», достаточно плотным, чтобы скрыть за собой подлинные зверства. Кстати, тот же режим задействует против женщин-активисток порнографические дипфейки, созданные ИИ, — прием, к которому авторитарные системы массово, чтобы заставить несогласных замолчать.

Россия и Китай создали более сложные системы. Кремль сочетает существующую уже несколько десятилетий инфраструктуру интернет-наблюдения с инструментами ИИ, которые анализируют ежедневный поток онлайн-трафика в поисках запрещённых антивоенных материалов или свидетельств высказываний, неугодных властям. Протестующие сталкиваются с густой сетью камер видеонаблюдения, с встроенными в них программами распознавания лиц.

Вероятно, именно эту технологию полиция использовала, чтобы разыскать и арестовать женщину, присутствовавшую на похоронах оппозиционного лидера Алексея Навального в марте 2024 года: кладбище, где его похоронили, специально к этому событию оборудовали камерами наблюдения.

Телевизионный канал, которым управляют российские военные, транслирует созданные ИИ «интервью» с западными лидерами — например, с президентом Франции Эмманюэлем Макроном и бывшим премьер-министром Великобритании Борисом Джонсоном. Хотя некоторые ролики явно носят сатирический характер и даже намекают на роль ИИ в их создании, похоже, что этот контент рассчитан на распространение в интернете без указания источника, что ещё сильнее размывает границу между реальным и вымышленным.

Китай пошёл ещё дальше. В докладе Австралийского института стратегической политики (ASPI), опубликованном в декабре 2025 года, описывается единая система, включающая доктрины, нормативные акты, инфраструктуру цензуры и инструменты уголовного правосудия с применением ИИ, нацеленная прежде всего на этнические меньшинства. Подозреваемый идентифицируется через систему всеобъемлющего наблюдения, затем предстает перед ИИ-судом, где судья лишь формально утверждает вердикт машины, и в итоге его отправляют в «умную» тюрьму с постоянным «поведенческим и эмоциональным» мониторингом. Фильтрация контента и цензурные механизмы, усиленные гибридным взаимодействием человека и алгоритмов, интегрированы напрямую в китайские ИИ-разработки. Риск, по оценке ASPI, «кроется не столько в прямой пропаганде, сколько в бесшумном умалчивании — когда алгоритм, формирующий картину реальности, начинает определять, какие именно ее фрагменты допустимы к показу».

Густой туман войны

ИИ меняет и ту информацию, которую общество получает на фоне геополитических кризисов. 22 апреля 2025 года боевики, связанные с Пакистаном, убили 26 туристов в городе Пахалгам на севере Индии. Ожидалось, что ответ Индии, получивший кодовое название «Операция Синдур», станет обычным обменом ударами. Вместо этого он превратился в первую в Южной Азии полномасштабную информационную войну с применением ИИ.

Через несколько часов после первого индийского удара стало вирусным гиперреалистичное дипфейк-видео с премьер-министром Пакистана Шехбазом Шарифом. На нём он якобы «сдавался» и сообщал парламенту, что, за исключением союзной Турции, Пакистан остался в одиночестве: арабские государства и Китай его бросили.

На видео, созданных с помощью ИИ, ложно показывалось, будто пакистанская армия сбила индийские самолёты. Обе стороны распространяли поддельные спутниковые снимки: на изменённых с помощью ИИ изображениях были видны разрушенный ангар на пакистанской авиабазе Болари — хотя на самом деле он получил лишь незначительные повреждения — и последствия удара по индийской авиабазе Джамму, которая, согласно подтверждённым спутниковым данным, вообще не пострадала.Дипфейк-аудиозаписи имитировали голоса высокопоставленных пакистанских командиров, якобы отдававших приказы объявить ядерную тревогу или, напротив, прекратить боевые действия. Это посеяло растерянность среди гражданского населения и младшего командного состава.

Этот искусственный туман войны опирался на методы, отработанные во время пакистанских выборов 2024 года. Возможно, впервые в мире партия «Техрик-и-Инсаф» использовала ИИ, чтобы клонировать голос своего заключённого — лидера Имрана Хана, позволив ему вести предвыборную кампанию из тюремной камеры.

На выборах в Индии в том же году распространялись дипфейки с участием премьер-министра Нарендру Моди и лидеров оппозиции, якобы выступавших на разных языках или призывавших голосовать за своих соперников. Наиболее тревожным стало превращение политического убеждения в целенаправленное психологическое насилие: гендерные кампании с использованием «дипньюдов» были призваны вытеснить из общественной жизни таких женщин, как министр информации Пенджаба Азма Бухари.

Россия активно применяет ИИ, чтобы усиливать информационные атаки на Украину и ее партнеров. В начале 2026 года OpenAI сообщила, что российская сеть использовала ChatGPT и генератор изображений Sora для создания пропагандистской контент-фермы. Кремль автоматизирует фабрики интернет-троллей, которые он поддерживает с начала 2010-х годов. При этом он задействует большие языковые модели для создания персонажей, очень похожих на реальных людей, призванных подрывать поддержку Украины в социальных сетях. Украинцам приходится постоянно сталкиваться с потоком созданных ИИ роликов в TikTok, на которых показаны несуществующие сцены сдачи в плен украинских военных.

Китайская доктрина «когнитивной войны», сформулированная в 2025 году, предполагает использование ИИ во всём спектре противостояния — от поля боя до геополитической конкуренции. Бюро национальной безопасности Тайваня документировало попытки влиять на общественное мнение на острове с помощью ИИ — посредством дезинформации, поддельных аккаунтов в социальных сетях, маркетинговых компаний и кликбейта.

После столкновения Индии и Пакистана в 2025 году Пекин распространял созданные ИИ изображения, призванные очернить французский истребитель Rafale и улучшить репутацию собственных боевых самолётов.

Однако крупные державы — не единственные участники этого процесса. В 2024 году OpenAI выявила на своей платформе признаки израильской кампании влияния — тайной операции, которую проводила израильская компания STOIC. С помощью ИИ она воздействовала на аудиторию в США, Канаде, а также в Индии во время выборов 2024 года.

Европейские ультраправые сети научились обходить защитные барьеры ИИ-моделей с помощью метода так называемой поэтапной манипуляции. Создавая реалистичные изображения шаг за шагом, они конструируют расистские фантазии о континенте, полностью «зачищенном» от неевропейских иммигрантов. Общедотвпные ИИ-модели, которые можно свободно скачивать и чьи параметры пользователи могут самостоятельно изменять, а также захват цифровой личности и взлом промптов, позволяющие обманом заставить системы обходить собственные защитные механизмы, передают возможности, прежде доступные лишь спецслужбам и государственным структурам, в руки любого человека с ноутбуком. Негосударственные игроки и даже одиночки теперь способны запускать синтетические фабрики троллей или заваливать инфополе фейками — деятельность, которая прежде требовала гигантских ресурсов, целой армии «цифровых воинов» в Санкт-Петербурге или отдельного управления КГБ.

Может ли демократия выжить, если реальность растворится?

Демократические институты, которые и без того подвергаются атакам, начинают давать сбои в США и других странах, а ИИ создает новые вызовы. Согласно данным Pew Research Center, в 1960-е годы три четверти американцев доверяли федеральному правительству и считали, что оно способно «поступать правильно»; сегодня таких людей меньше одной пятой. Печатные и цифровые медиа падают под двойным ударом: сначала они лишились традиционных рекламных доходов (когда читатели массово ушли в интернет, рассчитывая получать любой контент бесплатно), а затем попали в зависимость от сторонних цифровых гигантов, отрезавших издателей от прямого контакта с аудиторией. На этом фоне региональные и местные СМИ на большей части территории США превратилась в настоящую выжженную пустыню.

Этот кризис был бы достаточно тяжелым сам по себе, даже если бы Соединенные Штаты пытались его исправить. Но они этого не делают. Стратегия США в сфере искусственного интеллекта ставит стремительный прогресс выше мер безопасности. План действий Белого дома по ИИ на 2025 год прямо призывает исключить любые «упоминания дезинформации» из национальных стандартов — якобы в интересах защиты свободы слова. Администрация Трампа ликвидировала специальное подразделение Госдепартамента по борьбе с манипулированием информацией, Центр по противодействию иностранному вредоносному влиянию при разведывательном сообществе, а также аналогичные структуры в Министерстве внутренней безопасности и ФБР. В мае 2026 года обозреватель The Washington Post Джеймс Джерати написал, что США «в одностороннем порядке разоружились» в тот момент, когда Россия, Китай и Иран наращивают свои информационные операции.

Одновременно администрация Трампа с энтузиазмом использует изображения, созданные ИИ, в политически раскалывающих общество публикациях. После того как в октябре 2025 года протесты вывели на улицы миллионы американцев, президент Трамп опубликовал сгенерированное ИИ видео, на котором он сбрасывает экскременты на демонстрантов. Когда в начале 2026 года полиция задержала активистку Некиму Леви Армстронг в Миннеаполисе на фоне беспорядков, Белый дом разместил отредактированное изображение ее ареста, на котором она выглядела растрепанной и плачущей. «Им не удалось сломить меня арестом, — сказала она The New York Times. — Поэтому они подделали изображение, чтобы показать миру ложную версию того момента и выставить меня слабой».

Этот сфабрикованный снимок — часть более широкой тенденции распространения, созданного ИИ контента, который закрепляет расистские стереотипы: например, фейковые видео, на которых чернокожие женщины хвастаются мошенничеством с продовольственными талонами, набрали сотни тысяч просмотров. Исследователи Антидиффамационной лиги документально показали, насколько легко обходить защитные механизмы для создания антисемитского контента.

Видео, созданные ИИ, проникают и в традиционную политику. В агитационном ролике республиканцев, направленном против лидера сенатского меньшинства Чака Шумера, реальная цитата политика сопровождалась сфабрикованным выражением лица. Другой ролик, атаковавший кандидата на пост мэра Нью-Йорка Зохрана Мамдани, обернулся против его авторов: избирателей оттолкнули содержащиеся в нем расистские изображения, созданные ИИ.

Избирательные штабы вынуждены действовать в условиях правовой серой зоны. Штаты продвигают законы, обязывающие указывать в политической рекламе и других медиаматериалах использование контента, созданного ИИ, тогда как Конгресс медлит, а Белый дом пытается не допустить регулирования на уровне штатов. Осенью 2026 года состоятся промежуточные выборы в Конгресс, а в 2028-м — президентские выборы. Наблюдатели предупреждают о «потрясениях… которые изменят содержание и характер избирательных кампаний». Извращенные стимулы усиливают самые опасные тенденции.

Шри-ланкийский инфлюенсер получает значительные рекламные доходы от созданного ИИ исламофобского контента, рассчитанного на пожилую британскую аудиторию, «потому что именно эти люди не любят иммигрантов». Научные журналы захлебываются в выдуманных статьях и ссылках, поскольку ученые пытаются справиться с давлением, вынуждающим их постоянно публиковаться. По оценке Deloitte, к 2027 году мошенники, использующие ИИ, могут заработать 40 миллиардов долларов.

Новости из сферы образования, академических исследований, журналистики и правовой системы тоже не внушают оптимизма. Хотя ИИ действительно способен существенно помогать в исследованиях и написании текстов, его использование в недобросовестных целях выходит из-под контроля. Студенты пишут свои работы с помощью ИИ, преподаватели проверяют их с его же помощью, и результатами мало кто доволен. Липовые цитаты и сфабрикованные ссылки захлестнули научные журналы. Крупнейший репозиторий препринтов был вынужден блокировать созданных ИИ низкокачественных статей, отказавшись принимать публикации без предварительного рецензирования. Тем самым он сам создал именно тот барьер, ради разрушения которого когда-то и создавались репозитории препринтов — ведь их главной целью было именно ускорение обмена научным знанием. Параллельно с этим плодятся мошеннические схемы с несуществующими журналистами и даже полностью фейковыми региональными изданиями — вроде вымышленной газеты South Florida Standard.

Куда двигаться дальше?

Остановить ущерб, который уже наносит стремительное распространение ИИ, непросто, но для начала стоит хотя бы оценить масштаб проблемы. Некоторые организации уже занимаются этой работой. Например, такие организации, как Witness, специализирующаяся на аудиовизуальных технологиях в эпоху ИИ, и индийская Boom, которая занимается проверкой фактов, предоставляют бесценные сведения. В докладах таких непохожих друг на друга институтов, как Американская ассоциация юристов и британское Независимое общество музыкантов, подробно описывается дестабилизирующее воздействие генеративного ИИ на право и творческие индустрии — с прицелом на поиск возможных решений.

Да, ИИ можно применят вполне легитимно и конструктивно. Возможно, в конечном счете он даже подтвердит правоту своих самых восторженных сторонников. Но здесь и сейчас, в его нынешнем виде, ИИ подрывает ключевые элементы свободных обществ и усиливает репрессивные возможности авторитарных режимов.

Нам крайне необходимы политика и регулирование, которые позволили бы защитить себя. Белый дом с этим не согласен, а Конгресс в значительной степени бездействует, хотя на уровне штатов появляются многообещающие инициативы. Европейский закон о цифровых услугах медленно адаптируется к ИИ и вызывает обоснованные опасения в отношении свободы слова — особенно с учетом более свободной американской традиции. Новый индийский закон, обязывающий маркировать видео, созданные ИИ, еще не прошел проверку на практике. Однако текущий момент отвечает двум фундаментальным условиям для нормативного вмешательства: во-первых, технологический прогресс наносит ущерб, с которым существующие правовые институты справляются с трудом (как это было со стремительной индустриализацией век назад), а во-вторых, социальные опросы фиксируют: общество гораздо сильнее опасается недостаточного регулирования ИИ со стороны государства, чем того, что оно зайдет в этом отношении слишком далеко.

Неужели мы дошли до точки, когда разумное регулирование кажется безнадежно амбициозной задачей? Хотя подобные требования не более утопичны, чем декларации, с которыми главы ведущих ИИ-лабораторий систематически выступают на международных форумах.

Когда социальные сети начали набирать популярность в 2000-е годы, неспособность изучить их негативные последствия и неразумное доверие к индустрии нанесли обществу и политике долговременный ущерб.

С искусственным интеллектом ставки еще выше. Давайте не наступать на те же грабли дважды.

Перевод NV

Оригинал