На этом изображении взято из видео, предоставленного пресс-службой президента России в пятницу, 3 июля 2026 года. Президент России Владимир Путин выступает во время посещения одного из командных пунктов Объединенной группы российских войск в неизвестном месте. (Пресс-служба президента России, AP)
В 2025 году каждая четвертая зарубежная операция по дезинформации, обнаруженная Европейской службой внешних действий, использовала инструменты искусственного интеллекта. Ожидается, что эта доля резко вырастет в 2026 году, но она все еще не отражает предстоящий сдвиг в сторону агентных систем, которые представляют собой масштабные качественные изменения. Разница заключается в том, как они работают: в отличие от предыдущих инструментов, которые в основном генерируют контент по команде, эти новые системы ориентированы на достижение цели. Дайте им цель, и они поймут, как ее достичь, перемещаясь по платформам, используя внешние инструменты, проверяя собственный прогресс и поворачиваясь при необходимости, и все это практически без участия человека. Агентические системы могут работать с фальшивыми персонажами в огромных масштабах, напрямую взаимодействовать с людьми и корректировать свою тактику в реальном времени в зависимости от реакции целей. Несмотря на то, что технология все еще находится на ранней стадии своего развития, она уже делает кампании влияния более быстрыми, более беспощадными и значительно труднее отследить источник. Это значительно повышает ставки.
За последние несколько лет Россия слишком хорошо продемонстрировала, что она может интегрировать генеративный искусственный интеллект в тактику дезинформации посредством таких кампаний, как «Доппельгангер» и «Операция «Перегрузка». Добавление агентских возможностей позволит этим сетям работать с большей автономией, масштабом и адаптируемостью. Российские сети уже наводнили открытую сеть миллионами некачественных статей, специально предназначенных для использования в обучающих данных, заставляя чат-ботов с искусственным интеллектом повторять прокремлевские аргументы и демонстрируя, как злоумышленники могут формировать информационную среду, на которую опираются системы искусственного интеллекта. Действительно, было показано, что крупные западные чат-боты повторяют прокремлевские нарративы с заметной частотой даже после публичного разоблачения российских сетей. Другими словами, дезинформация – это уже не просто игра в «ударь крота» с фейковыми постами; он стремится скомпрометировать цепочку поставок нашей информационной экосистемы.
Агентический ИИ ускоряет перемены, с которыми существующие европейские системы плохо справляются. В отличие от базового заражения данных, агентные системы могут искать и устранять конкретные слабые места, которые манипулированные или некачественные данные привносят в модели ИИ, когда они очищают Интернет. Российские или связанные с Россией субъекты могут использовать «слепые зоны» в режиме реального времени, фактически превращая скомпрометированные модели ИИ и информационные экосистемы в более широком смысле в инструменты массового манипулирования.
Нынешняя нормативная архитектура Европы была построена для более ранней стадии проблемы: Закон о цифровых услугах налагает на платформы обязательства по смягчению системных рисков, включая дезинформацию, Закон об искусственном интеллекте вводит требования прозрачности для генерирующих результатов и запрещает определенные манипулятивные методы, а Европейский центр демократической устойчивости стремится усилить координацию и раннее предупреждение между государствами-членами.
Эти инструменты имеют значение. Но на практике они в основном сосредотачиваются на соблюдении требований платформы и отборе отдельных фрагментов контента, упуская при этом более новую угрозу: скоординированную деятельность, осуществляемую сетями агентов. Текущие руководства склонны рассматривать агентные системы как еще один интерфейс для существующих инструментов ИИ, применяя те же категории рисков и правила прозрачности, а не признавая их системами, которые могут планировать, адаптироваться и действовать независимо.
Например, Закон об ИИ не рассматривает скоординированную агентурную деятельность как отдельную категорию, требующую индивидуальных мер защиты. Тем временем Центр улучшил обмен информацией, но ему по-прежнему не хватает ни технических возможностей, ни мандата для проведения устойчивого «красного коллектива» по агентным угрозам или для поддержки разработки защитных инструментов искусственного интеллекта.
Однако было бы несправедливо предполагать, что этот разрыв является исключительно европейской проблемой. Это не так, и это выходит далеко за рамки дезинформации. От военных закупок и диагностики здравоохранения до управления финансовыми рисками и рабочими процессами предприятия — ИИ развивается быстрее, чем системы, предназначенные для управления им. Неприятная реальность заключается в том, что наши нынешние концепции не были разработаны для технологического ландшафта, который меняется так быстро, что вчерашние предположения едва выдерживают критику.
Последствия этого бреши в обороне выходят далеко за рамки эпизодических операций по дезинформации, которые вызывают большое раздражение, но в целом их можно держать под контролем. Непрекращающиеся волны автономных атак искусственного интеллекта рискуют подорвать общественную поддержку Украины, вызвать эскалацию дебатов вокруг расширения ЕС, повлиять на Европейский щит демократии и сильно исказить ландшафт перед будущими европейскими выборами. Атаки, вероятно, будут сосредоточены именно на тех областях, где ЕС пытается продемонстрировать геополитическую сплоченность именно потому, что Москва стратегически заинтересована в их разрушении.
Ущерб не будет ограничиваться непосредственными политическими последствиями. Асимметрия очевидна: авторитарные государства, такие как Россия и Китай, могут развивать и развертывать возможности влияния, основанные на ИИ, с минимальными внутренними ограничениями, в то время как открытые общества должны противостоять этим угрозам, не подрывая ту самую открытость и дебаты, которые они стремятся защитить.
Устранение этого разрыва потребует от ЕС перехода от обязательств высокого уровня к оперативному потенциалу. Центру следует предоставить более четкую оперативную роль, возможности технического тестирования и выделенные ресурсы для прогнозирования агентных угроз. Это включает в себя постоянную операцию «красной команды», посвященную системам искусственного интеллекта, связанным с манипулированием внешней информацией и вмешательством, связанным с системой быстрого оповещения и национальными оперативными группами. В то же время реализация Закона об искусственном интеллекте и Закона о цифровых услугах должна выйти за рамки мер прозрачности на уровне контента. Вместо этого он должен активно ориентироваться на то, как сети автономных агентов координируют свое поведение.
Устойчивые государственные инвестиции в оборонительный ИИ имеют решающее значение, но их направление через стандартные, медленные исследовательские программы не принесет своевременных результатов. Выделенная линия финансирования европейских инструментов искусственного интеллекта, отвечающих общественным интересам, ориентированная на обнаружение скоординированного поведения агентов и быстрое создание контрнарративов, уменьшит зависимость от внешних поставщиков и укрепит суверенную устойчивость. Более прочные оперативные связи между национальными подразделениями FIMI, Центром и платформами могут помочь перевести меры реагирования с реагирования на более ранние сбои. Усилия по медиаграмотности также должны будут выйти за рамки обнаружения синтетических медиа, чтобы решить более сложную задачу выявления и реагирования на синтетические взаимодействия, генерируемые сетями автономных агентов.
Хотя существующие структуры предлагают жизненно важную основу, они просто не созданы для систем, способных самостоятельно планировать, адаптироваться и координировать свои действия. Законодательство, такое как Закон об искусственном интеллекте и Закон о цифровых услугах, в значительной степени ориентировано на генеративный контент, приложения с высоким уровнем риска и модерацию платформ. Важно отметить, что в этих законах отсутствуют конкретные инструменты, необходимые для проверки автономных агентов или устранения геополитических предубеждений, связанных с языком, когда это происходит.
Европейский щит демократии также испытывает недостаток ресурсов для систематического многоязычного тестирования новых систем искусственного интеллекта на предмет манипулирования иностранной информацией. Этот дефицит больше нельзя рассматривать как второстепенную проблему. Если Брюссель быстро не согласует свои инструменты защиты демократии, регулирование искусственного интеллекта и политику безопасности с реалиями агентурных операций, вместо того, чтобы формировать среду, в которой разворачиваются такие кампании, он обнаружит, что постоянно реагирует на следующую кампанию.
