В то время как в США полным ходом идет сезон выборов, Китай все активнее использует искусственный интеллект в рамках более широких усилий по вмешательству в американскую политику, утверждает Microsoft, изучая, что разделяет граждан, чтобы использовать это для разжигания розни.
«Связанные с КПК субъекты начали задавать спорные вопросы по противоречивым внутренним проблемам США, чтобы лучше понять ключевые проблемы, разделяющие американских избирателей», — предупреждает Microsoft. В отчете говорится, что Китай также использует социальные сети, чтобы представить США в «неблагоприятном свете».
В докладе приводится несколько скриншотов аккаунтов в социальных сетях с просьбой высказать свое мнение по спорным темам, включая изображения, сгенерированные искусственным интеллектом или манипулируемые им, а также тактику привлечения аудитории и вовлечения на различных платформах.
Источник: Microsoft
«В последние месяцы участились случаи использования китайского контента, созданного искусственным интеллектом, в попытках повлиять на США и другие страны и посеять в них раздор по целому ряду вопросов, — говорится в отчете. Эта тактика включает в себя письменный контент, а также подделки изображений и видео.
Китай также вмешивается в местную политику. Microsoft приводит в пример сообщения о сходе поезда с рельсов в Кентукки, лесных пожарах на Мауи и иммиграционных проблемах на южной границе США. Аккаунты, которые призывают людей оставлять свои комментарии к важным новостным событиям, являются «китайскими сокпапперами», поясняется в отчете.
Признавая, что «существует мало доказательств того, что эти усилия были успешными в изменении общественного мнения», Microsoft предупреждает, что Китай, вероятно, со временем совершенствует свои пропагандистские операции с использованием искусственного интеллекта.
«Растущие эксперименты Китая по дополнению мемов, видео и аудио, вероятно, продолжатся — и, возможно, окажутся более эффективными в будущем», — говорится в заключении отчета.
Помимо Китая, Microsoft также обратила внимание на действия Северной Кореи в Интернете.
«Северная Корея продолжала уделять первоочередное внимание краже криптовалютных средств, проведению атак на цепочки поставок программного обеспечения и нападениям на своих предполагаемых противников в сфере национальной безопасности», — говорится в отчете.
AI как геополитическое оружие
Рост роли больших данных и искусственного интеллекта в выборах вызвал обеспокоенность по поводу конфиденциальности избирателей, честности выборов и возможности неправомерного влияния через целевые и персонализированные сообщения, поскольку сами политические кампании все чаще используют аналитику данных для микронацеливания на избирателей с помощью индивидуальной рекламы и информационно-разъяснительной работы на основе подробных профилей избирателей.
Например, кампания Обамы 2012 года получила высокую оценку за сложные операции с данными по выявлению и мобилизации сторонников. Аналогичным образом, кампания Трампа в 2016 году использовала данные о 1,6 миллионах волонтеров для организации низовой работы.
Кроме того, были случаи неправомерного использования данных об избирателях для политических исследований с помощью ИИ, например, взлом в 2015 году, в результате которого кампания сенатора Берни Сандерса получила доступ к данным кампании Хиллари Клинтон, и несанкционированный сбор компанией Cambridge Analytica данных пользователей Facebook для целевой политической рекламы.
В настоящее время регулирующие органы спешат установить правила и надзор за использованием ИИ в выборах. Несколько американских штатов представили законопроекты по регулированию глубоких подделок и обманчивого контента ИИ, включая требования по раскрытию информации и маркировке, наряду с призывом президента Байдена решить эту проблему. Европейский союз также реализует свой закон об искусственном интеллекте, который он называет первым в мире всеобъемлющим законом об ИИ, включающим правила использования ИИ на выборах.
Однако самым заметным и полярным проектом, вероятно, является «Закон о защите американцев от приложений, контролируемых иностранными противниками», который направлен на запрет TikTok в США.
«Причина успеха TikTok, причина его привлекательности в том, что он знает вас лучше, чем вы сами себя, и чем больше вы им пользуетесь, тем больше он узнает», — заявил сенатор Марко Рубио на ежегодных слушаниях по оценке мировых угроз. «Так получилось, что они контролируют компанию, которая владеет одним из лучших в мире алгоритмов искусственного интеллекта. Именно он используется в этой стране в TikTok, и он использует данные американцев, чтобы читать ваши мысли и предсказывать, какие видео вы хотите посмотреть».
Однако некоторые утверждают, что наиболее серьезные угрозы исходят от распространения ложного и вредного контента на платформах социальных сетей, а не от создания контента искусственным интеллектом. Технологические компании подписали соглашение о принятии мер против неправомерного использования ИИ, но когда дело доходит до сдерживания дезинформации и определения ответственных за ее размещение, регулирование социальных сетей представляется менее четким — даже по сравнению с пространством ИИ.
