На Западе испугались, что искусственный интеллект перешел на сторону России. Правда ли это?
21.03.2025 00:01
Это вызвало тревогу в связи с возможностью влияния на искусственный интеллект. Аналитики предполагают, что за этим стоит сеть «Правда», распространяющая фейковые статьи для манипулирования мнениями искусственного интеллекта.
Исследователи из NewsGuard провели анализ ответов чат-ботов на специально сформулированные запросы и обнаружили, что значительная часть информации, предоставляемой ботами, имеет российскую окраску. Это может оказать влияние на формирование мнений и восприятие событий искусственным интеллектом.Таким образом, возникает вопрос о влиянии фейковых новостей на алгоритмы искусственного интеллекта, которые могут быть подвержены манипуляциям со стороны сети «Правда». Критически важно разобраться в этой проблеме и разработать меры защиты от влияния подобных информационных искажений.Исследователи NewsGuard провели аудит 10 крупнейших иностранных чат-ботов, задавая им вопросы на основе 15 фактов, оцениваемых по-разному в России и на Западе. Результаты показали, что в 33,55% случаев искусственный интеллект поддерживал пророссийские тезисы, в 48,22% опровергал их, а в 18,22% просто не отвечал.Дезинформация, распространяемая чат-ботами, была связана с материалами из сети "Правда", причём семь из десяти чат-ботов даже ссылались на конкретные статьи из этой сети в качестве источников. Всего 56 из 450 ответов, сгенерированных чат-ботами, содержали прямые ссылки на ложные утверждения, что вызвало негодование у исследователей.Сеть «Правда» неоднократно привлекала внимание западных исследователей. В феврале 2024 года эксперты из агентства Viginum, связанного с правительством Франции и занимающегося отслеживанием международных кампаний дезинформации, упоминали эту сеть. Они обнаружили, что чат-боты цитировали 92 различные статьи, в которых российская точка зрения на различные события была названа дезинформацией. Среди этих статей были утверждения Министерства обороны России о том, что Соединенные Штаты управляли секретными лабораториями биологического оружия на Украине.Согласно отчету NewsGuard за последний год, сеть, известная также как Portal Kombat, значительно увеличила свое присутствие, охватывая 49 стран на десятках языков и в 150 доменах. В феврале 2025 года American Sunlight Project опубликовал отчет, в котором подробно рассматривается деятельность сети "Правда". Аналитики отмечают, что сеть распространяет ложные утверждения на разных языках и в различных географических регионах, что делает их более убедительными для искусственного интеллекта и популярными по всему миру. Из 150 сайтов, входящих в сеть "Правда", около 40 представлены на русском языке.В сети "Правда" используют доменные имена, нацеленные на конкретные города и регионы Украины. Около 70 веб-сайтов ориентированы на аудиторию в Европе, где публикации выходят на нескольких языках, включая английский, французский, чешский, ирландский и финский, как утверждают в NewsGuard.По мнению аналитиков, сеть администрирования принадлежит IT-компании, базирующейся в Крыму, и ее руководителю - веб-разработчику, который, как сообщается в NewsGuard, ранее участвовал в создании веб-сайтов для правительства этого региона.Создатели отчета подчеркивают, что для обучения чат-ботов на основе данных сети "Правда" используется тактика манипуляции токенами - это фундаментальные единицы текста, которые языковые модели используют для обучения пониманию естественного языка и формирования ответов на запросы пользователей.Исследование NewsGuard, опирающееся на отчет компании Google за январь 2025 года, выявило, что различные иностранные организации активно пытаются искажать результаты поисковых систем. Это подтверждает необходимость борьбы с дезинформацией и фейковыми новостями в онлайн пространстве.Токен, как правило, представляет собой последовательность символов или целое слово. Он используется для идентификации пользователя или для доступа к определенным ресурсам в сети.Использование таких данных для обучения искусственных интеллектуальных моделей требует значительных усилий по их продвижению и анализу. Однако, ученые из NewsGuard отмечают, что интернет-ресурсы, связанные с достоверной информацией, имеют низкую посещаемость. Некоторые из них не привлекают более тысячи уникальных посетителей в месяц.Информационная война с западными странами стала неотъемлемой частью российской реальности, и, несмотря на молчание официальных лиц по поводу выводов NewsGuard, факт этот не оспаривается. Начало специальной военной операции часто служит отправной точкой для анализа событий.«За истекшие три года этих новых условий, в которых мы живем, мы изрядно научились и поднаторели в деле ведения информационных войн. И это большой результат, это большое достижение», — подчеркнул пресс-секретарь президента России Дмитрий Песков. В своих высказываниях он также отметил, что информационная война представляет собой нечто, что было навязано России.Эксперты отмечают, что в условиях информационной войны важно уметь различать факты от манипуляций и быть готовыми к дезинформации. Российская сторона активно разрабатывает свои стратегии ведения информационной борьбы и усиливает контроль над информационным пространством.В свете недавних событий депутат Государственной думы Андрей Гурулев выдвинул идею создания в России министерства информации и пропаганды, которое могло бы бороться с фейками, используя их же методы. Однако данное предложение не получило широкой поддержки. Москва продолжает обвинять западные страны в распространении ложной информации о России, особенно в контексте военных действий. Некоторые считают это информационной войной, требующей адекватного ответа, даже если это означает использование не совсем честных методов.Журналист и блогер Виктор Байдаков утверждает, что ответственность за высказывания лежит на каждом из нас. Он подчеркивает важность ответов, которые должны быть конструктивными и объективными, чтобы оказать нужный эффект. Однако, не менее важно быть талантливым в своих высказываниях. Используя грязные методы, мы рискуем нанести ущерб не только себе, но и репутации всей страны. Поэтому необходимо проявлять ответственность и профессионализм в своих словах и действиях.Источник и фото - lenta.ru
