aizen_tt (aizen_tt) wrote,
aizen_tt
aizen_tt

Category:

ИИ подключится к борьбе с "дезинформацией"

Система искусственного интеллекта может помочь противостоять распространению "дезинформации" Программа RIO, созданная в лаборатории Линкольна Массачусетского технологического института, автоматически обнаруживает и анализирует учетные записи в социальных сетях, которые распространяют "дезинформацию" по сети. Упрощение для правительств выявления и подавления несогласных.

MIT News пишет:
"Группа кругов и линий красного и синего цветов соединена в середине изображения. Несколько строк связаны с примерами изображений профилей пользователей из Twitter.
Подпись под фото: Исследовательская группа Reconnaissance of Influence Operations в Lincoln Laboratory нанесла на карту зарубежную пропагандистскую сеть Twitter, которая действовала во время президентских выборов во Франции в 2017 году. Красные кружки большего размера представляют влиятельные и вероятные операционные счета.
Кредиты: Изображение любезно предоставлено исследовательской группой лаборатории Линкольна.

Кампании по дезинформации не новость - подумайте о пропаганде военного времени, которая использовалась для того, чтобы склонить общественное мнение против врага. Новым, однако, является использование Интернета и социальных сетей для распространения этих кампаний. Распространение дезинформации через социальные сети может изменить выборы, укрепить теории заговора и посеять разногласия.

Стивен Смит, сотрудник группы по архитектуре и алгоритмам программного обеспечения для искусственного интеллекта лаборатории Линкольна Массачусетского технологического института, является частью команды, которая поставила перед собой задачу лучше понять эти кампании, запустив программу Reconnaissance of Influence Operations (RIO). Их цель состояла в том, чтобы создать систему, которая автоматически обнаруживала бы дезинформационные повествования, а также тех людей, которые распространяют их в социальных сетях. Ранее в этом году команда опубликовала статью о своей работе в Proceedings of the National Academy of Sciences, и прошлой осенью они получили награду R&D 100.

Проект зародился в 2014 году, когда Смит и его коллеги изучали, как злоумышленники могут использовать социальные сети. Они заметили повышенную и необычную активность в данных социальных сетей из аккаунтов, которые выглядели как продвигающие пророссийские нарративы.

«Мы как бы ломали голову», - говорит Смит о данных. Таким образом, команда обратилась за внутренним финансированием через технологический отдел лаборатории и запустила программу, чтобы изучить, будут ли аналогичные методы использоваться во французских выборах 2017 года.





За 30 дней до выборов команда RIO собирала данные социальных сетей в режиме реального времени для поиска и анализа распространения дезинформации. В общей сложности они собрали 28 миллионов постов в Twitter из 1 миллиона аккаунтов. Затем, используя систему RIO, они смогли обнаружить дезинформационные аккаунты с точностью 96%.

Уникальность системы RIO заключается в том, что она сочетает в себе несколько аналитических методов, позволяющих получить полное представление о том, где и как распространяются дезинформационные нарративы.

«Если вы пытаетесь ответить на вопрос о том, кто имеет влияние в социальной сети, обычно люди смотрят на счетчики активности», - говорит Эдвард Као, еще один член исследовательской группы. Например, в Twitter аналитики учитывают количество твитов и ретвитов. «Мы обнаружили, что во многих случаях этого недостаточно. На самом деле это не говорит вам о влиянии аккаунтов на социальную сеть».

В рамках докторской работы в лабораторной программе Lincoln Scholars, программе стипендий, он разработал статистический подход, который теперь используется в RIO, чтобы помочь определить не только то, распространяет ли учетная запись в социальных сетях дезинформацию, но и насколько эта учетная запись вызывает дезинформацию. сеть в целом, чтобы изменить и усилить сообщение.

Эрика Маккин, еще один член исследовательской группы, также применила новый подход к машинному обучению, который помогает RIO классифицировать эти учетные записи, изучая данные, связанные с поведением, например, взаимодействует ли учетная запись с иностранными СМИ и какие языки она использует. Такой подход позволяет RIO обнаруживать враждебные аккаунты, которые активно участвуют в различных кампаниях, от президентских выборов во Франции в 2017 году до распространения дезинформации о Covid-19.

Еще одним уникальным аспектом RIO является то, что он может обнаруживать и количественно оценивать влияние учетных записей, которыми управляют как боты, так и люди, тогда как большинство используемых сегодня автоматизированных систем обнаруживают только ботов. RIO также может помочь тем, кто использует систему, спрогнозировать, как различные контрмеры могут остановить распространение той или иной кампании дезинформации.

Команда предполагает, что RIO будет использоваться как правительством, так и промышленностью, а также не только в социальных сетях, но и в традиционных СМИ, таких как газеты и телевидение. В настоящее время они работают со студентом Вест-Пойнта Джозефом Шлессингером, который также является аспирантом Массачусетского технологического института и военным научным сотрудником в лаборатории Линкольна, чтобы понять, как рассказы распространяются в европейских СМИ. Также разрабатывается новая программа для изучения когнитивных аспектов операций влияния и того, как дезинформация влияет на индивидуальное отношение и поведение.

«Защита от дезинформации - это не только вопрос национальной безопасности, но и защита демократии», - говорит Као. "


https://news.mit.edu/2021/artificial-intelligence-system-could-help-counter-spread-disinformation-0527
Tags: Цифровой концлагерь
Subscribe

Recent Posts from This Journal

promo nemihail 16:00, yesterday 33
Buy for 20 tokens
По поводу моего вчерашнего поста "Я разорён", каюсь, был не прав, однако получил очень полезный фитбек. Об этом подробно... (фото: Яндекс Картинки, кадр из к/ф Во все тяжкие) Возможно было глупо использовать стандартную подачу информации, а именно "кликбейт", когда пишу…
  • Post a new comment

    Error

    default userpic
    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 0 comments