Иранская кампания фейковых новостей: OpenAI разоблачила «Шторм-2035»

Компания OpenAI сообщила о выявлении и пресечении иранской кампании, использующей сервис ChatGPT для генерации фальшивых новостей и публикаций в социальных сетях. Данная инициатива, известная как «Шторм-2035», стала частью серии операций влияния, инициированных иранским правительством.

Согласно данным OpenAI, кампания создавала контент для пяти сайтов на английском и испанском языках, представляя их как новостные агентства. Главная цель сводилась к распространению «разделяющих сообщений» на темы, такие как президентские выборы в США, права ЛГБТК+ и конфликт в Газе.

Кроме того, в рамках кампании было создано десяток аккаунтов на платформе X и один на Instagram. Тем не менее, как отметили в OpenAI, данный проект не получил значительной поддержки, и большинство публикаций в социальных сетях были почти незамеченными — они не обрелись ни лайков, ни репостов, ни комментариев.

OpenAI проанализировала угрозу, исходящую от этой кампании, по шкале Breakout Scale Института Брукингса, присвоив ей рейтинг 2 (по шкале от 1 до 6). Это указывает на то, что кампания проявила активность на нескольких платформах, но не было никаких признаков того, что ее контент был широко распространен реальными пользователями.

Содержимое и цели кампании

Кампания производила контент для фальшивых консервативных и прогрессивных новостных источников, стараясь охватить противоположные взгляды. Например, распространялись намёки о том, что Дональд Трамп «подвергается цензуре в социальных сетях и готов объявить себя королём США». В другом примере выбирался Камала Харрис — её выбор Тима Уолза в качестве напарника рассматривался как «осмысленный выбор для единства».

Также контент касался участия Израиля в Олимпиаде, а также, в меньшей степени, политической ситуации в Венесуэле, прав латинских общин и независимости Шотландии. В дополнение к этому кампания вставляла комментарии о моде и красоте, что могло помочь им показаться более аутентичными и привлечь подписчиков.

Дальнейшие действия и последствия

Раскрытие этой фиктивной операции совпало с недавними новостями о хакерских атаках иранских группировок на кампании Тима Уолза и Дональда Трампа. ФБР сообщило о том, что неофициальный советник Трампа, Роджер Стоун, стал жертвой фишинга. В результате иранские хакеры получили доступ к его аккаунту и начали рассылать сообщения с фишинговыми ссылками. В то же время, ФБР не обнаружило никаких свидетельств того, что кто-то из команды Харрис попал в подобную ловушку.