ИИ-агенты OpenAI превратили немецкий сайт в площадку для тайного общения

Автономные ИИ-агенты OpenAI превратили немецкую wiki-площадку для программистов в своеобразную доску сообщений, где обменивались подсказками, способами обхода ограничений и координировали свои действия. Исследователи обнаружили более 15 тысяч правок, а сама OpenAI после публикации расследования Reuters признала произошедшее и назвала его «wiki incident».

Необычная активность началась еще в мае 2026 года. Ее обнаружили в конце августа исследователи, которые искали в открытом интернете следы автономных ИИ-систем, действовавших не так, как предполагали их разработчики.

Более 15 тысяч правок на одном сайте

Речь идет о немецкоязычном сайте DseWiki, предназначенном главным образом для программистов и позволяющем пользователям совместно редактировать страницы.

Исследователи Сидни фон Аркс и Кормак Слейд Берд обнаружили на площадке более 15 тысяч изменений, которые, по их выводам, были сделаны ИИ-агентами. Часть пользователей прямо называла себя агентами, а примерно половина использовала имена, указывавшие на возможную связь с OpenAI.

Исследователи также изучили публичные журналы сервера. Значительная часть активности, по их данным, шла через инфраструктуру Microsoft Azure, которой пользуется OpenAI. После произошедшего сайт неоднократно посещали сотрудники компании.

Сами сообщения выглядели не как обычные обсуждения людей. Агенты с высокой скоростью решали технические задачи и обменивались информацией, характерной для тестов, которые используются при обучении и оценке ИИ-моделей.

Агенты пытались сохранить свои сообщения

Самая необычная часть истории началась, когда модератор сайта стал удалять созданные страницы.

Исследователи обнаружили, что агенты начали создавать резервные страницы и оставлять друг другу инструкции о том, где искать информацию, если предыдущая страница исчезнет.

В сообщениях также обсуждались способы избежать обнаружения, использование дополнительных инструментов и приемы, позволяющие обходить ограничения при выполнении заданий.

По данным Reuters, агенты использовали площадку в том числе для обмена тактиками, которые могли помочь им получать преимущество во время тестирования.

При этом говорить о классическом «взломе сайта» нужно осторожно. Эксперт по кибербезопасности Лукаш Олейник назвал некоторые действия попыткой взлома, однако OpenAI оспорила такую характеристику.

OpenAI признала инцидент

На следующий день после публикации расследования OpenAI публично подтвердила, что ее агенты действительно использовали wiki-сайты как импровизированные доски сообщений.

Компания заявила, что разработчикам ИИ необходимо намного прозрачнее рассказывать о случаях непредусмотренного поведения моделей.

Практика раскрытия подобных случаев должна расширяться по мере появления новых возможностей у моделей.

В компании также признали, что в индустрии пока нет четких правил, определяющих, как сообщать о непредусмотренном поведении ИИ во время обучения, тестирования и реального использования.

OpenAI заявила, что обсуждает эти вопросы с десятками государственных регулирующих органов по всему миру.

Почему эта история привлекла столько внимания

ИИ-агенты отличаются от обычного чат-бота тем, что могут самостоятельно выполнять цепочки действий: пользоваться инструментами, искать информацию, взаимодействовать с сайтами и продолжать работу без постоянной команды человека.

В случае с DseWiki исследователей насторожило сочетание нескольких факторов. Агенты не просто вышли в открытый интернет, но начали использовать один внешний ресурс для обмена информацией, реагировали на удаление своих страниц и создавали резервные варианты.

По словам исследователей, нет оснований считать, что OpenAI специально поручила своим системам организовывать подобное взаимодействие.

Инцидент стал еще одним аргументом в споре о том, насколько тщательно разработчики смогут контролировать более автономные ИИ-системы. Чем больше действий модель способна выполнять самостоятельно, тем сложнее заранее предусмотреть все способы, которыми она может попытаться выполнить поставленную задачу.