Северокорейские хакеры начали запускать ИИ локально для кибератак

Kimsuky разворачивает локальные LLM, RAG и другие ИИ-инструменты для анализа данных, программирования и подготовки более сложных кибератак.

👁️ 37
Хакеры КНДР и локальный искусственный интеллект
Изображение: GPT

Связанная с КНДР хакерская группировка Kimsuky начала собирать собственную инфраструктуру для локальной работы с искусственным интеллектом. Исследователи обнаружили установленные среды для запуска LLM, инструменты для поиска по документам и ИИ-помощники для программирования. Об этом говорится в техническом отчете Genians Security Center.

Главное отличие от привычного использования ChatGPT и других облачных сервисов заключается в том, что часть ИИ-систем Kimsuky может работать непосредственно на компьютерах самих операторов. Это потенциально позволяет обрабатывать чувствительные или похищенные материалы, не отправляя их сторонним сервисам.

От фишинговых текстов к локальным LLM

В инфраструктуре, которую исследователи связывают с Kimsuky, обнаружили сразу несколько популярных инструментов для локального запуска языковых моделей: Ollama, GPT4All и Msty.

В случае Ollama специалисты нашли уникальные ключи аутентификации, которые автоматически создаются при первом запуске программы. Это стало одним из признаков того, что приложение не просто скачали, а действительно устанавливали и запускали.

Кроме того, хакеры экспериментировали с RAG. Эта технология позволяет подключить языковую модель к собственной коллекции документов и задавать вопросы по содержащейся в них информации.

В распоряжении группы также оказались:

  • Cursor, ИИ-инструмент для программирования;
  • средства преобразования речи в текст;
  • компоненты для разработки ИИ-агентов;
  • материалы и инструменты для машинного обучения;
  • среды разработки на C# и .NET, которые можно объединять с ИИ-компонентами.

По оценке Genians, такой набор технологий в перспективе может использоваться для анализа больших массивов похищенных документов, обработки записей разговоров, разработки вредоносных программ и автоматизации отдельных этапов атак.

ИИ уже помогает делать более убедительные приманки

Исследователи также изучили документы, которые использовались для заманивания потенциальных жертв. Среди них были материалы о криптовалютах, финансовых инвестициях и разработке игр.

Несмотря на разные темы, документы имели схожую структуру и оформление. Анализ метаданных и других признаков позволил Genians предположить, что для их подготовки применялась генеративная ИИ-система.

Один из обнаруженных вредоносных файлов маскировался под инвестиционный материал и имитировал документы, которые действительно распространяла южнокорейская финтех-платформа. Расчет прост: чем естественнее выглядит рабочий документ, тем выше вероятность, что получатель откроет файл.

Сама атака могла начинаться с ZIP-архива, внутри которого находился вредоносный файл LNK. После его запуска активировался скрытый PowerShell-код. В некоторых эпизодах GitHub использовался для загрузки дополнительных компонентов, включая AsyncRAT, замаскированный под обычные изображения.

Собственную нейросеть хакеры пока не создали

Genians отдельно предостерегает от слишком громкой трактовки обнаруженного. Исследователи не нашли свидетельств того, что Kimsuky обучила собственную большую языковую модель или провела полноценное самостоятельное обучение существующей модели.

Не обнаружены ни необходимые для такого обучения большие массивы данных, ни результаты обучения или дообучения моделей.

На нынешнем этапе речь идет о другом: хакеры изучают готовые ИИ-модели и открытые инструменты, запускают их локально и пытаются встроить искусственный интеллект в уже существующую инфраструктуру атак.

Эта тенденция меняет и привычные признаки фишинга. Неловкий язык, ошибки и плохо оформленные документы раньше могли сразу вызвать подозрение. Генеративный ИИ позволяет за короткое время готовить значительно более правдоподобные материалы, поэтому специалисты советуют обращать больше внимания не на внешний вид файла, а на его поведение после запуска.