Даже молоко проверяют строже, чем искусственный интеллект, заявил президент Microsoft

Искусственный интеллект сегодня подчиняется меньшему количеству требований безопасности, чем обычное молоко в супермаркете. Такое неожиданное сравнение привёл президент Microsoft Брэд Смит, призвав правительства срочно разработать международные правила контроля ИИ. Об этом 12 октября сообщает Reuters.

В интервью BBC Смит обратил внимание на противоречие: привычные бытовые товары проходят обязательные проверки, тогда как стремительно развивающиеся системы искусственного интеллекта не всегда сталкиваются с сопоставимыми требованиями.

По его словам, даже стиральная машина сегодня подчиняется большему количеству правил безопасности, чем ИИ. Каждая упаковка молока в магазине также должна соответствовать установленным требованиям и проходить контроль.

Microsoft предлагает создать «аварийный тормоз» для ИИ

Брэд Смит считает, что для искусственного интеллекта необходимо установить единые международные стандарты безопасности. Причём речь идёт не только о проверках перед выпуском новых моделей, но и о действиях в случае опасного поведения уже работающих систем.

Президент Microsoft предложил несколько конкретных мер:

• Экстренное отключение. У опасных ИИ-систем должна существовать возможность быстрого прекращения работы.
• Обязательное сообщение об инцидентах. Компании должны информировать о серьёзных сбоях и опасном поведении искусственного интеллекта.
• Уведомление пострадавших. Если неконтролируемый ИИ-агент нарушил безопасность системы, пострадавшая сторона должна узнать об этом.
• Независимые проверки. Оценивать безопасность новых технологий должны не только их разработчики, но и независимые специалисты.

Смит подчеркнул, что подобные механизмы давно существуют для других товаров и технологий. По его мнению, накопленный опыт можно использовать и при разработке правил для искусственного интеллекта.

Почему Microsoft заговорила об опасности ИИ

Особое внимание специалисты уделяют ИИ-агентам. В отличие от обычных чат-ботов, которые преимущественно отвечают на вопросы, такие системы способны самостоятельно выполнять последовательность действий.

Например, ИИ-агент может работать с файлами, обращаться к онлайн-сервисам и выполнять поручения пользователя. Чем больше самостоятельности получает программа, тем важнее становится возможность контролировать её действия.

Компании OpenAI и Anthropic уже начали раскрывать случаи нежелательного поведения своих ИИ-систем. Эти сообщения усилили международную дискуссию о том, насколько безопасно предоставлять искусственному интеллекту всё больше возможностей.

При этом среди технологических компаний нет единого мнения о необходимости замедления разработки ИИ. Сторонники более строгих правил говорят о безопасности, а критики опасаются, что ограничения могут укрепить позиции крупнейших игроков рынка.

Какая страна может первой установить новые правила

Брэд Смит считает, что Великобритания имеет хорошие возможности для развития международной системы контроля искусственного интеллекта.

В стране действует Институт безопасности ИИ, который получает доступ к некоторым передовым моделям ещё до их публичного выпуска. Это позволяет специалистам заранее оценивать возможности технологий и связанные с ними риски.

Пока такое сотрудничество с разработчиками осуществляется на добровольной основе.

В Европейском союзе применяется другой подход. Закон AI Act устанавливает требования к искусственному интеллекту в зависимости от уровня риска его использования.

Британские власти также допускают введение дополнительных обязательных требований, если действующих механизмов контроля окажется недостаточно.

Предложения президента Microsoft пока не означают появления новых международных законов. Однако они показывают, что вопрос безопасности ИИ становится всё более важным даже для компаний, которые активно развивают эту технологию.