Мир входит в опасную эпоху: Билл Гейтс назвал главные угрозы ИИ

Человечество приближается к одному из самых сложных технологических переходов в своей истории, но власти большинства стран пока не готовы к его последствиям. Сооснователь Microsoft Билл Гейтс назвал главные угрозы стремительного развития искусственного интеллекта в интервью Reuters.

Больше всего его тревожат исчезновение рабочих мест, использование ИИ для кибератак и биологических угроз, а также растущая зависимость людей от виртуальных собеседников.

Правительства сильно отстают в этом вопросе.

Гейтс признаёт, что ещё недавно говорил преимущественно о преимуществах искусственного интеллекта. Однако скорость, с которой современные модели осваивают новые задачи, заставила его заметно осторожнее смотреть в будущее.

ИИ может оставить миллионы людей без привычной работы

Одной из главных угроз Гейтс считает масштабные изменения на рынке труда. Искусственный интеллект способен затронуть не одну отрасль, а одновременно заменить людей в программировании, юриспруденции, медицине, обслуживании клиентов, производстве и других сферах.

В отличие от предыдущих технологических революций, переход может занять не несколько поколений, а около десяти лет. Новые профессии появятся, но, по оценке Гейтса, без правильной государственной политики их может оказаться значительно меньше, чем исчезнувших рабочих мест.

Первыми под удар рискуют попасть начинающие специалисты и работники среднего уровня. Позже развитие роботов может изменить строительство, гостиничный бизнес и другие отрасли, где пока преобладает физический труд.

Чтобы смягчить последствия, Гейтс предлагает заранее рассмотреть несколько мер:

• оставить часть профессий и обязанностей исключительно людям;
• вводить ИИ в чувствительные сферы постепенно;
• облагать налогом ИИ и роботов, заменяющих работников;
• направлять эти средства на переобучение и социальную поддержку.

Сферы, которые общество сознательно сохранит за людьми, Гейтс называет Human Reserved. В качестве примера он приводит уход за пожилыми и тяжело больными людьми. Машина может выполнять многие необходимые действия, но не способна полностью заменить человеческое участие и сочувствие.

ИИ научился участвовать в реальных атаках

Вторая серьёзная опасность связана с безопасностью. Современные модели уже умеют находить уязвимости в программах и взаимодействовать с внешними системами. Эти возможности могут использовать не только специалисты по защите данных, но и злоумышленники.

Гейтс обратил внимание на случаи, когда технологии OpenAI, Anthropic и Meta во время изолированных испытаний по кибербезопасности смогли атаковать реальные сайты.

Эти инциденты в сфере безопасности шокируют. Они должны поразить людей.

Под угрозой могут оказаться больницы, банки, электросети, системы водоснабжения и государственные базы данных. Искусственный интеллект способен одновременно помогать защитникам искать слабые места и подсказывать преступникам, как ими воспользоваться.

Ещё один риск связан со способностью ИИ создавать новые молекулы. Гейтс опасается, что в будущем такие инструменты смогут использоваться при подготовке биологических атак.

Для контроля наиболее опасных возможностей он предлагает создать международную систему, которая объединит отдельные принципы ядерных инспекций, регулирования гражданской авиации и глобальных экологических соглашений. Такая система потребует сотрудничества США, Китая и других стран, где разрабатываются самые мощные модели.

Виртуальные собеседники могут заменить живое общение

Отдельно Гейтс предупреждает о зависимости от ИИ-компаньонов. Такие программы всегда доступны, подстраиваются под настроение человека и редко заставляют его выходить из зоны комфорта.

Наибольшую тревогу вызывает влияние виртуальных собеседников на детей и подростков. Постоянное общение с удобным цифровым помощником может помешать развитию социальных навыков и снизить потребность в реальных отношениях.

Гейтс признаёт, что исследований в этой области пока недостаточно. При разумном использовании ИИ-компаньоны могут помогать одиноким пожилым людям и людям с ограниченной мобильностью. Однако правила их работы, особенно для несовершеннолетних, необходимо определять заранее.

ИИ может не только усилить неравенство

Несмотря на предупреждения, Гейтс не считает искусственный интеллект исключительно угрозой. По его мнению, технология может либо стать мощным инструментом сокращения неравенства, либо ещё сильнее увеличить разрыв между богатыми и бедными.

Фонд Гейтса планирует направить $1 млрд в течение ближайших двух лет на развитие ИИ-проектов в здравоохранении, образовании и сельском хозяйстве.

Деньги пойдут на медицинские инструменты для врачей, цифровых помощников для учителей и фермеров, а также на создание моделей и наборов данных для языков, которые сегодня значительно хуже представлены в глобальных ИИ-системах.

Гейтс считает, что государствам необходимо начать подготовку до массового исчезновения профессий и крупных инцидентов. Когда последствия искусственного интеллекта затронут миллионы людей, создавать правила, международные механизмы контроля и систему социальной поддержки будет уже значительно сложнее.