Как искусственный интеллект может изменить мир и что нужно знать о его безопасности?

На форуме Digital Almaty 2025 обсудили важность безопасности технологии ИИ.

👁️ 71
Фото: profit.kz

Каждое новое технологическое решение требует особого внимания к вопросам безопасности, чтобы избежать нежелательных последствий. В Алматы состоялся форум Digital Almaty 2025, на котором эксперты обсудили ключевые аспекты применения искусственного интеллекта.

Технологический прогресс и его последствия

На мероприятии собрались ведущие специалисты, среди которых был Улыкбек Шамбулов, заместитель председателя Государственной технической службы. Он отметил, что прогресс неотъемлемо связан с рисками, особенно в контексте искусственного интеллекта.

Исторический контекст изменений

История человечества полна технологических революций, таких как коневодство, судостроение и интернет. На их фоне искусственный интеллект выделяется как одна из дающих новые возможности технологий.

Потенциал и угрозы ИИ

«Мы живем в уникальное время. Искусственный интеллект — это не просто технология, это система, которая через несколько лет будет работать наравне с человеком. Мы не можем позволить себе отстать от этого процесса».
— Улыкбек Шамбулов.

Шамбулов подчеркнул, что, несмотря на огромный потенциал ИИ, важно осознавать существующие угрозы. По его мнению, безопасность не должна мешать прогрессу:

«Как электричество, которое потенциально опасно, но мы научились безопасно им пользоваться, так и ИИ можно эффективно и безопасно интегрировать в нашу жизнь, если подходить к этому с умом».
— Улыкбек Шамбулов.

Основные проблемы безопасности

  • Защита данных: использование ИИ в работе с конфиденциальной информацией требует особого подхода, чтобы избежать утечек.
  • Надежность информации: такие системы, как ChatGPT, могут генерировать неверные данные, что развивает вопросы доверия к результатам.
  • Кибершаблоны: уязвимости традиционных операционных систем могут угрожать системам ИИ и открывать лазейки для злоумышленников.
  • Атаки типа Prompt Injection: манипуляции с моделью могут вызывать нежелательные действия, что ставит под угрозу безопасность информации.

Будущее технологий и необходимость безопасности

Шамбулов настаивает, что инновации должны быть безопасными и функциональными. Игнорирование вопросов безопасности чревато серьезными последствиями. Важно научиться интегрировать ИИ, учитывая риски, чтобы по-настоящему использовать его преимущества.

«Каждую technologию нужно внедрять с вниманием к безопасности, чтобы избежать возможных негативных последствий».
— Улыкбек Шамбулов.

Форум Digital Almaty 2025 стал значимой площадкой для обсуждения вопросов безопасного использования искусственного интеллекта, акцентируя внимание на важности баланса между прогрессом и мерами безопасности.