Как искусственный интеллект может изменить мир и что нужно знать о его безопасности?
На форуме Digital Almaty 2025 обсудили важность безопасности технологии ИИ.

Каждое новое технологическое решение требует особого внимания к вопросам безопасности, чтобы избежать нежелательных последствий. В Алматы состоялся форум Digital Almaty 2025, на котором эксперты обсудили ключевые аспекты применения искусственного интеллекта.
Технологический прогресс и его последствия
На мероприятии собрались ведущие специалисты, среди которых был Улыкбек Шамбулов, заместитель председателя Государственной технической службы. Он отметил, что прогресс неотъемлемо связан с рисками, особенно в контексте искусственного интеллекта.
Исторический контекст изменений
История человечества полна технологических революций, таких как коневодство, судостроение и интернет. На их фоне искусственный интеллект выделяется как одна из дающих новые возможности технологий.
Потенциал и угрозы ИИ
«Мы живем в уникальное время. Искусственный интеллект — это не просто технология, это система, которая через несколько лет будет работать наравне с человеком. Мы не можем позволить себе отстать от этого процесса».
Шамбулов подчеркнул, что, несмотря на огромный потенциал ИИ, важно осознавать существующие угрозы. По его мнению, безопасность не должна мешать прогрессу:
«Как электричество, которое потенциально опасно, но мы научились безопасно им пользоваться, так и ИИ можно эффективно и безопасно интегрировать в нашу жизнь, если подходить к этому с умом».
Основные проблемы безопасности
- Защита данных: использование ИИ в работе с конфиденциальной информацией требует особого подхода, чтобы избежать утечек.
- Надежность информации: такие системы, как ChatGPT, могут генерировать неверные данные, что развивает вопросы доверия к результатам.
- Кибершаблоны: уязвимости традиционных операционных систем могут угрожать системам ИИ и открывать лазейки для злоумышленников.
- Атаки типа Prompt Injection: манипуляции с моделью могут вызывать нежелательные действия, что ставит под угрозу безопасность информации.
Будущее технологий и необходимость безопасности
Шамбулов настаивает, что инновации должны быть безопасными и функциональными. Игнорирование вопросов безопасности чревато серьезными последствиями. Важно научиться интегрировать ИИ, учитывая риски, чтобы по-настоящему использовать его преимущества.
«Каждую technologию нужно внедрять с вниманием к безопасности, чтобы избежать возможных негативных последствий».
Форум Digital Almaty 2025 стал значимой площадкой для обсуждения вопросов безопасного использования искусственного интеллекта, акцентируя внимание на важности баланса между прогрессом и мерами безопасности.