Юрий Шабалин, директор по развитию технологий искусственного интеллекта Swordfish Security, прокомментировал для CISOCLUB изменения в подходах к защите персональных данных на фоне активного внедрения ИИ. По его словам, классические механизмы безопасности перестают быть достаточными, поскольку сами принципы работы систем кардинально изменились.
«Мы привыкли, что классическое ПО работает по линейным алгоритмам: на входе А, на выходе Б. Но нейросети устроены иначе — логика принятия ими решений часто непрозрачна даже для самих разработчиков. В мире ИИ угрозой становится не программный код, а смысл передаваемой информации», — отметил эксперт.
Традиционные средства защиты эффективно блокируют вредоносный код, но не способны учитывать контекст взаимодействия с системой. Это порождает новые классы уязвимостей: промпт-инъекции, отравление обучающих данных и утечки информации через ответы нейросетей. «Это уже не теория, а практические проблемы для бизнеса», – подчеркнул Шабалин.
В новых условиях защита должна смещаться в сторону анализа содержания запросов и ответов. На первый план выходит новый класс решений — AI Gateways: интеллектуальные посредники между корпоративной инфраструктурой и нейросетями, которые проверяют взаимодействие с ИИ в реальном времени. «Если пользователь пытается спровоцировать модель на нарушение политики безопасности или нейросеть в ответе выдаёт персональные данные — система блокирует такую транзакцию мгновенно», — пояснил эксперт. Российский рынок подобных решений только начинает формироваться.
По словам Шабалина, развитие ИИ требует пересмотра самой концепции защиты информации: «Фактически мы переходим от эпохи «защиты периметра» к эпохе «защиты смыслов»».