О чём рассказывается в презентации:
Презентация посвящена вопросам кибербезопасности систем RAG и уязвимостям векторных баз данных, которые становятся все более актуальными в условиях их массового внедрения. Рассматриваются новые векторы атак, такие как инверсия эмбеддингов и отравление данных, которые могут угрожать целостности и конфиденциальности информации. Анализ критических рисков и архитектурных требований к безопасности позволит разработать эффективные стратегии защиты от современных угроз.
Оглавление
Кибербезопасность атаки на системы RAG
RAG-архитектура как новый вектор атак в корпоративном ИТ
Инверсия эмбеддингов как метод деанонимизации данных
Механизмы инжекции инструкций через векторное хранилище
Отравление базы знаний как способ подрыва доверия к ИИ
Риски нарушения изоляции в многопользовательских RAG-средах
Дефицит нативной ролевой модели (RBAC) в векторных индексах
Исчерпание ресурсов как инструмент отказа в обслуживании
Необходимость защиты данных до этапа similarity search
Отказ от иллюзии доверия к извлекаемым данным
Архитектурные требования к безопасности RAG-систем
Итоги и рекомендации по защите
Спасибо за внимание
