tasani.ruMicrosoft сообщила о существовании атаки побочного канала, названной Whisper Leak, на удаленные языковые модели. Уязвимость позволяет злоумышленникам, имеющим доступ к зашифрованному трафику, определять темы разговоров пользователей с ИИ, даже если применяются меры шифрования, такие как HTTPS. Эта проблема касается моделей, которые отправляют ответы по частям, что облегчает восстановление контекста диалога. Исследователи из Microsoft объяснили, что атака возможна при наличии сильного противника, например, на уровне провайдера или в локальной сети. Хотя содержимое сообщений остается зашифрованным, злоумышленник может анализировать размеры и интервалы пакетов, что позволяет классифицировать темы запросов. Microsoft протестировала эту теорию и обнаружила, что точность определения тем превышает 98% для популярных моделей. В качестве мер защиты компания рекомендует использовать случайные последовательности текста в ответах и избегать обсуждения конфиденциальных вопросов в ненадежных сетях. Также Cisco выпустила отчет о безопасности открытых LLM, подчеркивая их уязвимость в многоходовых диалогах.
Помогите проекту, поделитесь с друзьями ;)