tasani.ruГруппа ученых из США продемонстрировала, что автономные автомобили и дроны могут быть обмануты простыми текстовыми надписями в окружающей среде. В их работе описан новый вид атаки на ИИ, который переносит известную проблему «инъекции промптов» из цифровых интерфейсов в реальный мир. Раньше подобные атаки применялись к чатботам, когда вредоносные инструкции встраивались в веб-контент. Теперь же исследователи проверили, как такие атаки действуют на системы, принимающие решения по изображению с камер. Злоумышленнику достаточно разместить табличку с текстом в поле зрения сенсоров, чтобы заставить ИИ выполнить команды, противоречащие реальности. Эксперименты показали, что такие методы могут представлять серьезную угрозу для ИИ-систем. Ученые планируют продолжить исследования, включая тестирование воздействий на результат, таких как дождь и визуальный шум.
Помогите проекту, поделитесь с друзьями ;)