tasani.ruС момента появления первых инструментов и технологий существует практика незаконного копирования успешных продуктов, однако ситуация с чат-ботами на базе искусственного интеллекта уникальна. Компании-конкуренты сталкиваются с трудностями, пытаясь декомпозировать их работу, и прибегают к массовым запросам к ИИ для понимания его логики. В новом отчёте Google раскрываются случаи, когда акторы направляли более 100 тысяч запросов к чат-боту Gemini в попытке извлечь модель. Google называет это серьёзной попыткой кражи интеллектуальной собственности.
Злоумышленники использовали законный доступ к API, что не исключает нарушения условий сервиса. В ходе одной из атак они стремились заставить Gemini раскрыть детали своей логики. Компания успела отреагировать и обновить защитные механизмы. Аналитики Google отмечают, что большинство атак исходит от частных компаний и исследователей, желающих получить конкурентные преимущества. В отчёте также упоминаются случаи использования Gemini в фишинговых кампаниях и вредоносном ПО. В каждом случае связанный аккаунт был заблокирован, а меры защиты улучшены.