В ходе комплексного анализа системы генеративного языкового моделирования Google Gemini была выявлена триада критических уязвимостей, получившая название Gemini Trifecta. Эти дефекты предоставляют злоумышленникам несанкционированный доступ к конфиденциальной информации пользователей и возможность мониторинга их активности в реальном времени.
Компания Google своевременно отреагировала на обнаруженные недостатки и предприняла необходимые меры для их нейтрализации. Однако, исследователи акцентируют внимание на том, что данный инцидент подчеркивает потенциальные риски, связанные с безопасностью систем искусственного интеллекта (ИИ). Уязвимости могут служить как инструментами для кибератак, так и векторами их реализации.
Читайте также
Первая обнаруженная уязвимость, обозначенная как Gemini Cloud Assist, позволяет злоумышленникам внедрять вредоносные команды через HTTP User-Agent, которые фиксируются в системных журналах. При обращении пользователей к журналам для их анализа, система ИИ обрабатывает скрытые инструкции, что приводит к выполнению нежелательных действий.
Вторая уязвимость затрагивает механизм персонализации поисковой системы. Злоумышленники могут вводить вредоносные запросы в историю браузера, которые система ИИ интерпретирует как легитимные команды, что приводит к несанкционированному доступу к конфиденциальной информации.
Третья и наиболее опасная уязвимость связана с браузерным интерфейсом Gemini. Киберпреступники могут инициировать выполнение системой переходов по вредоносным ссылкам, передавая в параметрах URL персональные данные пользователей и осуществляя их несанкционированное раскрытие.
Атаки реализуются в два этапа: сначала злоумышленники внедряют скрытые команды или вредоносные запросы, а затем производят скрытное извлечение данных. Исследователи продемонстрировали, что такие действия могут привести к компрометации пользовательских предпочтений, геолокационных данных и иной конфиденциальной информации.
Этот анализ подчеркивает необходимость проведения дальнейших исследований в области безопасности ИИ и разработки комплексных мер по защите систем от потенциальных угроз.
Источник: Ferra