Google подверглась критике за неточности в генеративных сводках AI Overviews. Эти текстовые обзоры, создаваемые искусственным интеллектом и отображаемые в верхней части веб-страниц, часто содержат ошибочные данные. Проблема заключается в том, что алгоритмы собирают информацию из разных источников, включая социальные сети, что приводит к противоречивым сведениям.
Аналитики Oumi сделали такие выводы, и их исследование опубликовал The New York Times. Модель Gemini компании Google генерирует обобщенные ответы. Эксперты отмечают, что даже в последней версии ИИ предоставляет правильные ответы лишь в 90% случаев. При этом Google обрабатывает более пяти триллионов запросов ежегодно, что означает, что число ошибок может достигать десятков миллионов в час.
Исследователи также обнаружили нестабильность работы системы. AI Overviews может давать как верные, так и неверные ответы на один и тот же запрос в зависимости от времени между запросами. Например, при уточнении даты смерти рестлера Халка Хогана система сообщила, что достоверной информации о его кончине нет.
Осенью 2025 года после запуска третьей версии модели Gemini Google признала, что её точность составляет около 72%. С тех пор разработчики активно трудятся над улучшением модели, но проблема «галлюцинаций» ИИ и предоставления ложной информации пока не решена.