Większość wyszukiwarek domyślnie obsługuje obecnie przeglądy generowane przez sztuczną inteligencję, co budzi obawy dotyczące dokładności i zmniejsza ruch klikalny. Chociaż testy wskazują, że przeglądy sztucznej inteligencji Google są w dużej mierze wiarygodne, duża liczba zapytań prowadzi codziennie do milionów nieścisłości.
Według „The New York Times” około jeden na dziesięć przeglądów wyszukiwarek Google AI zawiera fałszywe informacje. Google przetwarza około 5 bilionów zapytań rocznie, teoretycznie narażając użytkowników na ponad 57 milionów niedokładnych odpowiedzi co godzinę, czyli prawie 1 milion co minutę.
Statystyki te wynikają z analizy przeprowadzonej przez startup AI Oumi, który zbadał 4326 wyszukiwań, aby ocenić dokładność asystenta Google AI, Gemini. Oumi poinformował, że w październiku wersja 2 Gemini zapewniała dokładne przeglądy w 85 procentach przypadków. Ulepszona wersja, Gemini 3, do lutego zwiększyła dokładność do 91 procent.
Analiza Oumi opiera się jednak na narzędziach AI, które również mogą wprowadzać błędy. Co więcej, Google czasami tworzy różne przeglądy sztucznej inteligencji dla tego samego zapytania, gdy jest ono powtarzane w odstępie kilku sekund.
Rzecznik Google skrytykował testy Oumi, określając je jako wadliwe i niereprezentatywne dla rzeczywistych zachowań związanych z wyszukiwaniem. Wewnętrzne oceny Google wskazują, że Gemini 3 ma halucynacje w 28 procentach przypadków, gdy działa niezależnie od wyszukiwarki Google.
Istnieją również istotne problemy z zaopatrzeniem. Google stara się wspierać swoje przeglądy sztucznej inteligencji odpowiednimi linkami; jednak wiele z tych linków nie potwierdza twierdzeń Gemini. Rozbieżności między przeglądami AI a cytowanymi źródłami wzrosły z 37 procent w przypadku Gemini 2 do 56 procent w przypadku Gemini 3 po lutowej aktualizacji.
Badacze podkreślili podatność przeglądów sztucznej inteligencji na manipulację; jeden przypadek dotyczył dziennikarza BBC, którego fałszywe twierdzenia zostały powtórzone przez Google następnego dnia. Zarówno Google, jak i inne firmy zajmujące się sztuczną inteligencją uznają w swoich zastrzeżeniach zawodny charakter tej technologii.
