Wyszukiwarka Google to narzędzie, z którego wszyscy korzystamy niemal odruchowo, a zmiany w jego zachowaniu mogą mieć duży wpływ na to, w jaki sposób znajdujemy informacje w Internecie.
Niedawno Google wprowadziło funkcję, która umożliwia Google SGE, gdzie niektóre wyniki wyszukiwania zawierają teraz podsumowania wygenerowane przez sztuczną inteligencję. W niedawnym ograniczone wdrożenie mające wpływ na niektórych użytkowników w USAto nowa funkcja Google zawierająca wyniki podsumowane przez sztuczną inteligencję wyraził obawy dotyczące umiaru.
Chociaż Google chce, aby było to pomocne, wydaje się, że te podsumowania mają niezamierzona ciemna strona. Następuje niepokojący wzrost prezentowane są witryny zawierające oszustwa i złośliwe oprogramowanie w tych podsumowaniach AI.
O co chodzi z podsumowaniami generowanymi przez sztuczną inteligencję?
Idea tej funkcji jest dość prosta: Google chce udzielać szybkich odpowiedzi bez konieczności odwiedzania wielu witryn internetowych. W przypadku niektórych zapytań – np. „ile łyżek stołowych w filiżance” – podsumowania AI mogą być bardzo przydatne. Czasami jednak odpowiedzi generowane przez sztuczną inteligencję są niekompletne, wprowadzające w błąd lub po prostu błędne.
Co bardziej niepokojące, czasami tak jest aktywnie promować niebezpieczne treści.
Zauważony przez Lily Ray na Xwyszukiwarka Google oparta na sztucznej inteligencji, SGE, jako część odpowiedzi poleca witryny ze spamem:
O BOŻE.
W RAMACH ODPOWIEDZI SGE BĘDZIE NAWET POLECAĆ STRONY SPAMOWE. pic.twitter.com/wqgFFXqbMB
— Lily Ray
(@lilyraynyc) 22 marca 2024 r
Ma to poważne konsekwencje dla bezpieczeństwa w Internecie. Wyszukiwarki są naszą bramą do Internetu i wielu użytkowników bezgranicznie ufa najlepszym wynikom. Podsumowania generowane przez sztuczną inteligencję, które wyglądają jak uzasadnione odpowiedzi, mogą zapewnić oszustwom dodatkową warstwę wiarygodności.
W jaki sposób sztuczna inteligencja Google jest oszukiwana w celu uzyskania podsumowań godnych oszustwa?
Specjaliści SEO (Search Engine Optimization) i mniej skrupulatni właściciele witryn internetowych od dawna manipulują algorytmami wyszukiwania, aby poprawić ranking swojej witryny. Obecnie te same techniki są wykorzystywane do podawania wprowadzających w błąd informacji sztucznej inteligencji Google w celu przechwytywania takich podsumowań.
Oto przykład, jak to może działać:
- Konfiguracja oszustwa: Oszust tworzy witrynę internetową oferującą ofertę zbyt piękną, aby mogła być prawdziwa, na przykład iPhone’a po bardzo obniżonej cenie
- Gra algorytmiczna: wypełniają swoją witrynę słowami kluczowymi i treścią, która ma sprawiać wrażenie trafnej, nawet jeśli jest wypełniona fałszywymi recenzjami i technicznym bełkotem
- AI przechytrza: sztuczna inteligencja Google skanująca witrynę w poszukiwaniu informacji, pomija zwodnicze wzorce i daje się oszukać, myśląc, że witryna jest świetnym źródłem informacji
- Niebezpieczne podsumowanie: gdy ktoś szuka informacji związanych z tym produktem, sztuczna inteligencja generuje podsumowanie, w którym wyraźnie widać witrynę z oszustwem
Nie ufaj maszynie (całkowicie)
Choć Google ma nadzieję ulepszyć zdolność swojej sztucznej inteligencji do wykrywania i filtrowania złośliwych treści, niezwykle ważna jest świadomość zagrożeń.
Oto jak zachować bezpieczeństwo:
- Sprawdź dokładnie źródła: Nawet w przypadku podsumowań AI poświęć chwilę na sprawdzenie sugerowanej witryny. Szukaj oznak podejrzanych adresów internetowych (takich jak nietypowe domeny najwyższego poziomu, takie jak .online), ogólnego projektu witryny lub nadmiaru świetnych recenzji, które wydają się zbyt podobne
- Tradycyjne wyszukiwanie jest nadal Twoim przyjacielem: nie rezygnuj całkowicie z przewijania standardowych wyników wyszukiwania. Uznane i renomowane witryny często nadal oferują najdokładniejsze informacje
- Sceptycyzm jest tarczą: Jeśli umowa wydaje się niemożliwie dobra, prawie na pewno nią jest. Nie daj się zwieść ofertom zbyt pięknym, aby mogły być prawdziwe, nawet jeśli wydaje się, że podsumowanie Google je potwierdza
Jedzenie na wynos? Postęp AI wymaga ostrożności
Chociaż sztuczna inteligencja może usprawnić wiele zadań online, niezwykle ważna jest świadomość jej ograniczeń i możliwości niewłaściwego wykorzystania. Podsumowania generowane przez sztuczną inteligencję mogą być mieszanką.
Dopóki jego zdolność do wykrywania podejrzanych witryn nie poprawi się, zastosuj zdrową dawkę krytycznego myślenia w wynikach wyszukiwania.
Autor wyróżnionego obrazu: Google YouTube