Najnowszy chatbot AI Meta wywołał znaczny kontrowersje dotyczące prywatności po odkryciu, że domyślne ustawienia narzędzia były publicznie nadawane interakcjom użytkowników. To objawienie, zgłoszone w tym tygodniu przez główne serwis informacyjne, ujawniło szeroki zakres wrażliwych informacji, od zapytań medycznych po obawy prawne, bez wyraźnej zgody użytkowników.
AI Chatbot, uruchomiony wcześniej w 2025 r., Automatycznie ustawia wszystkie interakcje użytkownika na „publiczne”, chyba że osoby aktywnie dostosowują swoje ustawienia prywatności. Ten wybór projektowy doprowadził do wielu użytkowników, w tym osób starszych i dzieci, nieświadomie dzieląc się wysoce osobistymi i poufnymi informacjami z szeroką publicznością. Przykłady obejmują użytkowników pytających o obrażenia narządów płciowych, młodzi ludzie szukają wskazówek dotyczących przejścia na płeć oraz osoby proszące o pomoc w sprawach prawnych, takich jak współpraca z władzami w celu zmniejszenia wyroków karnych.
Te publiczne posty często zawierają nazwy użytkowników i zdjęcia profilowe, bezpośrednio łącząc zapytania z kontami mediów społecznościowych. To przekształca prywatne lęki medyczne i problemy prawne w stałe, publicznie dostępne zapisy.
Meta zawierała wyskakujące ostrzeżenie z informacją: „Podpis, który publikujesz, są publiczne i widoczne dla wszystkich… unikaj udostępniania informacji osobistych lub poufnych”. Jednak krytycy twierdzą, że to ostrzeżenie było niewystarczające. Wielu użytkowników nie rozumiało, że publikuje publiczny kanał, zwłaszcza biorąc pod uwagę, że nie mogą oczekiwać, że interakcje AI Chatbot pojawią się na kanale podobnym do mediów społecznościowych. Komunikat prasowy Meta ogłaszający funkcję opisano „Feed Discover, miejsce do udostępniania i odkrywania, w jaki sposób inni używają sztucznej inteligencji”, kadrując publiczne dzielenie się prywatnymi rozmowami jako funkcją, a nie wadą.
Incydent wywołał szerszą debatę na temat prywatności AI i potencjał tych narzędzi do ujawnienia poufnych danych użytkownika. Electronic Frontier Foundation (EFF) ostrzega, że chatboty AI mogą przypadkowo ujawnić dane osobowe poprzez „wyciek modelu”. Odnosi się to do ryzyka, że modele AI, poprzez ich szkolenie i działanie, mogą przypadkowo ujawnić informacje o danych, na których zostali przeszkoleni lub o osobach, które z nimi współdziałały.
Oprócz meta incydentu obawy dotyczące prywatności AI są powszechne. National Cybersecurity Alliance Survey 2024 wykazało, że 38% pracowników dzieli poufne informacje o pracy z narzędziami AI bez zgody ich pracodawcy. Podkreśla to potencjał tajemnic korporacyjnych i poufnych danych, które zostaną naruszone za pomocą chatbotów AI.
Władze ochrony danych zmagają się również z konsekwencjami prywatności AI. Na przykład holenderski organ ds. Ochrony danych otrzymał wiele powiadomień o naruszeniu od firm, których pracownicy wprowadzili dane medyczne pacjentów i adresy klientów do chatbotów AI. Incydenty te podkreślają ryzyko naruszenia przepisów dotyczących prywatności i ujawnienia poufnych danych osobowych.
Nawet usługi AI, które twierdzą, że oferują lepszą ochronę prywatności, nie są odporne na obawy. Claude Anthropica twierdzi, że jest silniejsza zabezpieczenia domyślne, podczas gdy Chatgpt wymaga płatnych subskrypcji, aby zagwarantować, że dane nie są wykorzystywane do szkolenia. Zasady te można jednak zmienić w dowolnym momencie, potencjalnie umożliwiając firmom z mocą wsteczną na lata przechowywanych rozmów. To pozostawia użytkowników zależnych od wiarygodności korporacji opartych na zysku, aby oprzeć się pokusie zarabiania na ogromnych przepisach bliskich danych użytkownika.
Ostatnie naruszenia danych dodatkowo podkreśliły podatność systemów AI. Openai doświadczył naruszenia danych, które ujawniło wewnętrzne dyskusje, podczas gdy ponad milion rekordów czatu Deepeek zostało ujawnionych w niezabezpieczonej bazie danych. Incydenty te pokazują potencjał wrażliwych informacji przechowywanych w systemach AI, aby zostać naruszonym przez luki w zabezpieczeniach.
Przegląd technologii MIT ostrzegł, że zmierzamy w kierunku bezpieczeństwa i prywatności „katastrofy”, gdy narzędzia AI coraz bardziej zintegrowane z codziennym życiem. Miliony użytkowników dzielą się lękami medycznymi, tajemnicami pracy i osobistymi wyzwaniami z chatbotami AI, tworząc stałe zapisy, które można ujawnić, sprzedać lub wezwać. Meta incydent tylko ujawnił to, co wielu uważa za powszechną praktyką wśród firm AI: zbieranie intymnych rozmów dla zysku, podczas gdy użytkownicy ponoszą ryzyko.
Podczas gdy naruszenia RODO mogą powodować znaczne grzywny – do 20 mln EUR lub 4% globalnych przychodów – ściganie wobec firm AI pozostaje ograniczone. Ponadto obecna dokumentacja RODO i CCPA nie zajmuje się odpowiednio, w jaki sposób dane osobowe są obsługiwane w danych szkoleniowych lub modelu AI.
Incydent Meta Chatbot służy jako wyraźne przypomnienie, że wszelkie informacje udostępnione dziś AI Chatbot są potencjalnie podatne na przyszłą ekspozycję. Może to nastąpić poprzez zmiany polityki korporacyjnej, naruszenia bezpieczeństwa lub żądania prawne. Chociaż publiczna katastrofa kanałów Meta jest bardzo widocznym przykładem, podkreśla szerszy problem zbiorów AI zbierających i potencjalnie niewłaściwie wykorzystujące poufne dane użytkownika. Przynajmniej użytkownicy meta mogą zobaczyć ich zawstydzające pytania opublikowane publicznie i spróbować je usunąć. Reszta z nas nie ma pojęcia, co się dzieje z naszymi rozmowami.
