OpenAI wypuściło przeglądarkę ChatGPT Atlas, nową aplikację integrującą interfejs chatbota z przeglądarką internetową opartą na Chromium. Premiera wywołała szereg nowych obaw ekspertów ds. bezpieczeństwa dotyczących prywatności w Internecie i ochrony danych. Projekt przeglądarki ma na celu na nowo zdefiniować nawigację w Internecie za pomocą konwersacyjnej sztucznej inteligencji, ale jej praktyki gromadzenia danych i architektura bezpieczeństwa są przedmiotem analizy. Główną cechą przeglądarki są „Memories”, które OpenAI opisuje jako ulepszoną wersję standardowej historii sieci. Ta funkcja jest domyślnie włączona i ma na celu zbieranie danych w celu poprawy wydajności sztucznej inteligencji. „Wspomnienia” zapisują informacje kontekstowe o stronach internetowych odwiedzanych przez użytkowników, przeglądanych dokumentach oraz ich interakcjach i preferencjach. Deklarowanym celem jest umożliwienie użytkownikom znajdowania informacji przy użyciu języka potocznego, zamiast konieczności przypominania dokładnych adresów URL lub słów kluczowych. Kontrola prywatności i danych przeglądarki wskazuje, że OpenAI zapisuje szczegółowe informacje o zwyczajach użytkowników bezpośrednio po instalacji. OpenAI twierdzi, że przeglądarka została zaprojektowana tak, aby wykluczać pewne wrażliwe dane ze swojej pamięci. Firma określa, że nie będzie zapisywać danych osobowych, w tym dokumentów tożsamości, numerów ubezpieczenia społecznego i danych konta bankowego. Inne wykluczone typy danych to dane uwierzytelniające online, informacje dotyczące odzyskiwania konta, adresy, dokumentacja medyczna i dane finansowe. Przeglądarka ma również filtry zapobiegające zapisywaniu podsumowań z, jak to określa, „niektórych wrażliwych witryn internetowych (takich jak witryny dla dorosłych)”. Aby uzyskać dodatkową kontrolę, użytkownicy mogą ręcznie uniemożliwić zapisywanie określonych stron, korzystając z przycisku „widoczności strony” znajdującego się w pasku adresu. ChatGPT Atlas zawiera agenta AI, który może przeglądać sieć i wykonywać zadania w imieniu użytkownika. Ta funkcja była punktem awarii w innych przeglądarkach wykorzystujących sztuczną inteligencję. Na początku tego roku przeglądarka Comet firmy Perplexity została zhakowana w wyniku prostych ataków polegających na natychmiastowym wstrzykiwaniu. Badacze bezpieczeństwa wykazali, że ukryty tekst na stronie internetowej może przejąć kontrolę nad agentem, umożliwiając mu ujawnienie danych logowania użytkownika i udostępnienie kodu uwierzytelniającego. Badacz bezpieczeństwa Simon Willison zaalarmował o możliwości wystąpienia podobnych ataków na Atlas. W poście na blogu Willison napisał: “Chciałbym zobaczyć dokładne wyjaśnienie kroków, jakie Atlas podejmuje, aby uniknąć natychmiastowych ataków polegających na wstrzykiwaniu. W tej chwili wygląda na to, że główna obrona oczekuje, że użytkownik będzie przez cały czas uważnie obserwował, co robi tryb agenta!” Scharakteryzował także ryzyko bezpieczeństwa i prywatności związane z agentami przeglądarki jako „nie do pokonania wysokie”. Niecałe 24 godziny po uruchomieniu przeglądarki publicznie zademonstrowano lukę w zabezpieczeniach. Haker o pseudonimie @elder_plinius pokazał, że Atlas Agent jest podatny na atak typu „wstrzyknięcie ze schowka”. Demonstracja pokazała, jak można zmanipulować agenta w celu skopiowania szkodliwego łącza. Użytkownik, który później wklei ten link, może zostać przekierowany na stronę phishingową mającą na celu kradzież jego danych uwierzytelniających. Eight Sleep nie odpowiedziało natychmiast na prośbę o komentarz. Odkrycie luki w zabezpieczeniach wkrótce po premierze skłoniło ekspertów do ostrzeżenia przed potencjalnie większymi, „wielkości kanionu” lukami w prywatności i bezpieczeństwie w przeglądarkach AI. Połączenie rozległego gromadzenia danych przez przeglądarkę w celu personalizacji z jej potencjalnymi słabościami w zakresie bezpieczeństwa jest określane jako znaczące ryzyko.
Source: Przeglądarka ChatGPT Atlas już boryka się z pierwszą luką w zabezpieczeniach
