OpenAI ujawniło, że naruszenie danych ChatGPT było spowodowane słabością kodu otwarte źródło framework w swoim chatbocie, co zostało naprawione szybko i pozornie z minimalnymi konsekwencjami, ale incydent może być zapowiedzią przyszłych zagrożeń dla chatboty i użytkowników oraz OpenAI podejmuje środki ostrożności w celu uniknięcia przyszłych naruszeń danych w aplikacji.
Gdy ChatGPT i inne chatboty początkowo stały się publicznie dostępne, tzw bezpieczeństwo cybernetyczne społeczność była zaniepokojona tym, w jaki sposób technologia sztucznej inteligencji może zostać wykorzystana do przeprowadzania cyberataków. Atakujący nie potrzebowali dużo czasu, aby dowiedzieć się, jak obejść kontrole bezpieczeństwa i wykorzystać je ChatGPT pisać złośliwy kod.
Wygląda na to, że sytuacja się odwróciła. Zamiast wykorzystywać ChatGPT do wywoływania cyberkatastrof, napastnicy aktywowali teraz samą technologię. Według Tydzień Bezpieczeństwa, OpenAI, firma, która stworzyła chatbota, ujawniła naruszenie danych ChatGPT w systemie spowodowane słabością struktury open-source kodu. Naruszenie danych ChatGPT spowodowało wyłączenie usługi do czasu jej naprawy.
Popularność ChatGPT była oczywista od momentu jego późnego wydania 2022. Każdy chciał bawić się chatbotem, od autorów po specjalistów od oprogramowania. Pomimo swoich wad (część jego prozy była niezgrabna lub plagiat), ChatGPT szybko stał się najszybciej rozwijającą się aplikacją konsumencką w historii, z ponad 100 milionów miesięcznieużytkownicy przez Styczeń. W ciągu miesiąca od wydania ok 13 milionów ludzi codziennie korzystało z technologii AI. W porównaniu, TIK Tokkolejnej niezwykle popularnej aplikacji, osiągnięcie porównywalnej liczby użytkowników zajęło dziewięć miesięcy.
Naruszenie danych ChatGPT
To tylko kwestia czasu, kiedy popularna aplikacja lub technologia stanie się celem hakerów. W przypadku naruszenia danych ChatGPT exploit był możliwy dzięki luce w oprogramowaniu typu open source Redis biblioteka. Użytkownicy mogą teraz przeglądać historię rozmów innych obecnych użytkowników.
Według Ciężki.sztuczna inteligencjabiblioteki open source są używane do „rozwoju dynamicznych interfejsów poprzez przechowywanie łatwo dostępnych i często używanych procedur i zasobów, takich jak klasy, dane konfiguracyjne, dokumentacja, dane pomocy, szablony komunikatów, wstępnie napisany kod i podprogramy, specyfikacje typów i wartości ”.
Redis jest używany przez OpenAI do przechowywania informacji o użytkowniku w celu szybszego przywoływania i uzyskiwania dostępu. Ponieważ tysiące współpracowników tworzy i używa kodu open source, luki w zabezpieczeniach mogą łatwo się ujawnić i pozostać niezauważone. Ponieważ cyberprzestępcy są tego świadomi, liczba ataków na biblioteki open source wzrosła o ok 742% od 2019 roku.
ChatGPT luka w zabezpieczeniach była niewielka w szerszym schemacie rzeczy, a OpenAI poprawiło lukę w ciągu kilku dni od jej wykrycia. Jednak nawet drobne incydenty cybernetyczne mogą spowodować znaczne szkody.
Był to jednak tylko drobny incydent. Badacze naruszeń danych ChatGPT dokopali się głębiej i odkryli, że ta sama luka była prawdopodobnie odpowiedzialna za widoczność informacji o płatnościach przez kilka godzin przed wyłączeniem ChatGPT.
„Niektórzy użytkownicy mogli zobaczyć imię i nazwisko innego aktywnego użytkownika, adres e-mail, adres płatności, ostatnie cztery cyfry numeru karty kredytowej (tylko) i datę ważności karty kredytowej”. „Nigdy nie ujawniono pełnych numerów kart kredytowych” – powiedział OpenAI w oświadczeniu dotyczącym incydentu.
Chatboty, sztuczna inteligencja, cyberbezpieczeństwo i naruszenie danych ChatGPT
Naruszenie danych ChatGPT zostało naprawione szybko i pozornie z minimalnymi konsekwencjami, a dotknięci płacący klienci odpowiadali za mniej niż 1% swoich użytkowników. Jednak incydent może być zapowiedzią przyszłych zagrożeń dla chatbotów i użytkowników.
Istnieją już problemy z prywatnością dotyczące korzystania z chatbotów. Mark McCreary, współprzewodniczący ds LisRotszyldaLLP praktyki dotyczące prywatności i bezpieczeństwa danych, powiedział CNN że ChatGPT i chatboty są analogiczne do czarnej skrzynki w samolocie. Technologia sztucznej inteligencji gromadzi ogromne ilości danych, a następnie wykorzystuje te dane do generowania odpowiedzi na zapytania i monity. Co więcej, wszystko w pamięci chatbota staje się dostępne dla innych użytkowników.
Na przykład chatboty mogą przechwytywać notatki pojedynczego użytkownika na dowolny temat, a następnie podsumowywać lub wyszukiwać dalsze szczegóły. Jeśli jednak te notatki zawierają poufne dane — takie jak własność intelektualna organizacji lub poufne informacje o klientach — są one dodawane do chatbot biblioteka. Użytkownik utracił kontrolę nad informacjami.
Ograniczenia AI są zaostrzane
Niektóre firmy i całe kraje rozprawiają się z obawami dotyczącymi prywatności. JPMorganPościg, na przykład, ograniczył swoim pracownikom korzystanie z ChatGPT ze względu na ograniczenia firmy dotyczące oprogramowania i aplikacji innych firm, ale istnieją również obawy o bezpieczeństwo informacji finansowych wprowadzanych do chatbota. Włochy podały ochronę danych obywateli jako powód tymczasowego zablokowania programu w całym kraju. Urzędnicy twierdzili, że niepokój wynika z RODO zgodność.
Oczekuje się również, że podmioty stanowiące zagrożenie będą wykorzystywać ChatGPT do wysyłania wyrafinowanych i realistyczny phishinge-mailewedług eksperci. Słaby język i dziwna konstrukcja fraz nie są już oznaką phishingu. Chatboty będą teraz naśladować naturalnych mówców, wysyłając dostosowane wiadomości. ChatGPT jest w stanie bezbłędnie tłumaczyć języki, co zmieni zasady gry dla wrogów z innych krajów.
Wykorzystywanie sztucznej inteligencji do tworzenia kampanii dezinformacyjnych i spiskowych jest równie szkodliwą techniką. Konsekwencje tej praktyki mogą wykraczać poza zagrożenia cybernetyczne. Naukowcy wykorzystali ChatGPT stworzyć op-ed, który przypominałby wszystko, co widać na InfoWars lub inne znane strony internetowe, które propagują teorie spiskowe.
OpenAI zajmuje się zagrożeniami
Rozwój wycieku danych przez chatbota przyniesie nowe zagrożenia cybernetyczne, albo poprzez bardziej złożone zdolności językowe, albo ich popularność. W rezultacie technologia ta jest głównym celem wektora ataku. W tym celu OpenAI podejmuje środki ostrożności, aby uniknąć przyszłych naruszeń danych w aplikacji. Zapłaci nagrodę za błąd w wysokości do 20 000 $ każdemu, kto znajdzie nieznane wcześniej luki w zabezpieczeniach.
Jednak wg Wiadomości hakerskie, „program nie obejmuje problemów związanych z bezpieczeństwem modeli ani halucynacjami, w których chatbot jest proszony o wygenerowanie złośliwego kodu lub innych błędnych danych wyjściowych”. Wygląda więc na to, że OpenAI chce uodpornić technologię na ataki z zewnątrz, robiąc jednocześnie niewiele, aby zapobiec temu, by chatbot stał się źródłem cyberataków.
ChatGPT i inne chatboty będą kluczowymi aktorami w dziedzinie cyberbezpieczeństwa. Tylko czas pokaże, czy technologia będzie celem ataków, czy też ich generatorem.
Wycieki danych i cyberataki należą obecnie do najpoważniejszych problemów. Nie zgadzasz się? Spójrz na te:
- Naruszenie danych T-Mobile: dotyczyło 37 milionów kont
- Wyciek danych na Twitterze: dotyczy 400 milionów użytkowników
Source: Naruszenie danych ChatGPT: OpenAI potwierdza lukę w bibliotece open source
