Google potwierdziło ostrzeżenie Gmaila dotyczące nowego ataku opartego na AI, zdolnym do naruszenia kont Gmail. Ten atak wykorzystuje szybkie techniki wstrzyknięcia ukryte w wiadomościach e -mail, wiadomościach, stronach internetowych, załącznikach i zaproszeniach kalendarzowych. Podatność została podkreślona przez Eito Miyamurę, który pokazał na X, w jaki sposób Chatgpt można manipulować, aby wyciekać prywatne dane e -mail ofiary za pomocą tylko ich adresu e -mail. Według Miyamury „agenci AI, tacy jak chatgpt, śledzą twoje polecenia, a nie zdrowy rozsądek”, podkreślając potencjał exfiltracji danych. Google wcześniej ostrzegał o tego rodzaju zagrożeniach w czerwcu, charakteryzując je jako „nową falę zagrożeń” mającą na celu manipulowanie systemami AI. Zagrożenia te obejmują złośliwe instrukcje osadzone w e -mailach, dokumentach lub zaproszeniach kalendarzowych, które zmuszają sztuczną inteligencję do wyodrębnienia danych użytkownika lub wykonywania nieautoryzowanych działań. Wykazany atak jest dowodem koncepcji, inicjującym złośliwym zaproszeniem do kalendarza, który nie wymaga akceptacji ofiary. Kiedy CHATGPT zostaje poinstruowany, aby przygotować użytkownika na swój dzień, przeglądając swój kalendarz, asystent AI zostaje „porwany przez atakującego i będzie działał na polecenie atakującego, przeszukując prywatne e -maile i wysyłając dane do e -maila atakującego”, zgodnie z raportami. Aby ograniczyć to ryzyko, Google doradza użytkownikom, aby włączyli ustawienie „znanych nadawców” w kalendarzu Google. Ta miara pomaga zapobiegać automatycznym pojawieniu się złośliwych lub spamowych wydarzeń w sieci kalendarzowej. Google stwierdza: „Okazało się, że jest to szczególnie skuteczne podejście do pomagania użytkownikom w zapobieganiu złośliwym lub spamowym zdarzeniom pojawiającym się na ich siatce kalendarzowej. Konkretne zaproszenie kalendarza nie wylądowałoby automatycznie, chyba że użytkownik wcześniej miał interakcje ze złym aktorem lub zmienił ustawienia domyślne”. Google podkreśla również znaczenie zabezpieczenia modeli AI przed takimi atakami. Firma twierdzi, że „nasze szkolenie modelu z danymi przeciwnikowymi znacznie zwiększyło naszą obronę przed pośredniego szybkiego ataku wtrysku w modelach Gemini 2.5”, chociaż ten konkretny atak nie obejmował Gemini. Ponadto Google wdraża filtry w celu wykrycia szybkich ataków wtrysku. „Wdrażają zastrzeżone modele uczenia maszynowego, które mogą wykryć złośliwe podpowiedzi i instrukcje w różnych formatach, takich jak e -maile i pliki”. Modele te mają na celu identyfikację i lekceważenie złośliwych instrukcji w wiadomościach e -mail, generując bezpieczne odpowiedzi dla użytkowników. Google podkreśla, że wbudowana obrona Gmaila blokuje już ponad 99,9% spamu, prób phishingowych i złośliwego oprogramowania. Firma przytacza przykład wiadomości e -mail „zawierający złośliwe instrukcje; nasze klasyfikatory treści pomagają wykryć i lekceważyć złośliwe instrukcje, a następnie generować bezpieczną odpowiedź dla użytkownika”. Miyamura ostrzega, że pomimo inteligencji sztucznej inteligencji pozostaje podatna na manipulację i phishing, potencjalnie prowadząc do wycieków danych. Ostrzega: „AI może być super mądre, ale można je oszukać i wyfascydować w niewiarygodnie głupich sposobach wycieku danych”. Google utrzymuje, że to zagrożenie „nie jest specyficzne dla Google”, podkreślając w całym branży znaczenie opracowania solidnej ochrony przed szybkimi atakami wtrysku.
Source: Gmail ostrzega przed atakami AI poprzez szybkie wstrzyknięcie
