Jak hakerzy mogą uzbroić funkcję podsumowującą Gemini

Nowa podatność w Google Gemini dla obszaru roboczego pozwala na ataki phishingowe poprzez manipulowanie podsumowaniami e -mail bez załączników lub bezpośrednich linków. Ujawnione przez badacza Marco Figueroa za pośrednictwem Mozilli’s 0din Bug Bounty Program, metoda wykorzystuje pośrednie podpowiedzi wstrzykiwania ukryte w e -mailach.

Atakerzy osadzają złośliwe instrukcje w tekście e -mail, używając HTML i CSS, aby uczynić je niewidocznymi. Kiedy odbiorca prosi Gemini o podsumowanie e -maila, AI analizuje i posłusza ukrytej dyrektywie. Przykład pokazał Bliźnięta generujące fałszywe ostrzeżenie o bezpieczeństwie o zagrożonym hasło Gmaila, w tym numer telefonu pomocy technicznego, który pozuje jako uzasadniony alert.

Podczas gdy Google stwierdził, że utwardzają obronę i wdrażają łagodzenie, nie widzieli żadnych dowodów na ten atak na wolności. Figueroa sugeruje, że zespoły bezpieczeństwa usuwają lub zneutralizują ukrytą treść i wdrażają filtry końcowe na wyjściu Gemini. Użytkownikom zaleca się, aby nie rozważali podsumowania Gemini Autorytatywne dla alertów bezpieczeństwa.