Grupa Threat Intelligence Group (GTIG) firmy Google ogłosiła odkrycie exploita dnia zerowego, najprawdopodobniej opracowanego przez sztuczną inteligencję. Oznacza to, że firma po raz pierwszy zidentyfikowała taki exploit, który miał służyć „imprezie masowego wykorzystania”. GTIG stwierdziło, że proaktywne odkrycie mogło zapobiec potencjalnym atakom.
Chociaż Google nie wierzy, że w stworzenie exploita zaangażowane były jego własne modele Gemini, ma „dużą pewność”, że model sztucznej inteligencji odegrał rolę w wykryciu i wykorzystaniu luki. Konkretny cel exploita nie został ujawniony, ale Google poinformował o tym nienazwaną firmę, której dotyczy problem, która następnie załatała problem.
GTIG nie ujawniła tożsamości podmiotów stwarzających zagrożenie, ale wspomniała, że grupy powiązane z Chinami i Koreą Północną wykazały duże zainteresowanie wykorzystaniem sztucznej inteligencji do cyber exploitów. W raporcie podkreślono, że podmioty zagrażające w coraz większym stopniu wykorzystują sztuczną inteligencję na różnych etapach cyberataków, wywołując alarm w związku z przyszłymi zagrożeniami związanymi z atakami opartymi na sztucznej inteligencji.
John Hultquist, główny analityk GTIG, opisał incydent jako „przedsmak tego, co ma nadejść” i „czubek góry lodowej”, ilustrujący ewoluujące wykorzystanie sztucznej inteligencji w cyberprzestępczości. Zauważył, że ta sprawa stanowi pierwszy „namacalny dowód” takich ataków.
Pomimo zagrożeń, jakie stwarza sztuczna inteligencja w wprawnych rękach, Google stwierdził, że sztuczna inteligencja może być również skutecznym narzędziem obrony cyberbezpieczeństwa. Inne firmy również wdrażają sztuczną inteligencję w ramach środków ochronnych. Na przykład firma Anthropic ogłosiła w zeszłym miesiącu projekt Glasswing, który koncentruje się na wykorzystaniu sztucznej inteligencji do identyfikowania i łagodzenia „luk w zabezpieczeniach o dużej wadze”.
