Firma Microsoft opublikowała w tym tygodniu raport dotyczący analizy zagrożeń, z którego wynika, że hakerzy w coraz większym stopniu włączają sztuczną inteligencję do każdej fazy swoich operacji, od rozpoznania i phishingu po tworzenie złośliwego oprogramowania i działania po włamaniu.
Firma opisała sztuczną inteligencję jako „zwielokrotniacz siły”, który zmniejsza bariery techniczne i przyspiesza wykonanie ataku w przypadku atakujących o różnym poziomie umiejętności. Ustalenia wskazują, że przyjęcie sztucznej inteligencji obniża biegłość techniczną wymaganą do przeprowadzania cyberataków na dużą skalę.
Północnokoreańskie grupy zagrożeń Jasper Sleet i Coral Sleet wykorzystują generatywną sztuczną inteligencję do tworzenia skomplikowanych programów fałszywego zatrudnienia wymierzonych w zachodnie firmy. Według CyberScoop aktorzy Jaspera Sleeta wykorzystują narzędzia sztucznej inteligencji do generowania odpowiednich kulturowo list nazwisk, dopasowywania fałszywych życiorysów do konkretnych ofert pracy i tworzenia profesjonalnej komunikacji, aby po zatrudnieniu utrzymać długoterminowe zatrudnienie.
Firma Microsoft zaobserwowała, jak Jasper Sleet korzystał z aplikacji Faceswap opartej na sztucznej inteligencji, aby wstawiać twarze północnokoreańskich pracowników IT do skradzionych dokumentów tożsamości i tworzyć dopracowane zdjęcia głowy do życiorysów. Jak podaje The Guardian, grupa wdrożyła także technologię zmiany głosu podczas wirtualnych rozmów kwalifikacyjnych, aby ukryć akcent, umożliwiając pracownikom udawanie zachodnich kandydatów.
„Jasper Sleet wykorzystuje sztuczną inteligencję w całym procesie ataku, aby zabezpieczyć i utrzymać zatrudnienie oraz wykorzystywać dostęp na dużą skalę” – stwierdził Microsoft.
Coral Sleet wykorzystywała narzędzia do kodowania AI do generowania i udoskonalania komponentów złośliwego oprogramowania, tworzenia fałszywych witryn firmowych, udostępniania zdalnej infrastruktury i szybkiego testowania ładunków. Według Microsoftu grupa jailbreakowała duże modele językowe w celu wygenerowania złośliwego kodu omijającego wbudowane mechanizmy bezpieczeństwa.
Microsoft odnotował wczesne eksperymenty cyberprzestępców z agentyczną sztuczną inteligencją, których modele obsługują iteracyjne podejmowanie decyzji i wykonywanie zadań, chociaż nie zaobserwowano tego jeszcze na dużą skalę.
W lutym firma Google poinformowała, że jej grupa Threat Intelligence Group zaobserwowała ugrupowania zagrażające wykorzystujące sztuczną inteligencję do gromadzenia informacji, tworzenia kampanii phishingowych i tworzenia złośliwego oprogramowania. Amazon udokumentował kampanię, podczas której rosyjskojęzyczny haker wykorzystał usługi generatywnej sztucznej inteligencji do włamania się do ponad 600 zapór ogniowych FortiGate w 55 krajach w ciągu pięciu tygodni, demonstrując, jak sztuczna inteligencja umożliwiła atakującemu o ograniczonych umiejętnościach działanie na skalę, która wcześniej wymagała większego i sprawniejszego zespołu.
Microsoft doradził organizacjom, aby traktowały programy dla pracowników IT wykorzystujących sztuczną inteligencję jako ryzyko wewnętrzne i skupiły się na wykrywaniu nieprawidłowego użycia danych uwierzytelniających, wzmacnianiu systemów tożsamości przed phishingiem i zabezpieczaniu systemów sztucznej inteligencji, które same mogą stać się celami.
