Crowdstrike i Meta zaprezentowały CyberSoceval, apartament Benchmark open source zaprojektowany do oceny wydajności modeli AI w centrach operacyjnych bezpieczeństwa (SOCS). Ta inicjatywa pojawia się w krytycznych momentach w krajobrazie bezpieczeństwa cybernetycznego, w którym sztuczna inteligencja jednocześnie podsyca wyrafinowane zagrożenia i innowacyjną obronę. Narzędzie ma na celu umożliwienie firmom poruszania się po rozprzestrzenianiu się rozwiązań cyberbezpieczeństwa zasilanych AI, zapewniając, że wybierają modele, które zapewniają namacalne korzyści z ataków w świecie rzeczywistym. Partnerstwo między liderem bezpieczeństwa cybernetycznego Crowdstrike i Meta, pionierem w sztucznej inteligencji open source, zajmuje się pilnym wyzwaniem: przytłaczającą różnorodnością dostępnych narzędzi AI, z których każdy ma różne możliwości i koszty. Jak stwierdził Crowdstrike w komunikacie prasowym, „Bez wyraźnych punktów odniesienia trudno jest wiedzieć, które systemy, przypadki użycia i standardy wydajności zapewniają prawdziwą przewagę sztucznej inteligencji w stosunku do rzeczywistych ataków”. Cybersoceval wypełnia tę lukę, testując duże modele językowe (LLM) na podstawowych zadaniach cyberbezpieczeństwa, w tym reakcję na incydenty, zrozumienie analizy zagrożenia i testowania złośliwego oprogramowania. Te porównawcze zapewniają organizacjom ustrukturyzowany sposób oceny mocnych i słabości różnych systemów AI, wykraczając poza niejasne roszczenia do dowodów empirycznych. Poza oceną ramy oferują szersze implikacje dla ekosystemu rozwoju AI. Ujawniając, w jaki sposób klienci korporacyjne wdrażają LLM w kontekście cyberbezpieczeństwa, CyberSoceval wyposaża programistów wglądu w tworzenie bardziej wyspecjalizowanych i skutecznych modeli. Może to przyspieszyć postęp w sztucznej inteligencji dostosowanej do bezpieczeństwa, ostatecznie wzmacniając obronę w środowiskach o wysokich stawkach, takich jak usługi finansowe. Premiera podkreśla eskalacyjny „cyfrowy wyścig zbrojeń” w cyberbezpieczeństwie, gdzie AI upoważnia zarówno napastników, jak i obrońców. Złośliwe aktorzy wykorzystują sztuczną inteligencję do nowych zagrożeń, takich jak zautomatyzowane hasło brutalne, które wykorzystują uczenie maszynowe, aby kraść poświadczenia przy niespotykanych prędkościach. W odpowiedzi SOC integrują sztuczną inteligencję do swoich operacji w celu wykrywania anomalii, analizy zagrożeń i automatyzacji odpowiedzi. Odzwierciedla to biologiczne wyścigi zbrojeniowe, takie jak walka układu odpornościowego z ewoluującymi patogenami, w których obrona musi stale się dostosować, aby pozostać wyprzedzającym. Realne dowody podkreślają stawkę i potencjalne nagrody. Niedawna ankieta przeprowadzona przez MasterCard i długość geograficzna Financial Times ujawniła, że firmy usług finansowych zaoszczędziły miliony dolarów, wdrażając narzędzia zasilane przez AI w celu zwalczania oszustw związanych z AI. Oszczędności te wynikają z szybszego wykrywania zagrożenia i zmniejszenia interwencji ręcznej, co pokazuje, w jaki sposób AI może przekształcić cyberbezpieczeństwo z centrum kosztów w strategiczną przewagę. Jednak bez wiarygodnych testów porównawczych, takich jak Cybersoceval, organizacje ryzykują inwestowanie w narzędzia do gorszych wyników, które nie przeciwdziałają pojawiającym się ryzykiem. Zobowiązanie Meta w zasady open source ma kluczowe znaczenie dla tego projektu. W przeciwieństwie do zastrzeżonych modeli-takich jak te z OpenAI-podejście open source pozwala programistom dostęp do wag modeli, aw niektórych przypadkach kod źródłowy, wspieranie innowacji współpracy. Ta przejrzystość umożliwia szybką iteracji i dostosowywania, która jest niezbędna w dziedzinie, w której zagrożenia ewoluują codziennie. Vincent Gonguet, dyrektor ds. Produktu generatywnej sztucznej inteligencji w Wydziale Superinteligence Labs, podkreślił potencjał współpracy: „Dzięki tym wzorcom i otwartym dla społeczności bezpieczeństwa i sztucznej inteligencji może być szybciej pracować jako branża, aby odblokować potencjał AI w ochronie przed zaawansowanymi atakami, w tym zagrożeniami opartymi na sztucznej inteligencji”.
Czas cyberprzestępczości jest szczególnie istotny, ponieważ firmy przygotowują się do prognozowanego wzrostu cybernetycznego zagrożeń opartych na AI. Eksperci spodziewają się wzrostu wyrafinowanych ataków, w tym phishing z obsługą głębokiego i zoptymalizowanego złośliwego oprogramowania. Zapewniając znormalizowaną metodę oceny, pakiet pomaga specjalistom ds. Bezpieczeństwa cybernetycznego w priorytecie narzędzi, które wyróżniają się w scenariuszach w świecie rzeczywistym, takie jak powiadomienia triacyjne podczas incydentu ransomware lub wyróżnianie kampanii phishingowych. Dostępność jest kluczową funkcją inicjatywy. Cybersoceval jest swobodnie dostępny w GitHub, zachęcając do globalnych społeczności bezpieczeństwa i AI. Dodatkowe zasoby, w tym szczegółowe specyfikacje porównawcze i przewodniki użytkowania, są hostowane na dedykowanej stronie internetowej projektu. Ten otwarty model kontrastuje z zamkniętymi ekosystemami, potencjalnie demokratyzując dostęp do wysokiej jakości narzędzi bezpieczeństwa sztucznej inteligencji i zmniejszając bariery dla mniejszych organizacji. Jak pogłębia się rola AI w bezpieczeństwie cybernetycznym, inicjatywy takie jak Cybersoceval stanowią kluczowy krok w kierunku odpowiedzialnych innowacji. Pomagają nie tylko w wyborze narzędzi, ale także promują wspólne zrozumienie limitów i możliwości obrony przed coraz bardziej inteligentnym przeciwnikiem. W przypadku firm zmagających się z przeciążeniem narzędzi, ten zestaw Benchmark oferuje wyraźną drogę do bardziej świadomych decyzji, potencjalnie zapobiegając kosztownym naruszeniu i zwiększając ogólną odporność. Podsumowując, współpraca między Crowdstrike i Meta sygnalizuje dojrzewający rynek cyberbezpieczeństwa AI, w którym odniesienia zwiększają odpowiedzialność i postęp. Wraz z mnożącymi się zagrożeniami narzędzia takie jak CyberSoceval są niezbędne do zapewnienia, że AI służy raczej jako tarcza, a nie podatności.
Source: Crowdstrike i Meta zaprezentują Cybersoceval Benchmark
