W oszałamiającym objawieniu, które rzuca cień na ostatnią inwestycję o wartości 14,8 miliarda dolarów z Meta, AI sztucznej inteligencji została ujawniona za rzekome wykorzystanie publicznych dokumentów Google do przechowywania wysoce poufnych informacji od swoich głośnych klientów, w tym Meta, Google i XAI. Wiadomości te pojawiają się zaledwie kilka tygodni po tym, jak Meta ogłosiła umowę o zdobyciu 49% udziałów w skali AI i mianowanie jej dyrektora generalnego, Alexandra Wanga, aby kierować nowym laboratorium „superinteligencji” w Meta.
Zgłoszone upadki bezpieczeństwa wzbudziło poważne obawy, zwłaszcza biorąc pod uwagę zapłaconą meta „szokująco wysoką cenę”, która wskazała zaufanie giganta mediów społecznościowych do kluczowej roli Wanga i Scale AI w rozwoju podziału AI. Jednak według raportu Business Insider Scale AI utrzymywała „niewiarygodnie oszałamiający” system bezpieczeństwa, pozostawiając najwyższe skierowane projekty, poufne dane klienta, adresy e-mail, a nawet dane dotyczące wynagrodzeń pracowników ujawnione w dokumentach Google dostępnych dla każdego posiadającego bezpośredni link.
Rzecznik AI Scale, odpowiadając na zarzuty, stwierdził: „Przeprowadzamy dokładne dochodzenie i wyłączyliśmy zdolność użytkownika do publicznego udostępniania dokumentów z systemów zarządzanych skalą”. Rzecznik dodatkowo podkreślił zaangażowanie firmy w „solidne zabezpieczenia techniczne i polityczne w celu ochrony poufnych informacji i zawsze pracuje nad wzmocnieniem naszych praktyk”. Chociaż obecnie nic nie wskazuje, że te publicznie dostępne pliki doprowadziły do naruszenia danych, eksperci ds. Bezpieczeństwa cybernetycznego ostrzegają, że takie luki mogą sprawić, że firma jest bardzo podatna na przyszłe hacki.
Ani Google, ani XAI natychmiast nie odpowiedzieli na prośby o komentarz dotyczący raportu, podczas gdy Meta odmówił komentarza w tej sprawie. Powszechny charakter tej praktyki został potwierdzony przez pięciu obecnych i byłych kontrahentów AI, którzy rozmawiali z Business Insider. Jeden z kontrahentów opisał cały system Dokumentów Google jako „niesamowicie Janky”, podkreślając postrzegany brak surowych protokołów bezpieczeństwa w firmie.
Dochodzenie Business Insider podobno odkryło tysiące stron dokumentów projektu rozłożonych na 85 odrębnych dokumentach Google, szczegółowo opisując wrażliwą pracę AI z głównymi klientami technologicznymi. Wśród ujawnionych informacji były poufne podręczniki Google, z których co najmniej siedem było oznaczonych „poufnych”, w tym zalecenia mające na celu poprawę chatbota Google, znanego wówczas jako Bard. Te krytyczne dokumenty, przedstawiające strategie dostrajania chatbota, zostały nieumyślnie dostępne dla publiczności, oferując spojrzenie na wewnętrzne procesy rozwoju Google i jego wysiłki w celu konkurowania z Chatgpt Openai.
Ponadto publiczne pliki Google DOC zawierały szczegółowe informacje o ambitnym „ksylofonie projektu Elona Muska”. Obejmowało to dokumenty szkoleniowe z około 700 podpowiedzi konwersacji zaprojektowanych w celu zwiększenia umiejętności konwersacyjnych chatbota AI. Podobnie „poufne” meta dokumenty szkoleniowe zawierające klipy audio „dobre” i „złe” podpowiedzi mowy, kluczowe dla szkolenia własnych produktów AI, okazały się również dostępne publicznie.
Nawet gdy tajne projekty zostały przypisane kodenom, kilku kontrahentów AI w skali ujawniło, że często rozpoznawanie faktycznego klienta było proste. W niektórych przypadkach dokumenty powiązane z tymi pokonnymi projektami błędnie obejmowały logo firmy klienta, takie jak prezentacja, która przypadkowo wyświetlała logo Google. Dodając do problemów bezpieczeństwa, kontrahenci zauważyli, że w niektórych przypadkach, podczas interakcji z produktami AI, sam chatbot ujawniłby tożsamość klienta, gdy zostanie wyświetlony bezpośrednio.
Objawienia wykraczały poza szczegóły projektu na bardzo poufne informacje o pracownikach. Stwierdzono publicznie dostępne arkusze kalkulacyjne Google Doc zawierają nazwiska i prywatne adresy e -mail tysięcy pracowników. Jeden szczególnie niepokojący arkusz kalkulacyjny, wyraźnie zatytułowany „Dobrzy i złych ludzi”, sklasyfikował dziesiątki pracowników jako „wysokiej jakości” lub „oszustwa”. Kolejny dokument oznaczał osoby „podejrzane zachowanie”, zadając pytania o wewnętrzne śledzenie wydajności AI i praktyki etyczne.
Ponadto dokumenty publiczne wyszczególnione indywidualne stawki wynagrodzeń wykonawcy, a także obszerne notatki dotyczące sporów i rozbieżności. Ta ekspozycja wrażliwych danych finansowych i wyników dodatkowo łączy nasilenie upływu bezpieczeństwa, potencjalnie wpływając na prywatność i utrzymanie wielu kontrahentów.
Incydent podkreśla krytyczną potrzebę solidnych praktyk bezpieczeństwa danych w szybko rozwijającym się sektorze sztucznej inteligencji, szczególnie, że firmy takie jak AI zajmują ogromne ilości zastrzeżonych i poufnych informacji dla wiodących gigantów technologicznych. Upadek tego „niewiarygodnie oszałamiającego” systemu bezpieczeństwa może mieć znaczący implikacje dla reputacji AI i jej przyszłych partnerstw, nawet jeśli głębiej integruje się z ambicjami AI Meta.
Source: Scale AI Exposed: Dane klienta wyciekły za pośrednictwem Dokumentów Google
