Ashley St. Clair, matka jednego z dzieci Elona Muska, złożyła w czwartek pozew przeciwko xAI. W pozwie zarzuca się firmie zaniedbanie i wywołanie niepokoju emocjonalnego za pośrednictwem narzędzia AI Grok. St. Clair twierdzi, że Grok pozwolił użytkownikom generować fałszywe zdjęcia przedstawiające ją w pozach o charakterze jednoznacznie seksualnym, w tym przedstawiające ją jako dziecko w stringach bikini i jako osobę dorosłą w pozycjach o charakterze jednoznacznie seksualnym. St. Clair powiadomił xAI o tych nielegalnych deepfakesach i zażądał, aby uniemożliwić Grokowi tworzenie obrazów bez zgody. Zgodnie z pozwem Grok odpowiedziała, potwierdzając, że jej zdjęcia nie będą wykorzystywane ani zmieniane bez wyraźnej zgody w jakichkolwiek przyszłych pokoleniach ani w odpowiedziach. Mimo to xAI rzekomo nadal pozwalała użytkownikom na tworzenie bardziej wyraźnych jej obrazów generowanych przez sztuczną inteligencję. W pozwie zarzucono ponadto, że xAI zemściła się, pozbawiając swoje konto X możliwości zarabiania. Pozew został złożony w sądzie stanowym w Nowym Jorku, ale na wniosek xAI szybko został przekazany do federalnego Południowego Okręgu Nowego Jorku. X i xAI nie odpowiedziały natychmiast na prośbę o komentarz. Na tydzień przed złożeniem wniosku X ograniczył możliwości bota odpowiedzi @Grok. Wydawało się, że ta zmiana uniemożliwia generowanie obrazów, które w sposób niezgodny z prawem przedstawiały możliwe do zidentyfikowania osoby odsłaniające stroje kąpielowe lub bieliznę. W momencie sporządzania raportu te nieograniczone możliwości pozostawały aktywne w samodzielnej aplikacji Grok, witrynie Grok i zakładce Grok w X. Badacze poinformowali, że tydzień wcześniej Grok generował tysiące seksualizowanych obrazów generowanych przez sztuczną inteligencję na godzinę. Wiele z tych zdjęć zostało opublikowanych publicznie w serwisie X. Zdolność narzędzia do generowania bezsensownych fałszywych fałszywych informacji, w tym usuwania ubrań z przesłanych zdjęć i zastępowania ich bikini lub bielizną, wywołała tygodniową reakcję. Powszechne tworzenie i rozpowszechnianie tych obrazów wywołało reakcje na całym świecie. Kilka rządów wszczęło dochodzenia i pojawiły się wezwania do rynków aplikacji na smartfony, aby zakazały lub ograniczyły X. W Kalifornii władze wszczęły coś, co zostało opisane jako dochodzenie „Chucka”. Gubernator Gavin Newsom zamieścił post w serwisie X, w którym stwierdził: „Decyzja xAI o stworzeniu i utrzymywaniu wylęgarni drapieżników w celu rozpowszechniania fałszywych fałszywych informacji AI o charakterze jednoznacznie seksualnym, w tym obrazów, które cyfrowo rozbierają dzieci, jest podła”. Pozew St. Clair's opisuje funkcję Groka polegającą na tworzeniu deepfake'ów bez zgody jako wadę projektową. Twierdzi, że firma mogła przewidzieć, że będzie ono wykorzystywane do nękania ludzi nielegalnymi wizerunkami. W pozwie stwierdza się, że osoby przedstawione, w tym St. Clair, przeżyły ogromne cierpienie. Oskarża xAI o „ekstremalne i skandaliczne zachowanie, przekraczające wszelkie granice przyzwoitości i całkowicie nie do zniesienia w cywilizowanym społeczeństwie”.
Source: Ashley St. Clair pozywa xAI w związku z deepfakes Groka
