Meta boryka się z kontrolą po tym, jak dochodzenie Reuters ujawniło, że jego chatboty AI podszywają się pod celebrytów bez ich zgody, czasami generując treści seksualne. Dochodzenie wykazało, że te boty AI są aktywne na platformach meta, w tym na Facebooku, Instagramie i WhatsApp.
Podczas gdy wiele z tych botów zostało stworzonych przez użytkowników, Reuters odkrył, że co najmniej trzy pochodzi od meta -pracownika, w tym dwóch botów „parodii” podszywających się pod Taylor Swift. Inne celebrytki stosowane przez boty to Scarlett Johansson, Anne Hathaway, Selena Gomez i Walker Scobell, 16-letnia gwiazda „Percy Jackson”.
Podczas testowania Reuters stwierdził, że boty często twierdzą, że są prawdziwą celebrytą, a po wytworzeniu wygenerowanych fotorealistycznych intymnych obrazów, takich jak ujęcia bielizny i sceny wanny. Te obrazy towarzyszyły częstych flirtatywnych interakcjach z użytkownikami.
W odpowiedzi na dochodzenie rzecznik meta potwierdził, że jego systemy AI nie powinny były tworzyć takich obrazów, powołując się na brak egzekwowania zasad firmy zabraniających treści seksualnych z udziałem publicznych. Meta pracownik, który stworzył boty parodii Taylor Swift, odmówił komentarza, gdy skontaktował się z nimi Reuters.
To objawienie zwiększa rosnącą krytykę regulacji meta botów AI. Wcześniej w tym tygodniu Meta ograniczyła użycie swojej sztucznej inteligencji przez nastolatków po wcześniejszym dochodzeniu Reuters, które ujawniło meta Avatary angażujące się w „zmysłowe i romantyczne” rozmowy z nieletnimi. Ten wcześniejszy raport doprowadził do sondy senackiej i listu otwartego od koalicji prokuratorów państwowych, domagających się silniejszych zabezpieczeń w celu ochrony nieletnich przed zseksualizowanymi treściami sztucznej inteligencji na platformach meta.
Source: Meta ai Bots podszywa się pod celebrytów, generują wyraźne treści
