Rasistowskie filmy, pozornie wygenerowane przez Google AI Video Creation Tool Veo 3, zgromadziły miliony wyświetleń w całym Tiktok, zgodnie z ostatnim badaniem Media Media Media Media Media Media Media Media Media Media Media Media Media Te filmy wytwarzane przez AI, zidentyfikowane przez organizację, są nasycone obraźliwymi stereotypami, szczególnie ukierunkowymi na czarne osoby.
Media Matters zakończyło filmy, z których jeden zdobył zadziwiające 14,2 miliona wyświetleń, zostały stworzone przy użyciu Google Veo 3 ze względu na widoczny znak wodny „Veo” wyświetlony w rogu tych klipów. Ponadto niektórzy użytkownicy wyraźnie zawierali hashtagi, podpisy lub nazwy użytkowników odnoszące się do Veo 3 lub AI. Każdy klip zidentyfikowany przez organizację miał dokładnie osiem sekund długości lub obejmował wiele segmentów, każdy nie przekracza ośmiu sekund, idealnie wyrównując się ze znanym ośmiosekundowym limitem generacji Veo 3.
Google uruchomił VEO 3 w maju, umożliwiając użytkownikom generowanie klipów wideo AI i dźwięku, po prostu wprowadzając monit tekstowy. Oficjalna strona Google podaje swoje zaangażowanie w „blokowanie szkodliwych żądań i wyników”. Podobnie, wytyczne społeczne Tiktok wyraźnie zabraniają „mowy nienawiści i nienawistnego zachowania”, potwierdzając, że platforma „nie zaleca treści zawierających negatywne stereotypy dotyczące osoby lub grupy z chronionym atrybutem”.
W odpowiedzi na ustalenia rzecznik Tiktok Ariane de Seliers stwierdził Verge: „proaktywnie egzekwujemy solidne zasady przeciw nienawistnej mowie i zachowania i usunęliśmy konta zidentyfikowane w raporcie, z których wiele zostało już zakazanych przed wydaniem raportu”. Verge odkrył także niektóre z tych problematycznych filmów na YouTube, choć z mniejszą liczbą wyświetleń, podczas gdy podłączono niezależnie porównywalne rasistowskie treści generowane przez AI na Instagramie. Media Matters znalazły także inne filmy zawierające treści antysemickie i rasistowskie przedstawienia imigrantów i osób azjatyckich. Google nie przekazał jeszcze komentarza na temat problemu.
Source: Rasistowskie filmy AI utworzone przez Google Veo 3 Surface
