Twitch AI Seinfeld zbanował wiadomości, które przyniosły wiele w mediach społecznościowych po decyzji podjętej przez popularną platformę nadawczą. Witamy w naszym artykule na temat przyczyn zablokowania Twitcha AI Seinfelda i dramatu, który się za tym kryje.
„Nothing, Forever” to niekończący się program generowany przez sztuczną inteligencję, który jest transmitowany na Twitchu od połowy grudnia. W serialu występują cztery postacie, Larry, Fred, Yvonne i Kakler, które przypominają postacie z przebojowego serialu „Seinfeld” z gry komputerowej z lat 90. Dialogi są tworzone przez GPT-3 firmy OpenAI, a technologię mowy zapewnia inna firma. Spektakl jest trzymany razem przez połączenie GPT-3 OpenAI i zastrzeżonych algorytmów generatywnych Mismatch Media, zwanych „reżyserem”.
Oparta na sztucznej inteligencji wersja Seinfelda, zwana „Nothing Forever”, została zablokowana na Twitchu na 14 dni po tym, jak wersja AI Jerry’ego Seinfelda, znanego jako Larry Feinberg, wygłosiła transfobiczne wypowiedzi podczas stand-upu. Program AI jest tworzony przez naśladowanie tradycyjnych odcinków Seinfelda i był oglądany przez dziesiątki tysięcy ludzi. Sztuczna inteligencja serialu jest szkolona w zakresie klasycznych odcinków sitcomów i różnych narzędzi sztucznej inteligencji i zaczyna się od stand-upu Larry’ego przed przeprowadzką do jego mieszkania.
Dlaczego Twitch AI Seinfeld został zbanowany?
Zakaz pojawił się po tym, jak AI wygłosiła serię transfobicznych i homofobicznych uwag podczas występu w niedzielę wieczorem. Twitch nie odpowiedział od razu na prośbę o komentarz, czy żart był powodem bana, ale stało się to na krótko przed zbanowaniem kanału, a użytkownicy na Discordzie projektu wskazywali na ten żart jako powód bana. Strona programu na Twitchu wyświetla teraz komunikat informujący, że jest tymczasowo niedostępna z powodu naruszenia Wytycznych dla społeczności Twitcha lub Warunków korzystania z usługi.
W Discord projektu personel show obwinił to wydarzenie o konieczność zmiany modelu AI, co spowodowało „błędne zachowania”. Członek personelu napisał, że musieli przejść z modelu OpenAI GPT-3 Davinci na mniej wyrafinowany model Curie, gdy Davinci zaczął zawodzić, co spowodowało wygenerowanie nieodpowiedniego tekstu. Członek personelu stwierdził również, że narzędzia moderacji treści OpenAI działały w modelu Davinci, ale nie odniosły sukcesu w przypadku Curie. Pierwotna przyczyna problemu z modelem Davinciego została już zidentyfikowana, a Curie nie będzie używana jako rezerwa w przyszłości.
Modele sztucznej inteligencji mają trudności ze zrozumieniem ludzkich wartości
Incydent zablokowany przez Twitch AI Seinfeld jest symbolem wyzwań, przed którymi stoi większość sztucznej inteligencji. Kiedy sztuczna inteligencja jest szkolona na nienawistnych lub stronniczych materiałach, wyniki często mogą być nienawistne lub stronnicze. Właśnie dlatego bezpieczeństwo sztucznej inteligencji jest ważną dziedziną, w której opracowuje się narzędzia do łagodzenia takich uprzedzeń. Wiele narzędzi sztucznej inteligencji jest moderowanych przez słabo opłacanych pracowników w krajach rozwijających się. Zespół Nothing Forever wykorzystał większość swojego Discorda tylko do odczytu, a w wątku, w którym użytkownicy nadal mogą publikować, wielu użytkowników używa Midjourney AI do generowania obrazów Jerry’ego Seinfelda trzymającego flagę dumy trans.
Nie wiesz, co to jest Midjourney AI? Sprawdź, jak tworzyć ilustracje artystyczne w Midjourney AI.
Incydent zablokowany przez Twitch AI Seinfeld podkreśla znaczenie odpowiedzialnego rozwoju sztucznej inteligencji i potrzebę złagodzenia uprzedzeń w modelach sztucznej inteligencji. Niezbędne jest monitorowanie i kontrolowanie wyników sztucznej inteligencji, aby zapobiec szerzeniu nienawiści i dyskryminacji. Personel Nothing Forever podjął właściwy krok, odwołując się od zakazu i pracując nad tym, aby nic takiego nie powtórzyło się w przyszłości. Możesz oglądać Seinfield AI, gdy tylko zostanie odblokowany z platformy za pośrednictwem tego linku.
Precyzja technologii AI wciąż budzi kontrowersje, na przykład fakt, że sztuczna inteligencja Lensa wielokrotnie kradła prace artystów i generowała nagie zdjęcia bez zgody użytkowników. Mamy nadzieję, że w 2023 roku technologie AI będą mogły wyjść nam naprzeciw w bardziej zhumanizowany sposób.
