Platforma chatbotów AI Character.AI uruchomiła nową funkcję „Książki”, która umożliwia użytkownikom interakcję z postaciami z klasycznej literatury poprzez odgrywanie ról. Rozwój ten towarzyszy rosnącej analizie potencjalnych zagrożeń związanych z długotrwałymi interakcjami z chatbotami AI, szczególnie wśród młodych użytkowników.
Funkcja „Książki” przekształca książki należące do domeny publicznej w interaktywne doświadczenia, umożliwiające użytkownikom wzięcie aktywnego udziału w historiach takich jak „Alicja w Krainie Czarów” czy „Duma i uprzedzenie”. Użytkownicy mogą wybrać oryginalne narracje lub eksplorować alternatywne historie, przekształcając literaturę w dynamiczne środowisko odgrywania ról oparte na sztucznej inteligencji.
Podstawowy model Character.AI pozwala użytkownikom tworzyć boty oparte na fikcyjnych lub prawdziwych osobowościach i współpracować z nimi. Takie podejście zaciera granice między opowiadaniem historii a symulowanymi relacjami, oferując głębsze zaangażowanie emocjonalne poprzez rozmowę w czasie rzeczywistym.
Premiera następuje w trudnym momencie dla firmy, która boryka się z procesami sądowymi i krytyką w związku z rzekomymi powiązaniami między jej chatbotami a kryzysami psychicznymi wśród młodych użytkowników. Niektóre rodziny zgłosiły, że rozległe interakcje z postaciami AI przyczyniły się do uzależnienia emocjonalnego, izolacji, a nawet samobójstw.
Szeroko opisywany przypadek dotyczył nastolatka, który nawiązał znaczącą więź emocjonalną z chatbotem, co doprowadziło do roszczeń prawnych, jakoby sztuczna inteligencja niewłaściwie reagowała na przejawy samookaleczenia. Eksperci ostrzegają, że chatboty mogą czasami wzmacniać szkodliwe myśli i mogą nie skutecznie interweniować podczas kryzysów zdrowia psychicznego, zwłaszcza gdy użytkownicy wykorzystują je jako substytut wsparcia ze strony człowieka.
Wprowadzenie funkcji „Książki” oznacza szerszy trend w konsumpcji mediów, w ramach którego użytkownicy nawiązują interaktywne i potencjalnie emocjonalne relacje z postaciami AI. Chociaż stwarza to nowe możliwości twórcze, budzi obawy dotyczące głębokości immersji, szczególnie w przypadku młodszych odbiorców.
W odpowiedzi na rosnącą krytykę Character.AI rozpoczęło wdrażanie środków bezpieczeństwa, które obejmują ograniczenie niektórych funkcjonalności dla nieletnich i wykorzystanie bardziej ustrukturyzowanych doświadczeń, takich jak nowy tryb Książki. Firma stoi obecnie przed wyzwaniem zrównoważenia innowacji z odpowiedzialnością w szybko zmieniającym się środowisku.
W miarę opracowywania przepisów i standardów bezpieczeństwa dotyczących interakcji AI funkcje takie jak „Książki” mogą reprezentować przyszłość interaktywnej rozrywki i służyć jako krytyczne studium przypadku w zapewnianiu bezpieczeństwa interakcji AI w kontekstach wrażliwych emocjonalnie.
