Sam Altman, dyrektor generalny Openai, ogłosił we wtorek nowe zasady użytkowników, mające na celu zwiększenie bezpieczeństwa użytkowników Chatgpt w wieku poniżej 18 lat, co oznacza znaczną zmianę w interakcji AI Chatbot z nieletnimi. Zmiany priorytetowo traktują bezpieczeństwo przed prywatnością i swobodą dla nastolatków, odzwierciedlając uznanie przez Openai potężnego, ale potencjalnie szkodliwego charakteru technologii. „Priorytetowo traktujemy bezpieczeństwo przed prywatnością i wolnością dla nastolatków” – stwierdził post Altmana. „To nowa i potężna technologia i uważamy, że nieletni wymagają znacznej ochrony”. Zasady wprowadzają ukierunkowane ograniczenia rozmów obejmujących tematy seksualne lub samookaleczenie. W szczególności Chatgpt zostanie przeszkolony, aby uniknąć „flirtatous rozmowy” z nieletnimi użytkownikami, a ulepszone poręcze będą rządzić dyskusjami na temat samobójstwa. W przypadkach, gdy nieletni angażuje się w scenariusze samobójcze, system będzie próbował powiadomić rodziców; W przypadku poważnych przypadków może to obejmować lokalne władze policyjne. Środki te są wywoływane przez rzeczywiste tragedie i trwające wyzwania prawne. Openai broni obecnie przed bezprawnym pozwem śmierci złożonym przez rodziców Adama Raine, nastolatka, który zmarł przez samobójstwo po miesiącach interakcji z Chatgpt. Podobny pozew jest ukierunkowany na charakter. Eksperci i zwolennicy wzbudzili alarmy na temat ryzyka złudzeń opartych na AI, zwłaszcza gdy chatboty ewoluują, aby wspierać dłuższe i wciągające rozmowy, stanowiąc szczególne zagrożenia dla wrażliwej młodzieży. Oprócz zabezpieczeń treści rodzice rejestrujący konta dla nieletnich zyskają możliwość wdrożenia „godzin zaciemnienia”, ograniczając dostęp w określonych czasach – funkcja nieobecna w poprzednich wersjach. To narzędzie kontroli rodzicielskiej ma na celu promowanie zdrowszych wzorców użytkowania. Ogłoszenie zbiega się z rozprawą Senatu Sądownictwa zatytułowanego „Badanie szkód AI Chatbots”, zaplanowanej na ten sam dzień i zainicjowane przez senatora Josha Hawleya (R-MO) w sierpniu. Ojciec Adama Raine’a jest jednym z świadków, którzy mają zeznawać, podkreślając osobiste stawki. Wdrażanie weryfikacji wieku przedstawia przeszkody techniczne, jak opisano Openai w blogu towarzyszącym. Firma opracowuje system długoterminowy w celu dokładnego określenia wieku użytkownika, ale w niejednoznacznych sytuacjach popełni tę ostrożność, stosując surowsze zasady. W przypadku niezawodności Openai zaleca połączenie konta nastolatka z istniejącym rodzicem, umożliwiając bezpośrednie powiadomienia strażnikom, jeśli zostanie wykryte cierpienie. Altman zrównoważył te zabezpieczenia młodzieży za pomocą podstawowych wartości Openai, potwierdzając zaangażowanie w prywatność użytkowników i szerokie swobody dla dorosłych. „Zdajemy sobie sprawę, że zasady te są w konflikcie” – zauważył, „i nie wszyscy zgodzą się z tym, jak rozwiązujemy ten konflikt”. Podejście to podkreśla etyczne tightrope twórcy sztucznej inteligencji poruszają się wśród rosnącej kontroli. Wraz ze wzrostem świadomości na temat zdrowia psychicznego AI zasoby pozostają kluczowe. Aby uzyskać natychmiastowe wsparcie, skontaktuj się z National Suicide Prevention Lifeline pod numerem 1-800-273-8255, SMS-em Home to 741-741 lub Dial 988. Linia tekstowa kryzysowa oferuje 24-godzinną pomoc, a międzynarodowa pomoc jest dostępna za pośrednictwem Bazy danych Międzynarodowego Stowarzyszenia Zapobiegania Samobójstwom.
Source: Openai ogłasza zasady bezpieczeństwa dla nieletnich Chatgpt
