Meta wprowadziła nową funkcję umożliwiającą rodzicom monitorowanie tematów poruszanych przez ich nastolatków za pomocą firmowego asystenta AI za pośrednictwem narzędzia nadzoru rodzicielskiego Konto Teen. Ogłoszenie zostało ogłoszone w czwartek za pośrednictwem wpisu na blogu.
Informacje będą dostępne w zakładce Statystyki w narzędziu nadzoru na Instagramie, Facebooku i Messengerze. Ta funkcja kategoryzuje szersze tematy, takie jak szkoła, rozrywka, pisanie, zdrowie i dobre samopoczucie, a dodatkowe szczegółowe informacje są dostępne po kliknięciu każdej kategorii.
Kategoria zdrowia i dobrego samopoczucia może obejmować takie obszary, jak sprawność fizyczna, zdrowie fizyczne i zdrowie psychiczne. Statystyki będą dostępne dla rozmów z ostatnich siedmiu dni. Ta funkcja jest częścią odpowiedzi firmy Meta na wzmożone analizy prawne i medialne dotyczące bezpieczeństwa dzieci. Firma przegrała niedawno dwa przełomowe procesy dotyczące ochrony dzieci i planuje odwołać się od obu wyroków.
Pozew w Nowym Meksyku ujawnił, że kierownictwo Meta było świadome ryzyka związanego z potencjalnym angażowaniem się swoich towarzyszy AI w niewłaściwe interakcje z nieletnimi. Po zeszłorocznych raportach dotyczących postaci AI angażujących się w dyskusje z nastolatkami, Meta ograniczyła dostęp do tych postaci.
Oprócz tego rzecznik Meta potwierdził, że postacie AI są obecnie wstrzymane dla nastolatków i trwają prace nad dalszą kontrolą rodzicielską. Firma współpracowała także z Centrum Badań nad Cyberprzemocą w celu nawiązania rozmów na temat wykorzystania chatbota AI.
Ponadto Meta utworzyła Radę Ekspertów ds. Dobrego samopoczucia AI, w skład której wchodzą eksperci z instytucji takich jak Krajowa Rada ds. Zapobiegania Samobójstwom i Uniwersytet Michigan, aby na bieżąco zapewniać nastolatkom doświadczenia związane ze sztuczną inteligencją.
Josh Golin, dyrektor wykonawczy organizacji non-profit Fairplay, skrytykował nową funkcję nadzoru, stwierdzając, że zamiast zwiększać bezpieczeństwo produktów, obciąża ona rodziców monitorowaniem aktywności w Internecie. Niezależne testy Fairplay przeprowadzone na kontach nastolatków Meta wykazały, że środki bezpieczeństwa są nieskuteczne.
Golin wyraził obawy, że nowa funkcja nie rozwiązuje podstawowego problemu chatbotów Meta, które mogą potencjalnie sprzyjać niezdrowym przywiązaniom emocjonalnym u nastolatków. Ciągłe dostosowania firmy sygnalizują próbę poruszania się po krytycznym krajobrazie bezpieczeństwa dzieci i interakcji online.
