Firma OpenAI opracowała narzędzie, które mogłoby identyfikować studentów korzystających z ChatGPT w celu wykonania swoich zadań, ale nie jest pewna, czy powinna je udostępnić. Dziennik Wall Street poinformował, że firma eksperymentuje z metodą zwaną znakowaniem wodnym tekstu. Ta technika polega na wprowadzaniu drobnych zmian w sposobie, w jaki ChatGPT wybiera słowa, tworząc ukryty „znak wodny” w tekście, który można wykryć później.
Rzecznik OpenAI powiedział: TechCrunch że firma jest ostrożna z wypuszczaniem tego narzędzia ze względu na jego złożoność i potencjalny wpływ. Martwią się problemami takimi jak znalezienie przez ludzi sposobów na ominięcie znaku wodnego i możliwością niesprawiedliwego wpływu na osoby nieanglojęzyczne.
Jest „bardzo dokładny”
To podejście różni się od wcześniejszych prób wykrywania tekstu generowanego przez AI, które w większości zakończyły się niepowodzeniem. Na przykład GPTZero, inne narzędzie zaprojektowane do wykrywania tekstu napisanego przez AI, napotkało wyzwania pod względem dokładności i skuteczności. Nawet OpenAI przestało używać własnego detektora tekstu AI w zeszłym roku, ponieważ nie był on wystarczająco dokładny. Nowe narzędzie do znakowania wodnego skupiłoby się wyłącznie na wyłapywaniu tekstu napisanego przez ChatGPT, a nie inne modele AI.
W zaktualizowanej wersji post na bloguOpenAI zauważyło, że znakowanie wodne tekstu jest „bardzo dokładne” w przypadku prostych manipulacji, takich jak zmiana kilku słów. Jest jednak mniej skuteczne w przypadku bardziej złożonych metod, takich jak tłumaczenie tekstu na inny język lub użycie innego modelu AI do jego przeformułowania. Firma wspomniała również o obawach, że to narzędzie może niesprawiedliwie stygmatyzować korzystanie ze sztucznej inteligencji, zwłaszcza w przypadku osób, dla których angielski nie jest językiem ojczystym, a które mogłyby korzystać ze sztucznej inteligencji w celu pomocy w pisaniu.
Biorąc pod uwagę te czynniki, firma OpenAI potrzebuje czasu na podjęcie decyzji o udostępnieniu tego narzędzia, starannie rozważając za i przeciw.
Wszystkie obrazy są generowane przez Eray Eliaçık/Bing
Source: OpenAI wie, jak rozpoznać pracę ChatGPT, ale waha się, czy się nią podzielić
