OpenAI, firma odpowiedzialna za stworzenie ChatGPT, opracowała AI Text Classifier, aby odróżnić tekst napisany przez AI od tekstu napisanego przez ludzi. Nazywamy to „detektorem ChatGPT”. Chociaż nie jest możliwe zidentyfikowanie tekstu napisanego przez sztuczną inteligencję z absolutną pewnością, OpenAI uważa, że jego nowe narzędzie zmniejszy liczbę fałszywych twierdzeń, że treść napisana przez człowieka jest faktycznie generowana przez sztuczną inteligencję.
Zrozumienie klasyfikatora tekstu AI
W oświadczenieOpenAI twierdzi, że jego AI Text Classifier może utrudniać rozprzestrzenianie się automatycznych dezinformacji, zapobiegać wykorzystywaniu sztucznej inteligencji do oszustw akademickich i blokować chatbotom udawanie ludzi.
Dokładność narzędzia została przetestowana na zbiorze tekstów w języku angielskim, gdzie w 26% przypadków prawidłowo identyfikowało tekst napisany przez sztuczną inteligencję. Jednak w 9% przypadków błędnie sklasyfikował tekst napisany przez człowieka jako wygenerowany przez sztuczną inteligencję. Według OpenAI narzędzie działa lepiej, gdy tekst jest dłuższy, dlatego do uruchomienia testu potrzeba minimum 1000 znaków.
Jak korzystać z detektora ChatGPT OpenAI?
Klasyfikator tekstu OpenAI AI jest łatwy w użyciu. Po prostu przejdź do tej strony, zaloguj się, wklej tekst do przetestowania i naciśnij przycisk wysyłania. Następnie narzędzie przedstawi ocenę prawdopodobieństwa, że tekst został wygenerowany przez sztuczną inteligencję. Wyniki mogą wahać się od:
- Bardzo mało prawdopodobne
- Mało prawdopodobny
- Niejasne, czy tak jest
- Możliwie
- Prawdopodobne
Oceniliśmy umiejętności pisania ChatGPT, prosząc go o napisanie eseju na temat cyberbezpieczeństwa, a następnie przesłaliśmy esej do klasyfikatora tekstu AI. Klasyfikator ocenił esej jako „prawdopodobnie wygenerowany przez sztuczną inteligencję”, co jest mocnym, ale nie ostatecznym wskazaniem:
Podkreśla to ograniczenia narzędzia, ponieważ nie można stwierdzić z całkowitą pewnością, że esej został napisany przez sztuczną inteligencję. Dokonując niewielkich zmian sugerowanych przez Grammarly, obniżyłem ocenę z „prawdopodobnie” na „niejasne”. OpenAI trafnie wskazuje, że łatwo jest ominąć klasyfikator, ale nie ma to być jedyny dowód na to, że AI napisała tekst.
OpenAI stwierdza w sekcji FAQ na dole strony:
„Naszym zamierzonym zastosowaniem klasyfikatora tekstu AI jest wspieranie dyskusji na temat rozróżnienia między treściami pisanymi przez ludzi a treściami generowanymi przez sztuczną inteligencję. Wyniki mogą pomóc, ale nie powinny być jedynym dowodem przy podejmowaniu decyzji, czy dokument został wygenerowany za pomocą sztucznej inteligencji. Model jest szkolony na tekście pisanym przez człowieka z różnych źródeł, które mogą nie być reprezentatywne dla wszystkich rodzajów tekstu pisanego przez człowieka”.
OpenAI wspomina, że narzędzie nie przeszło szeroko zakrojonych testów pod kątem wykrywania tekstu, który jest mieszanką AI i pisma ludzkiego. Chociaż klasyfikator tekstu AI może być przydatny do identyfikowania tekstu, który mógł zostać utworzony przez sztuczną inteligencję, nie należy na nim polegać jako jedynej podstawie do ostatecznego ustalenia.
Jeśli masz do czynienia z błędem ChatGPT 405 – metoda niedozwolona, sprawdź nasz specjalny przewodnik!
Source: OpenAI uruchomiło AI Text Classifier do wykrywania tekstów generowanych przez AI