Edward Tian, 22-letni senior z Princeton University, stworzył aplikację GPTZero podczas ferii zimowych. Aplikacja służy do oceny, czy tekst został wygenerowany przez popularnego chatbota ChatGPT. Według Tian, aplikacja GPTZero może szybko i skutecznie ustalić, czy tekst został napisany przez człowieka, czy ChatGPT, i został stworzony z powodu obaw o nieetyczne wykorzystanie ChatGPT w środowisku akademickim.
Edward Tian, absolwent informatyki z wykształceniem dziennikarskim, opracował aplikację GPTZero, aby zająć się tym, co uważa za wzrost plagiatu AI. Uważa, że ludzie zasługują na to, aby wiedzieć, czy autorem tekstu jest sztuczna inteligencja, czy człowiek, i to pragnienie skłoniło go do stworzenia aplikacji. W tweecie promującym aplikację GPTZero napisał: „Wokół ChatGPT jest tyle szumu. Czy to i tamto jest pisane przez AI? My, ludzie, zasługujemy na to, by wiedzieć!”
Spędziłem Nowy Rok budując GPTZero — aplikację, która może szybko i skutecznie wykrywać, czy esej jest napisany przez ChatGPT, czy przez człowieka
— Edward Tian (@edward_the6) 3 stycznia 2023 r
Po wprowadzeniu ChatGPT w listopadzie pojawiły się doniesienia o uczniach korzystających z modelu językowego do przesyłania zadań generowanych przez sztuczną inteligencję jako własnych. Wraz z rozwojem aplikacji GPTZero przez Tian, nauczyciele mają teraz nowe narzędzie do identyfikacji, czy eseje przesłane przez uczniów są napisane przez ChatGPT. 2 stycznia, kiedy Tian udostępnił aplikację, inni nauczyciele skontaktowali się z nim, aby podzielić się pozytywnymi opiniami na temat jej wydajności w wykrywaniu esejów napisanych przez sztuczną inteligencję.
Aplikacja GPTZero: Jak wykryć pisanie ChatGPT?
Aplikacja GPTZero wykorzystuje „zakłopotanie” i „wybuchowość” jako wskaźniki do ustalenia, czy tekst został napisany przez człowieka, czy przez bota. Zakłopotanie jest miarą złożoności tekstu, jeśli aplikacja GPTZero stwierdzi, że tekst jest trudny do zrozumienia, oznacza to, że tekst jest bardziej złożony, a zatem prawdopodobnie został napisany przez człowieka. Jeśli okaże się łatwy do zrozumienia, najprawdopodobniej został wygenerowany przez sztuczną inteligencję, ponieważ został przeszkolony na podobnych tekstach. „Burstiness” kontrastuje z różnymi wersjami zdań, a ludzie mają tendencję do szybszego pisania, co może obejmować mieszankę dłuższych i krótszych słów, podczas gdy zdania generowane przez sztuczną inteligencję są zazwyczaj bardziej spójne.
Tian zademonstrował, w jaki sposób aplikacja rozróżnia teksty napisane przez ludzi i sztuczną inteligencję, pokazując w filmie swoją analizę artykułu z New Yorkera i posta ChatGPT na LinkedIn. Aplikacja okazała się skuteczna w swojej analizie. W ciągu tygodnia od uruchomienia aplikacja GPTZero była używana przez ponad 30 000 użytkowników, a jej popularność spowodowała awarię aplikacji. Streamlit, oprogramowanie typu open source, które obsługuje aplikację GPTZero, od tego czasu zapewnia więcej zasobów do obsługi dużego ruchu na stronie internetowej, aby pomóc Tian.
oto szybkie demo z john mcphee’s "ramy Odniesienia" pic.twitter.com/WphxfxxFdr
— Edward Tian (@edward_the6) 3 stycznia 2023 r
Edward Tian nie jest jedynym, który walczy z plagiatami i fałszerstwami AI. OpenAI, twórca ChatGPT, wykazał również swoje zaangażowanie w powstrzymanie takiego złośliwego wykorzystania sztucznej inteligencji. Według Scotta Aaronsona, badacza OpenAI specjalizującego się w bezpieczeństwie sztucznej inteligencji, organizacja opracowuje sposób osadzania „niezauważalnego tajnego sygnału” w tekście generowanym przez GPT w celu śledzenia jego pochodzenia, co jest podobne do koncepcji „znaku wodnego”. Pomoże to w wykryciu plagiatu AI lub innych złośliwych zastosowań.
Społeczność AI o otwartym kodzie źródłowym, Hugging Face, wydała narzędzie, które może określić, czy tekst został wygenerowany przez GPT-2, starszą wersję modelu AI używanego do tworzenia ChatGPT. Profesor filozofii z Karoliny Południowej, który znał tę technikę, poinformował, że wykorzystał ją do wykrycia studenta przesyłającego pracę stworzoną przez sztuczną inteligencję.
Edward Tian nie jest przeciwny korzystaniu z ChatGPT i innych technologii sztucznej inteligencji. Uważa, że aplikacja GPTZero nie ma na celu uniemożliwienia korzystania z tych technologii, ale zapewnienie sposobu odpowiedzialnego ich przyjęcia i zapewnienia niezbędnej ochrony. Chce zapewnić przejrzystość sztucznej inteligencji, która zbyt długo była czarną skrzynką. Stworzył aplikację, aby dać ludziom wgląd w to, co odróżnia pismo ludzkie od pisma generowanego przez sztuczną inteligencję, chociaż rozumie, że aplikacja GPTZero nie jest idealna i wciąż pracuje nad poprawą jej precyzji. Podkreślił, że jego głównym celem jest uczynienie AI bardziej przejrzystym.
Mimo że istnieją słuszne projekty przeciwko plagiatom, niektórzy wielcy gracze, tacy jak Microsoft, integrują ChatGPT ze swoim oprogramowaniem!
Source: Wykrywanie AI: czy aplikacja GPTZero może wykryć pismo utworzone przez ChatGPT?