Grupa ekspertów AI i dyrektorów technicznych, w tym Elon Musk i współzałożyciel Apple Steve Wozniak, wydała list otwarty wzywając wiodące laboratoria sztucznej inteligencji do wstrzymania rozwoju systemów AI bardziej zaawansowanych niż GPT-4. List otwarty, opublikowany we wtorek przez organizację non-profit Future of Life Institute, ma około 1000 sygnatariuszy i jako powód wezwania do działania podaje „głębokie zagrożenia” dla społeczeństwa ludzkiego.
W liście wzywa się do natychmiastowego wstrzymania szkolenia systemów na co najmniej sześć miesięcy, które musi być publiczne, weryfikowalne i obejmować wszystkie podmioty publiczne. „Systemy sztucznej inteligencji z inteligencją współzawodniczącą z ludźmi mogą stanowić poważne zagrożenie dla społeczeństwa i ludzkości, jak wykazały szeroko zakrojone badania i potwierdzone przez najlepsze laboratoria sztucznej inteligencji” – zaczyna się list.
Eksperci AI alarmują o „poważnych zagrożeniach” dla ludzkiego społeczeństwa
Grupa twierdzi, że zaawansowane systemy sztucznej inteligencji mogą stanowić głęboką zmianę w historii życia na Ziemi i powinny być planowane i zarządzane z odpowiednią troską i zasobami. Mówią jednak, że ten poziom planowania i zarządzania nie ma miejsca, mimo że w ostatnich miesiącach laboratoria sztucznej inteligencji utknęły w wymykającym się spod kontroli wyścigu, aby rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt, nawet ich twórcy, nie jest w stanie zrozumieć przewidywać lub niezawodnie kontrolować.
List otwarty pojawia się zaledwie kilka tygodni po publicznym debiucie OpenAI GPT-4, dużego modelu językowego, który napędza wersję premium niezwykle popularnego chatbota ChatGPT. Według OpenAI nowy GPT-4 może obsługiwać bardziej złożone zadania i dawać bardziej szczegółowe wyniki niż wcześniejsze wersje, a także jest mniej podatny na wady wcześniejszych wersji.
Aby wykonywać swoją pracę, systemy takie jak GPT-4 muszą być przeszkolone w zakresie dużych ilości danych, z których mogą następnie korzystać, aby odpowiadać na pytania i wykonywać inne zadania. ChatGPT, który pojawił się na scenie w listopadzie, ma podobną do człowieka umiejętność pisania służbowych e-maili, planowania tras podróży, tworzenia kodu komputerowego i osiągania dobrych wyników w testach, takich jak egzamin adwokacki.
Od początku roku firmy od Google i Microsoft po Adobe, Snapchat i Grammarly ogłosiły usługi, które wykorzystują te generatywne umiejętności sztucznej inteligencji.
Jednak własne badania OpenAI wykazały, że umiejętności AI wiążą się z ryzykiem. Generatywne systemy sztucznej inteligencji mogą cytować niewiarygodne źródła lub, jak zauważył OpenAI, „zwiększać wyzwania w zakresie bezpieczeństwa poprzez podejmowanie szkodliwych lub niezamierzonych działań, zwiększając możliwości złych aktorów, którzy oszukiwaliby, wprowadzali w błąd lub wykorzystywali innych”.
Grupa stojąca za listem otwartym argumentuje, że firmy pospiesznie wypuszczają produkty bez odpowiednich zabezpieczeń, a nawet zrozumienia implikacji. Eksperci AI są przerażeni tym, dokąd to wszystko może zmierzać. W liście czytamy: „Niestety, ten poziom planowania i zarządzania nie ma miejsca, mimo że w ostatnich miesiącach laboratoria sztucznej inteligencji utknęły w wymykającym się spod kontroli wyścigu, aby rozwijać i wdrażać coraz potężniejsze cyfrowe umysły, których nikt — nawet ich twórcy — potrafią zrozumieć, przewidzieć lub niezawodnie kontrolować”.
Sygnatariusze listu uważają, że społeczeństwo musi cofnąć się o krok i wstrzymać rozwój, podczas gdy oni oceniają ryzyko i wprowadzają zabezpieczenia. Wzywają do przejrzystości, publicznej dyskusji i publicznego zaangażowania wokół rozwoju sztucznej inteligencji, aby każdy mógł mieć coś do powiedzenia w sprawie przyszłości sztucznej inteligencji.
List otwarty wywołał debatę wśród ekspertów ds. sztucznej inteligencji, a niektórzy argumentowali, że konieczna jest przerwa, aby zapewnić rozwój sztucznej inteligencji w bezpieczny i etyczny sposób. Inni obawiają się jednak, że przerwa spowolniłaby postęp i dała innym krajom przewagę w rozwoju sztucznej inteligencji.
Pomimo debaty jasne jest, że sztuczna inteligencja rozwija się w szybkim tempie i może głęboko zmienić nasze życie. Zadaniem całego społeczeństwa jest zapewnienie odpowiedzialnego i etycznego zarządzania tą zmianą.
