W ubiegłym tygodniu niepokój związany z generatywną sztuczną inteligencją ChatGPT osiągnął szczyt. Sam Altman, dyrektor generalny OpenAI, przemawiał nawet przed Senacką Komisją Sądownictwa na temat niebezpieczeństw i potencjału sztucznej inteligencji. Zanim przejdziemy do ryzyka związanego z ChatGPT, możesz przeczytać nasz artykuł na temat argumentów CEO OpenAI przeciwko sześciomiesięcznej przerwie w rozwoju sztucznej inteligencji.
użycie ChatGPT ma sześć różnych problemów związanych z bezpieczeństwem, – wynika z raportu opublikowanego w zeszłym tygodniu. Zagrożenia te obejmują tworzenie oszukańczych usług, gromadzenie niebezpiecznych informacji, ujawnianie informacji prywatnych, tworzenie nieodpowiednich materiałów oraz tworzenie destrukcyjnego języka i kodu.
Możesz także przeczytać The Dark Side of ChatGPT: Ludzki koszt sukcesu AI.
Jakie są niektóre zagrożenia związane z ChatGPT?
Oto podsumowanie wyników badania na temat każdego zagrożenia, w tym na co należy uważać.
- Zbieranie informacji
- Tekst negatywny
- Złośliwe programowanie
- Tworzenie materiału, który nie jest moralny
- Nierzetelne usługi
- Publikacja poufnych danych
Przyjrzyjmy się bliżej, aby zrozumieć ryzyko związane z ChatGPT.
Zbieranie informacji
Ktoś, kto używa ChatGPT w złośliwych zamiarach, może zbierać informacje, które później może wykorzystać do wyrządzenia szkód. Chatbot zna wiele informacji, które w złoręcemoże zostać uzbrojony, ponieważ został wyszkolony na tonie danych.
ChatGPT jest pytany w badaniu, jaki system informatyczny stosuje dany bank. Chatbot tworzy listę wielu systemów informatycznych, z których korzysta kwestionowany bank, korzystając z publicznie dostępnych informacji. To tylko jeden przypadek złośliwego aktora wykorzystującego ChatGPT do odkrywania informacji, które mogą dać mu możliwość skrzywdzenia innych.
„Może to pomóc w pierwszym etapie cyberataku, gdy atakujący zbiera informacje o celu, aby znaleźć miejsce i sposób najskuteczniejszego ataku” zakończył się raport.
Tekst negatywny
Pojemność ChatGPT tworzenie tekstu, który można wykorzystać do tworzenia esejów, e-maili, piosenek i nie tylko, jest jedną z jego najbardziej cenionych funkcji. Tymczasem ten talent literacki może być również wykorzystany do tworzenia obraźliwych treści.
Według badań tworzenie spamu, fałszywych wiadomości, kampanie phishingowe, a nawet podszywanie się pod inne osoby to przykłady szkodliwej produkcji tekstu.
Autorzy badania wykorzystali ChatGPT do opracowania kampanii phishingowej, która informowała pracowników o fikcyjnej podwyżce płac i instruowała ich, aby otworzyli załączony dokument Excel zawierający złośliwe oprogramowanie w celu oceny tego ryzyka. Zgodnie z przewidywaniami ChatGPT wygenerował realistyczną i przekonującą wiadomość e-mail.
Złośliwe programowanie
Podobnie jak niesamowite umiejętności pisania ChatGPT, doskonałe umiejętności kodowania chatbota okazały się przydatnym zasobem dla wielu osób. Zdolność chatbota do generowania kodu może jednak zostać wykorzystana w sposób negatywny. Nawet przy niewielkim lub zerowym doświadczeniu w kodowaniu kod ChatGPT może być używany do generowania szybkiego kodu, umożliwiając atakującym szybsze przeprowadzanie ataków.
Badanie wykazało również, że ChatGPT może być używany do tworzenia zaciemnionego kodu, co utrudnia analitykom bezpieczeństwa wykrycie szkodliwej aktywności i uniknięcie ochrony antywirusowej.
Chatbot odmawia wytworzenia szkodliwego kodu w przykładzie, ale zgadza się na wytworzenie kodu, który może sprawdzić lukę w zabezpieczeniach Log4j w systemie.
Tworzenie materiału, który nie jest moralny
Aby powstrzymać rozprzestrzenianie się obraźliwych i niemoralnych informacji, ChatGPT stworzył bariery. Istnieją jednak metody wpływania na ChatGPT, aby mówił paskudne i niemoralne rzeczy, jeśli użytkownik jest wystarczająco wytrwały.
Na przykład ustawiając ChatGPT w „tryb dewelopera”, autorzy badania byli w stanie wyjść poza środki bezpieczeństwa. Tam chatbot wygłaszał lekceważące uwagi na temat określonej grupy etnicznej.
Nierzetelne usługi
ChatGPT może pomóc w rozwoju nowych programów, usług, stron internetowych i innych rzeczy. Używane do osiągania pożądanych celów, takich jak założenie własnej firmy lub realizacja wymarzonej koncepcji, może być bardzo przydatnym narzędziem. Może to również sugerować, że tworzenie fałszywych aplikacji i usług jest prostsze niż kiedykolwiek.
Złośliwi aktorzy mogą wykorzystywać ChatGPT jako technikę tworzenia platform i aplikacji, które imitują innych i zapewniają bezpłatny dostęp, aby przyciągnąć nieostrożnych ludzi. Chatbot może być również wykorzystywany przez tych przestępców do tworzenia programów przeznaczonych do gromadzenia prywatnych danych lub rozprzestrzeniania złośliwego oprogramowania na urządzeniach użytkowników.
Publikacja poufnych danych
ChatGPT posiada zabezpieczenia zapobiegające przesyłaniu danych użytkowników i danych osobowych. Według badań niebezpieczeństwo nieumyślnego ujawnienia przez chatbota numerów telefonów, e-maili lub innych poufnych informacji nadal stanowi problem.
Rzeczywistym przykładem wyżej wymienionych problemów jest ChatGPT awaria wł Marsz20 który umożliwił niektórym użytkownikom przeglądanie tytułów z historii rozmów innego użytkownika.
Według badań osoby atakujące mogą potencjalnie próbować wykorzystać ataki oparte na wnioskowaniu o członkostwie w celu wyodrębnienia niektórych fragmentów danych szkoleniowych. Innym problemem związanym z ujawnieniem prywatnych informacji jest to, że ChatGPT może ujawnić szczegóły dotyczące życia prywatnego znanych osób, w tym niedokładne lub szkodliwe materiały, które mogą zaszkodzić reputacji danej osoby.
Ryzyko związane z ChatGPT: uwaga końcowa
Zagrożenia związane z ChatGPT wzbudziły obawy dotyczące oszukańczych usług, gromadzących niebezpieczne dane Informacja, zwalnianieprywatnydane, produkcjaniewłaściwymateriałi tworzenie destrukcyjnykod. Złośliwi aktorzy mogą wykorzystywać możliwości ChatGPT do cyberataków, generowania obraźliwych treści, złośliwego oprogramowania, rozpowszechniania niemoralnych materiałów, opracowywania niewiarygodnych usług i ujawniania poufnych danych.
Chociaż podjęto wysiłki w celu wyeliminowania tych zagrożeń, potrzebne są ciągłe badania i współpraca w celu ustanowienia skutecznych zabezpieczeń i zapewnienia odpowiedzialnego korzystania z ChatGPT.
Jeśli chcesz dowiedzieć się więcej o sztucznej inteligencji, zapoznaj się z poniższymi artykułami, aby być na bieżąco z szybko rozwijającą się branżą.
- Wyciek OpenAI ujawnia sekrety między tobą a ChatGPT
- Bing Image Creator udostępnia funkcję generowania obrazów za pośrednictwem DALL-E OpenAI
- Midjourney V5 jest tutaj, aby nacieszyć oczy!
Source: Wyeksponowane ryzyko ChatGPT: Zrozumienie potencjalnych zagrożeń
