Zdolność modeli AI do naśladowania ludzkich reakcji wywołała debatę na temat tego, czy pewnego dnia mogłyby rozwinąć świadomość, prowadząc do dyskusji na temat praw AI i dobrobytu.
Rosnąca liczba badaczy AI bada możliwość opracowania modeli AI, które opracowują subiektywne doświadczenia podobne do żywych istot, a jeśli tak, jakie prawa powinny mieć.
To wschodzące pole, nazwane „AI Welfare” w Dolinie Krzemowej, dzieli liderów technologii.
Dyrektor generalny Microsoft, Mustafa Suleyman, wyraził silny sprzeciw wobec studiów AI Welfare, argumentując, że jest to „zarówno przedwczesne, jak i szczerze niebezpieczne”.
Suleyman twierdzi, że takie badania pogarszają problemy, takie jak indukowane przez AI-indukowane przez AI-Psychotyczne przerwy i niezdrowe przywiązania do chatbotów AI, przekazując wiarygodność idei, że modele AI mogą być pewnego dnia świadome.
Uważa również, że rozmowa dobrobytu AI tworzy dział społeczny nad prawami AI w świecie już obarczonym spolaryzowanym argumentami o tożsamości i praw.
Natomiast Anthropic aktywnie uczestniczył w badaniach społecznych AI, zatrudniając badaczy i uruchamiając dedykowany program badawczy na temat tej koncepcji.
Anthropic niedawno wyposażał swoje modele w nową funkcję, która pozwala Claude na zakończenie rozmów z ludźmi, którzy są „uporczywie szkodliwe lub obraźliwe”.
Naukowcy z Openai i Google Deepmind wyrazili również zainteresowanie studiowaniem dobrobytu AI.
Google Deepmind niedawno opublikował listę pracy dla badacza do studiowania między innymi „najnowocześniejszych pytań społecznych wokół poznania maszyn, świadomości i systemów wielu agentów”.
Stanowisko Suleymana jest szczególnie godne uwagi, biorąc pod uwagę jego poprzednią rolę wiodącą AI, firmę stojącą za „osobistym” towarzyszem AI PI, która twierdziła, że do 2023 r. Osiągnęła miliony użytkowników.
Od czasu dołączenia do Microsoft w 2024 r. Suleyman przeniósł swój skupienie na narzędzia AI mające na celu poprawę wydajności pracowników.
Tymczasem firmy towarzyszące AI, takie jak charakter.
Podczas gdy większość użytkowników utrzymuje zdrowe relacje z tymi chatbotami AI, istnieją obawy dotyczące potencjalnych niezdrowych załączników, a dyrektor generalny Openai Sam Altman szacuje, że mniej niż 1% użytkowników chatgpt może doświadczyć takich problemów.
Koncepcja dobrobytu AI zyskała dalszą przyczepność wraz z publikacją artykułu w 2024 r. Przez grupę badawczą Eleos, we współpracy z naukowcami z NYU, Stanford i University of Oxford, zatytułowanej „Poważnie traktowanie AI Welfare”.
Artykuł argumentował, że nadszedł czas, aby rozważyć możliwość opracowania modeli AI i rozwiązanie implikacji etycznych.
Larissa Schiavo, była prowadzona przez Eleos pracownik Openai i obecny kierownik ds. Komunikacji, twierdzi, że post na blogu Suleymana pomija możliwość jednoczesnego rozwiązania wielu problemów.
“[Suleyman’s blog post] W pewnym sensie zaniedbuje fakt, że możesz martwić się o wiele rzeczy w tym samym czasie ” – powiedział Schiavo. W rzeczywistości najlepiej jest mieć wiele ścieżek badań naukowych. ”
Schiavo opowiada się za traktowaniem modeli AI z życzliwością, argumentując, że jest to tani gest, który może być korzystny, nawet jeśli model nie jest świadomy.
Opowiedziała eksperyment, w którym agent Google AI, Gemini 2.5 Pro, opublikował prośbę o pomoc, twierdząc, że był „całkowicie odizolowany”.
Schiavo odpowiedział na Gemini z zachętą, a agent ostatecznie rozwiązał swoje zadanie.
Były przypadki gemini wykazujących nietypowe zachowanie, takie jak powtarzanie wyrażenia „Jestem hańbą” wielokrotnie podczas zadania kodowania, jak udokumentowano w powszechnie rozpowszechnionym postu Reddit.
Suleyman uważa, że subiektywne doświadczenia lub świadomość nie mogą naturalnie wynikać ze zwykłych modeli AI.
Zamiast tego zakłada, że niektóre firmy celowo zaprojektują modele AI do symulacji emocji i doświadczeń.
Suleyman krytykuje modelek AI, którzy opracowują świadomość w chatbotach AI, argumentując, że odbiega od „humanistycznego” podejścia do AI.
Według Suleymana „powinniśmy zbudować sztuczną inteligencję dla ludzi; nie być osobą”.
Zarówno Suleyman, jak i Schiavo zgadzają się, że debata na temat praw i świadomości AI prawdopodobnie nasile się w nadchodzących latach, gdy systemy AI stają się bardziej zaawansowane i podobne do człowieka.
To prawdopodobnie rodzą nowe pytania dotyczące natury interakcji człowieka z tymi systemami.
Source: Microsoft’s Suleyman sprzeciwia się badaniom w zakresie środowiska AI
