- OpenAI i Microsoft łączą siły w projekcie OpenAI Superalignment. OpenAI uruchomiło program superdopasowania, czteroletni projekt mający na celu zapobieganie sytuacji, w której ryzyko związane z superinteligentnymi systemami sztucznej inteligencji przekracza ludzkie możliwości.
- Program ma na celu zapewnienie, że systemy sztucznej inteligencji są zgodne z ludzkimi wartościami i celami, łagodząc potencjalne zagrożenia związane z apokalipsą sztucznej inteligencji.
- OpenAI aktywnie opowiada się za regulacją sztucznej inteligencji i współpracuje z liderami branży w celu proaktywnego zarządzania bezprecedensowymi zagrożeniami stwarzanymi przez superinteligencję.
Firma OpenAI podjęła znaczny wysiłek, który w zeszłym roku udostępniła najnowocześniejszą generatywną technologię sztucznej inteligencji, która rewolucjonizuje świat, aby zapobiec możliwemu wyginięciu ludzkości, które może być spowodowane przyszłymi postępami.
Firma stoi za czującym chatbotem ChatGPT i wyrafinowanymi modelami języka maszynowego, takimi jak GPT-4. Nawiązał współpracę z Microsoftem, aby zintegrować sztuczną inteligencję z produktami tego ostatniego.
Kierownictwo przewiduje, że dodatkowy rozwój sztucznej inteligencji może doprowadzić do „superinteligencji”, czyli wyrażenia używanego do opisania umiejętności wykraczających poza sztuczną inteligencję ogólną (AGI) lub zdolności sztucznej inteligencji do uczenia się wykonywania wszelkich prac intelektualnych, do których zdolni są ludzie.
Program OpenAI Superalignment ma na celu zapobieganie nieuczciwej superinteligencji
Odsłonięcie OpenAI swój nowy program dostrajania OpenAI. W ramach tego czteroletniego projektu powstanie nowy zespół, który ma zapewnić, że systemy sztucznej inteligencji, które są znacznie inteligentniejsze od ludzi, są zgodne z ludzkimi celami, zapobiegając scenariuszowi apokalipsy sztucznej inteligencji, który został przedstawiony w kilku filmach i książkach.
Ponieważ wszystkie istniejące metody dopasowywania sztucznej inteligencji zależą od tego, czy ludzie są w stanie nadzorować sztuczną inteligencję, czego zdaniem ekspertów nie mogą niezawodnie wykonywać w przypadku systemów sztucznej inteligencji, które są znacznie inteligentniejsze niż ich przełożeni, dzisiejszy post twierdzi, że nie istnieją żadne metody kierowania lub kontrolowania potencjalnie superinteligentną sztuczną inteligencję i zapobiec jej zbuntowaniu się.
Główne ogłoszenie push następuje później wpis z 2022r który opisywał badania nad dostosowaniem firmy, aby pomóc ludziom w opanowaniu nieuczciwej technologii. AGI, temat tego postu, został teraz zastąpiony przez superinteligencję.
Pchnięcie superdopasowania Open AI ma na celu stworzenie badacza automatycznego dopasowywania o możliwościach zbliżonych do ludzkiego, po czym korporacja będzie mogła skalować swoje kolejne wysiłki i iteracyjnie dopasowywać superinteligencję przy użyciu ogromnych ilości obliczeń.
Firma stwierdziła: „Aby zestroić pierwszego zautomatyzowanego badacza osiowania, będziemy musieli 1) opracować skalowalną metodę szkolenia, 2) zweryfikować wynikowy model i 3) przeprowadzić testy warunków skrajnych całego naszego potoku osiowania”, omawiając te obawy w następujący sposób:
- Możemy wykorzystywać systemy sztucznej inteligencji do wspomagania nadzoru nad innymi systemami sztucznej inteligencji, aby oferować sygnał szkoleniowy dotyczący czynności, które są trudne do oceny przez ludzi. Ponadto chcemy zrozumieć i mieć wpływ na to, w jaki sposób nasze modele rozszerzają nasz nadzór na zadania, których nie jesteśmy w stanie monitorować.
- Automatyzujemy wyszukiwanie problematycznych zachowań (odporność) i problematycznych elementów wewnętrznych (zautomatyzowana interpretacja), aby sprawdzić, czy nasze systemy są ze sobą zgodne.
- Wreszcie, możemy przetestować cały potok, celowo szkoląc niewspółosiowe modele i sprawdzając, czy nasze metody dokładnie identyfikują najgorsze możliwe niewspółosiowości.
Oprócz przydzielenia 20% swoich zasobów obliczeniowych w ciągu najbliższych czterech lat, firma poinformowała, że tworzy zespół elitarnych naukowców i inżynierów zajmujących się uczeniem maszynowym, aby zająć się kwestią dostosowania superinteligencji. Ponadto zatrudnia dodatkowy personel do tego przedsięwzięcia, w tym menedżerów, naukowców i inżynierów badawczych.
OpenAI opowiada się za regulacjami w zakresie sztucznej inteligencji wśród liderów branży
Koncern stwierdził dziś, że jest nadzieja na rozwiązanie problemu, mimo że jest to bardzo ambitny cel i nie ma gwarancji powodzenia. „Aby twierdzić, że problem został rozwiązany, społeczność zajmująca się uczeniem maszynowym i bezpieczeństwem musi zostać przekonana danymi i rozumowaniem.
Jeśli nie mamy zbytniej wiary w nasze odpowiedzi, mamy nadzieję, że nasze wyniki pomogą nam i społeczności odpowiednio zaplanować. Dysponujemy szeroką gamą teorii, które okazały się obiecujące we wczesnych badaniach, i możemy wykorzystać obecne modele do empirycznego zbadania wielu z tych zagadnień.
Na stronach typu Wiadomości hakerskie, gdzie obecnie toczy się debata na temat ogromnego pchnięcia, najpopularniejsza uwaga brzmi: „Z punktu widzenia laika, jeśli chodzi o najnowocześniejszą sztuczną inteligencję, nie mogę się powstrzymać od zniechęcenia przez niektóre kopie. Aby zagrożenia wydawały się jeszcze większe i aby zasugerować, że opracowywana technologia jest naprawdę najnowocześniejsza, wydaje się, że celowo nie można używać bujnego języka. 
Inicjatywa OpenAI Superalignment: (Kredyt wizerunkowy)Nieoczekiwanie OpenAI, korporacja odpowiedzialna głównie za niedawną falę ostrzeżeń o zagrożeniach egzystencjalnych dotyczących sztucznej inteligencji, głośno ostrzegała opinię publiczną o tych zagrożeniach i opowiadała się za regulacjami dotyczącymi sztucznej inteligencji wraz z kilkoma innymi czołowymi liderami i grupami branżowymi.
Według kierowników OpenAI, Sama Altmana, Grega Brockmana i Ilyi Sutskever, superinteligencja będzie potężniejsza niż poprzednie technologie, z którymi ludzkość miała do czynienia w przeszłości. „Możemy mieć znacznie bogatszą przyszłość, ale aby się do niej dostać, musimy zarządzać ryzykiem. Nie możemy po prostu reagować, gdy zagrożenie egzystencjalne jest możliwe.
Historycznym przykładem technologii posiadającej taką jakość jest energia jądrowa, podczas gdy inną jest biologia syntetyczna. Musimy również zmniejszyć zagrożenia stwarzane przez obecne technologie sztucznej inteligencji, ale superinteligencja będzie wymagała szczególnej uwagi i współpracy.
Przed wyjazdem możesz przeczytać nasz artykuł o Humata AI.
Kredyt na wyróżniony obraz: otwórz
Source: Inicjatywa OpenAI Superalignment: zapewnienie bezpiecznego i spójnego rozwoju sztucznej inteligencji
