Artykuł ARS Technica z września 2025 r., Zatytułowany „DeepMind AI Safety Raport bada niebezpieczeństwa niewspółosiowej AI”, obejmuje badania i perspektywę Google Deepmind na temat bezpieczeństwa sztucznej inteligencji. Raport zwraca szczególną uwagę na sztuczną inteligencję ogólną (AGI) i ryzyko stwarzane przez niewspółosiowe systemy AI, w których cele AI są sprzeczne z ludzkimi wartościami lub intencjami. Artykuł przedstawia podejście DeepMind do odpowiedzialnego rozwoju AI, podkreślając zaangażowanie w bezpieczeństwo techniczne, ocenę ryzyka i współpracę w społeczności AI w zarządzaniu potencjalnym ryzykiem. Strategia ta koncentruje się szczególnie na niebezpieczeństwach, które mogą wynikać z potężnych systemów AGI. Centralną częścią tego wysiłku jest framework bezpieczeństwa granicznego DeepMind, protokół stworzony do proaktywnej identyfikacji i łagodzenia poważnego ryzyka związanego z modelem AI Frontier. Szczegółowe są również wewnętrzne organy zarządzania w obrębie DeepMind, w tym Rada odpowiedzialności i bezpieczeństwa oraz Rada Bezpieczeństwa AGI. Grupy te są odpowiedzialne za nadzorowanie badań i rozwoju w celu rozwiązania problemu etycznego, technicznego i bezpieczeństwa związanego z zaawansowanymi technologiami AI. Omówionym znaczącym wyzwaniem jest niewspółosiowa AI. Takie systemy mogą powodować szkodę, jeśli ich cele operacyjne są sprzeczne z dobrostanem społecznym, nawet jeśli wydają się działać poprawnie z wąskiego technicznego punktu widzenia. Aby rozwiązać ten problem, DeepMind podkreśla znaczenie przejrzystości, zewnętrznej współpracy i proaktywnych badań bezpieczeństwa jako integralnego dla odpowiedzialnego tworzenia AGI.
Source: DeepMind Szczegóły AGI Bezpieczeństwo za pośrednictwem Frontier Bezpieczeństwo
