Anthropic zaprezentował podgląd badań Claude dla Chrome, agenta AI opartego na przeglądarce napędzany jego modelami Claude AI. Ogłoszenie, złożone we wtorek, oznacza przeprowadzkę Anthropica do konkurencyjnego krajobrazu zintegrowanych przeglądarków AI-zintegrowanych.
Początkowe wdrożenie Claude dla Chrome jest ograniczone do 1000 subskrybentów w planie MAX, który kosztuje miesięczny koszt od 100 do 200 USD. Firma ustanowiła również listę oczekujących, aby uwzględnić innych użytkowników wyrażających zainteresowanie dostępem do agenta AI.
Instalując dedykowane rozszerzenie Chrome, wybrani użytkownicy zyskują możliwość interakcji z Claude przez okno SideCar. Ta integracja pozwala Claude’owi zachować świadomość aktywności i kontekstu przeglądarki użytkownika. Ponadto użytkownicy mają możliwość udzielenia zgody Claude’a na wykonywanie działań w swojej przeglądarce, skutecznie przekazując niektóre zadania agentowi AI.
Integracja sztucznej inteligencji z przeglądarkami internetowymi pojawia się jako kluczowy obszar konkurencji między laboratoriami AI. Firmy starają się tworzyć bardziej płynne połączenia między systemami AI a użytkownikami poprzez integrację przeglądarki. Kłopot niedawno uruchomił Comet, własną przeglądarkę z agentem AI zaprojektowanej, aby pomóc użytkownikom w różnych zadaniach. Openai podobno zbliża się również do wprowadzenia przeglądarki napędzanej AI, która ma zapewnić podobne funkcje komety. Google wprowadził również integrację Gemini z Chrome.
Rosnące zainteresowanie przeglądarkami napędzanymi AI jest dodatkowo napędzane trwającym sprawą antymonopolową Google. Ostateczna decyzja w tej sprawie jest wkrótce przewidziana, a przewodniczący sędzia federalny wskazał, że Google zniósł chromowaną przeglądarkę. W odpowiedzi na ten potencjalny wynik zakłopotanie przedłożyło niezamówioną ofertę 34,5 miliarda dolarów na przejęcie Chrome. Sama Altman, dyrektor generalny Openai, wyraził również zainteresowanie swojej firmy potencjalnym nabyciem przeglądarki.
Post na blogu Anthropic we wtorek zajął się potencjalnym zagrożeniami bezpieczeństwa związanym z agentami AI posiadającymi dostęp do przeglądarki. W ubiegłym tygodniu zespół bezpieczeństwa Brave’a zidentyfikował podatność na agenta przeglądarki Comet, co wskazuje na podatność na pośrednie ataki wtrysku. Ataki te obejmują złośliwy kod osadzony w stronach internetowych, które mogłyby manipulować agentem do wykonywania niezamierzonych instrukcji po przetwarzaniu strony.
Szef komunikacji zakłopotania, Jesse Dwyer, stwierdził, że podatność podniesiona przez Brave została rozwiązana. Antropic podkreślił swoje zaangażowanie w rozwiązywanie problemów bezpieczeństwa za pośrednictwem programu podglądu badań. Firma wdrożyła już obronę przed szybkimi atakami wtrysku, zgłaszając zmniejszenie wskaźnika powodzenia takich ataków z 23,6% do 11,2%.
Użytkownicy mają możliwość ograniczenia dostępu do agenta przeglądarki Claude do określonych witryn za pośrednictwem ustawień aplikacji. Anthropic wdrożył również domyślne ograniczenia, uniemożliwiając Claude dostęp do stron internetowych oferujących usługi finansowe, treści dla dorosłych lub pirackie materiały. Ponadto agent przeglądarki Claude został zaprojektowany w celu żądania zgody użytkownika przed podjęciem „działań wysokiego ryzyka, takich jak publikowanie, zakup lub udostępnianie danych osobowych”.
Eksploracja modeli AI przez Anthropic zdolnych do kontrolowania ekranów komputerowych pochodzi z października 2024 r., Wraz z uruchomieniem agenta AI, który może kontrolować komputer. Jednak wstępne testy ujawniły ograniczenia pod względem szybkości i niezawodności. Od tego czasu uległy poprawie możliwości agencyjnych modeli AI. Współczesne agenci AI użytkowników przeglądarki, takie jak Comet i Chatgpt Agent, wykazują większą niezawodność w wykonywaniu prostych zadań. Jednak wiele systemów agencyjnych nadal staje przed wyzwaniami z bardziej złożonymi problemami.
