Cohere, kanadyjska firma AI, wprowadziła North, nową platformę agentów AI, zaprojektowana w celu rozwiązania problemów związanych z krytycznymi problemami bezpieczeństwa danych, które utrudniły przyjęcie narzędzi AI w dużych przedsiębiorstwach, wysoce regulowanych branżach i agencjach rządowych. Głównym obawą wśród organizacji było potencjał nieumyślnego kompromisu lub wykorzystania ich własnych lub klientów do szkolenia modeli fundamentalnych.
Podstawowa propozycja wartości North polega na jego zdolności do prywatnego wdrożenia, umożliwiając przedsiębiorstwa i rządom na bezpieczne utrzymanie danych ich i klientów za własnymi zaporami ogniowymi. Nick Frosst, współzałożyciel Cohere, podkreślił to podczas demonstracji, stwierdzając: „LLM są tak dobre, jak dane, do których mają dostęp. Jeśli chcemy, aby LLM były tak przydatne, jak to możliwe, muszą uzyskać dostęp do tych użytecznych danych, a to oznacza, że należy je wdrażać [the customer’s] środowisko.”
W przeciwieństwie do rozwiązań opartych na publicznych platformach chmurowych przedsiębiorstw, takich jak Azure lub AWS, COHERE zapewnia, że Północ może być zainstalowana bezpośrednio w prywatnej infrastrukturze organizacji. Zapewnia to, że córe nigdy nie uzyskuje dostępu do danych klientów ani nie wchodzi w interakcje. North obsługuje różne środowiska wdrażania, w tym infrastrukturę lokalną, chmury hybrydowe, wirtualne prywatne chmury (VPC) i środowiska powietrzne. Frosst dodatkowo podkreślił wydajność North, zauważając, że inżynieria działała na zaledwie dwóch GPU, stwierdzając: „Możemy dosłownie wdrożyć na GPU w szafie, którą mogą gdzieś mieć”.
Aby wzmocnić swoje roszczenia dotyczące bezpieczeństwa, Cohere stwierdza, że North zawiera kilka solidnych protokołów bezpieczeństwa. Obejmują one ziarnistą kontrolę dostępu, zasady autonomii agenta, ciągłe czerwone drużyny i testy bezpieczeństwa stron trzecich. Ponadto North jest zaprojektowany tak, aby przestrzegać rygorystycznych międzynarodowych standardów zgodności, takich jak RODO, SOC-2 i ISO 27001.
Cohere, który zebrał łącznie 970 milionów dolarów, a ostatnio został wyceniony na 5,5 miliarda dolarów, już zainicjował programy pilotażowe dla Północnej z kilkoma wybitnymi klientami. Należą do nich RBC, Dell, LG, Ensemble Health Partners i, jak wcześniej informowali TechCrunch, Palantir.
Funkcjonalnie North oferuje funkcje wspólne dla wielu platform agentów AI, a jej podstawowe możliwości koncentrowały się wokół czatu i wyszukiwania. Funkcje te umożliwiają użytkownikom skuteczne obsługę zapytań obsługi klienta, podsumowanie transkryptów spotkania, generowanie kopii marketingowej i dostępu do informacji zarówno z zasobów wewnętrznych, jak i sieci. Kluczową funkcją przejrzystości podkreślonej przez Frosst jest to, że wszystkie odpowiedzi generowane przez North obejmują cytaty i łańcuchy myśli „rozumowania”, umożliwiające pracownikom kontrolę i weryfikację wyników dokładności i odpowiedzialności.
Funkcje czatu i wyszukiwania na północy są zasilane istniejącymi zastrzeżonymi technologiami: dowództwem, rodziną generatywnych modeli AI i kompasu, multimodalnego stosu technologii wyszukiwania. Frosst wyjaśnił, że North wykorzystuje wyspecjalizowany wariant modelu poleceń, specjalnie przeszkolony w zakresie rozumowania przedsiębiorstw. Oprócz standardowych pytań i odpowiedzi, Północ jest przeznaczona do tworzenia aktywów, zdolnych do generowania tabel, dokumentów i slajdów oraz przeprowadzania badań rynku. Ta ostatnia zdolność jest wzmacniana przez przejęcie przez COHERE Ottogrid w maju, platformie opartej na Vancouver specjalizującej się w automatyzacji badań rynku wysokiego szczebla dla przedsiębiorstw.
Podobnie jak inne zaawansowane platformy agentów AI, North oferuje obszerne możliwości integracji ze wspólnymi narzędziami pracy. Może płynnie łączyć się z aplikacjami takimi jak Gmail, Slack, Salesforce, Outlook i Linear. Ponadto North może zintegrować z dowolnymi serwerami protokołu kontekstowego modelu (MCP), umożliwiając dostęp do aplikacji specyficznych dla branży lub wewnętrznych, co dodatkowo zwiększając jego użyteczność w różnych środowiskach przedsiębiorstwa. Frosst zauważył progresję interakcji użytkownika z platformą, obserwując: „Gdy budujesz pewność siebie, rozmawiając z modelem, istnieje płynne przejście, które dzieje się między użyciem tego jako powiększania do wykorzystania go jako automatyzacji”.
Source: COHEHE wymyśla się na północ, aby uzyskać bezpieczne wdrożenia AI
