Start -upa infrastruktura sztucznej inteligencji Protokół koralowy Uważa, że większy nie zawsze jest lepszy, jeśli chodzi o skalowanie agentów AI. Startup właśnie zebrał nowy wynik rekordu w popularnym Benchmark Gaiawykazując, że możliwe jest zwiększenie wydajności agentów AI za pomocą architektury opartej na „inteligentnej orkiestracji”, zamiast rzucić za nimi większą moc obliczeniową.
Protokół koralowca otwartego source koncentruje się na idei skalowania poziomego jako środka do podniesienia algorytmów AI wykraczających poza to, co zwykle są zdolne, w przeciwieństwie do dominującej mądrości w branży, że więcej parametrów odpowiada lepszym wynikom.
Podczas gdy tacy jak Openai, Google i Microsoft Corp. ciężko pracują nad opracowywaniem coraz mocniejszych modeli dużych języków, Coral uważa, że możliwe jest osiągnięcie tych samych wyników przy użyciu modeli małych języków i bezpiecznej koordynacji wieloagentowej. A teraz ma wyniki porównawcze, aby poprzeć te roszczenia.
System agenta Corala został opracowany specjalnie dla testu porównawczego GAIA, który jest jednym z najczęściej rozpoznawanych testów w celu pomiaru zdolności agencyjnych systemów AI do rozwiązywania zadań rzeczywistych, które zajęłyby wiele godzin, aby ludzie mogli wykonać. Test GAIA składa się z 450 pytań podatkowych zaprojektowanych w celu oceny zdolności systemu AI do działania jako „asystent ogólnego zastosowania”, powiedział Coral, i można im tylko odpowiedzieć, przeprowadzając intensywne badania, dokładnie analizując dane i uzasadniając wyciąganie wniosków.
Według Coral system Agent GAIA oparty jest na open source, wieloagencyjnej ramach o nazwie SOWAktóry oznacza „zoptymalizowane uczenie się siły roboczej. Opracowane przez społeczność Camel-AI, Owl jest zaprojektowany do automatyzacji złożonych zadań poprzez koordynację dziesiątek wyspecjalizowanych agentów AI, aby działały jako zespół. Zamiast jednego, monolitycznego LLM wykonującego każde zadanie lub krok wymagany do rozwiązania problemu, to zamiast tego przekazuje te zadania na różnych agentach, każdy posiada własne i uzbrojone własne narzędzia i specjalistyczne umiejętności.
System Coral składa się z licznych agentów AI specjalizujących się w zadaniach, takich jak planowanie, rozwiązywanie problemów, znalezienie odpowiedzi, krytyka, analiza obrazu, zapewnienie pomocy, wyszukiwanie informacji, przeglądania stron internetowych i analizy wideo. Rozmawiają ze sobą przy użyciu narzędzi komunikacyjnych opartych na protokole kontekstu Coral Protocol.
Wyniki osiągnięte przez nowatorski system Coral ilustrują prawdę stojącą za starym powiedzeniem, że „wiele głów jest lepszych niż jeden” osiągnięte Wynik rekordowy w Benchmark GAIA, przekraczając poprzedni najlepszy wynik agenta Magnety-UI Microsoft o 34%.
Współzałożyciel Coral i dyrektor ds. Technologii Caelum Forder powiedział, że przemysł AI nie będzie miał innego wyjścia, jak zwrócić uwagę na wyniki osiągnięte przez system agentów GAIA. „Rola małych modeli w systemach agencyjnych została do tej pory podkreślona, ale pływy zaczynają się obracać” – obiecał.
Wydajność koralowa potwierdza wcześniejszą hipotezę Nvidia Corp., która przedłożyła papier W czerwcu stwierdzając, że przyszłość agentów AI leży w SLM w połączeniu z inteligentną orkiestracją, a nie samodzielnymi LLM. Bez wątpienia Google, Microsoft i Openai mogą teraz zacząć ponownie rozważyć swoje obecne strategie, które koncentrują się na szkoleniu coraz bardziej potężnych LLM, gdy ścigają się, aby rozwijać „sztuczną inteligencję ogólną”.
Forder dodał, że skalowanie poziome jest nie tylko możliwe, ale także bardziej praktyczne, ponieważ mniejsze modele AI zużywają znacznie mniejszą moc niż LLM. „Internet agentów jest teraz rzeczywistością działającą” – kontynuował. „Jeśli jesteś programistą agentów, po prostu to koralowność, a jeśli jesteś programistą aplikacji, zbuduj go lepiej za pomocą naszej infrastruktury”.
Coral powiedział, że jego infrastruktura oparta na wykresach można zastosować do dowolnego systemu AI i otwiera drzwi dla każdego, aby stworzyć niezwykle potężnych agentów AI na podstawie lekkiej architektury. Oznacza to agenci AI, które mogą obsługiwać więcej danych, integrują się z innymi systemami i generować lepsze wyniki, bez nadmiernych kosztów związanych z uruchamianiem LLM.
