Nadchodząca aktualizacja AI do iOS 18 wywołuje emocje, ze szczególnym naciskiem na lokalnie działające modele LLM „na urządzeniu”.
Raporty sugerują, że aktualizacja wprowadzi nowe funkcje sztucznej inteligencji oparte na modelu dużego języka (LLM) opracowanym przez Apple „w całości na urządzeniu”.
Przetwarzanie na urządzeniu zapewnia użytkownikom iPhone’a i iPada znaczne korzyści w zakresie prywatności i szybkości.
LLM stojący za funkcjami AI w iOS 18
LLM to złożony system sztucznej inteligencji szkolony na ogromnych ilościach danych tekstowych. Szkolenie to pozwala LLM rozumieć język i reagować na niego w sposób naśladujący ludzką rozmowę.
Te funkcje sztucznej inteligencji w nadchodzącej aktualizacji iOS 18 będą wykorzystywać LLM do wykonywania różnych zadań, takich jak generowanie tekstu, tłumaczenie języków, a nawet tworzenie różnych kreatywnych treści.
Co ciekawe, doniesienia z 9 do 5Mac odkrył odniesienia do kodu w iOS 17.4, które wskazywały na model na urządzeniu o nazwie kodowej „Ajax”. Sugeruje to, że Apple pracował nad tą technologią już od jakiegoś czasu, być może jeszcze przed obecną aktualizacją. Ponadto raporty wskazują, że Apple może również opracowywać wersje Ajax hostowane na serwerze, obok modelu na urządzeniu.
Dlaczego przetwarzanie na urządzeniu dla funkcji AI iOS 18?
Tradycyjnie funkcje sztucznej inteligencji na urządzeniach mobilnych opierają się na LLM w chmurze. Oznacza to, że dane użytkownika muszą zostać przesłane do zdalnych serwerów w celu przetworzenia. Decyzja Apple o opracowaniu LLM na urządzeniu sugeruje odejście od tego podejścia.
Takie podejście na urządzeniu ma dwie kluczowe zalety:
- Zwiększona prywatność: Przechowując dane użytkownika na samym urządzeniu, Apple może mieć pewność, że poufne informacje pozostaną na telefonie lub tablecie, a nie zostaną przesłane do chmury. Może to być szczególnie atrakcyjne dla użytkowników obawiających się o prywatność danych dzięki nowym funkcjom sztucznej inteligencji.
- Zwiększona prędkość: Przetwarzanie danych na samym urządzeniu może być znacznie szybsze niż wysłanie ich na zdalny serwer i oczekiwanie na odpowiedź. Może to zapewnić bardziej responsywną i płynną obsługę funkcji opartych na sztucznej inteligencji w nadchodzącej aktualizacji.
Konkretne szczegóły dotyczące LLM na urządzeniu Apple są nadal objęte tajemnicą. Jednak według Marka Gurmana w „Zasilanie włączone”, moc obliczeniowa potrzebna do uruchomienia LLM może ograniczyć jego możliwości do nowszych modeli iPhone’a, prawdopodobnie iPhone’a 16 i nowszych.
Warto również zauważyć, że Apple może w przyszłości nadal wykorzystywać sztuczną inteligencję opartą na chmurze do niektórych funkcji. Z raportów wynika, że w ramach aktualizacji mogą rozważać współpracę z firmami takimi jak Google czy Baidu, aby wykorzystać wielkoskalową infrastrukturę sprzętową do konkretnych zadań AI opartych na chmurze.
To wciąż rozwijająca się historia. Prawdopodobnie dowiemy się więcej o LLM na urządzeniu Apple i jego możliwościach, gdy nowa aktualizacja iOS zostanie oficjalnie zaprezentowana, najprawdopodobniej podczas WWDC w czerwcu 2024 r.
Autor wyróżnionego obrazu: Ryszard Hadiwijaya/Usuń rozpryski
Source: Gurman raportuje: iOS 18 AI będzie zawierał LLM „na urządzeniu”.