Nvidia przoduje w innowacjach dzięki Nvidia Chat z RTX AI. W czasach, gdy technologia sztucznej inteligencji rozwija się w niespotykanym dotąd tempie, ta rewolucyjna aplikacja demonstracyjna pozwala użytkownikom personalizować własnego chatbota obsługiwanego przez model dużego języka (LLM) powiązanego z ich osobistymi treściami.
Wykorzystując generację wspomaganą wyszukiwaniem (RAG), TensorRT-LLM i akcelerację RTX, Chat with RTX AI zapewnia szybki i bezpieczny dostęp do odpowiedzi istotnych kontekstowo. Oto, co wiemy.
Co to jest Nvidia Chat z RTX AI?
Nvidia Chat with RTX AI to aplikacja demonstracyjna, która pozwala użytkownikom stworzyć własnego chatbota dostosowanego do ich konkretnych potrzeb i preferencji. Użytkownicy mogą wysyłać zapytania do chatbotów, korzystając z ich własnych treści, takich jak dokumenty, notatki, filmy lub inne dane, i uzyskiwać szybkie i dokładne odpowiedzi. Jest to możliwe dzięki integracji akceleracji RAG, TensorRT-LLM i RTX, które jednocześnie zapewniają płynną i wydajną obsługę sztucznej inteligencji.
Jak działa Nvidia Chat z RTX AI?
Nvidia Chat z RTX AI łączy lokalną zawartość użytkowników z oprogramowaniem LLM typu open source, takim jak Mistral lub Llama 2. Dzięki temu użytkownicy mogą zadawać pytania kontekstowe i uzyskiwać odpowiednie odpowiedzi bez konieczności korzystania z połączenia internetowego lub usług w chmurze. Aplikacja obsługuje różne formaty plików, takie jak .txt, .pdf, .doc/.docx i .xml, a także może integrować informacje z filmów i list odtwarzania z YouTube.
Użytkownicy mogą wpisywać zapytania, takie jak „Jak nazywał się sklep muzyczny w Kalifornii, który polecił mi mój partner?” a Czat z RTX AI przeskanuje pliki lokalne i poda odpowiedź wraz z kontekstem. Ten spersonalizowany chatbot jest idealny do różnych zastosowań, takich jak badania, edukacja i obsługa klienta.
Nvidia Chat z wymaganiami systemowymi RTX AI
Wymagania systemowe możesz zobaczyć w tabeli, którą dla Ciebie przygotowaliśmy poniżej:
| PLATFORMA | Okna |
| GPU | NVIDIA GeForce Karta graficzna RTX z serii 30 lub 40 lub NVIDIA RTX Karta graficzna Ampere lub Ada z co najmniej 8 GB pamięci VRAM |
| Baran | 16 GB lub więcej |
| system operacyjny | Windows 11 |
| KIEROWCA | 535.11 lub nowszy |
Korzyści z Nvidia Chat z RTX AI
Jedną z kluczowych zalet Chat with RTX AI jest jego szybkie i bezpieczne działanie. Ponieważ aplikacja działa natywnie na komputerach i stacjach roboczych z systemem Windows RTX, użytkownicy mogą uzyskać szybki i wydajny dostęp do swoich danych bez polegania na usługach opartych na chmurze. Jest to szczególnie przydatne dla tych, którzy muszą obchodzić się z wrażliwymi danymi, ponieważ pozostają one na ich urządzeniach i nie są udostępniane osobom trzecim.
Kolejną zaletą czatu z RTX AI jest to, że może dostarczać odpowiedzi odpowiednie kontekstowo. W przeciwieństwie do tradycyjnych chatbotów, które często opierają się na predefiniowanych odpowiedziach, Chat with RTX AI wykorzystuje generowanie o zwiększonym zasięgu, aby tworzyć odpowiedzi na podstawie konkretnego zapytania użytkownika.
Tworzenie aplikacji opartych na LLM za pomocą RTX
Czat z RTX AI jest zbudowany na podstawie projektu referencyjnego dla programistów TensorRT-LLM RAG dostępnego w GitHub. Projekt ten zapewnia programistom kompleksową platformę do tworzenia własnych aplikacji opartych na RAG, akcelerowanych za pomocą TensorRT-LLM dla RTX. Mając potencjał zrewolucjonizowania sposobu interakcji ze sztuczną inteligencją, konwersacja RTX z sztuczną inteligencją stanowi ekscytujący rozwój w świecie generatywnej sztucznej inteligencji.
Dołącz do wyzwania NVIDIA Productive AI Developer Challenge na platformie NVIDIA RTX
Aby zachęcać do innowacyjności i kreatywności w dziedzinie generatywnej sztucznej inteligencji, Nvidia jest gospodarzem NVIDIA Generative AI w konkursie dla programistów NVIDIA RTX. Konkurs trwa do piątku, 23 lutego i zaprasza programistów do tworzenia własnych aplikacji opartych na LLM, akcelerowanych za pomocą TensorRT-LLM dla RTX. Uczestnicy mogą przesyłać swoje zgłoszenia, aby zyskać szansę na wygranie ekscytujących nagród, w tym karty graficznej GeForce RTX 4090, pełnego biletu na konferencję do NVIDIA GTC i nie tylko.
Czat z RTX AI to przełomowa aplikacja demonstracyjna, która prezentuje potencjał spersonalizowanych chatbotów obsługiwanych przez sztuczną inteligencję NVIDIA RTX. Dzięki szybkiemu i bezpiecznemu działaniu, odpowiedziom dostosowanym do kontekstu oraz możliwości integracji z różnymi formatami plików i filmami z YouTube, Chat with RTX AI stanowi ekscytujący rozwój w świecie generatywnej sztucznej inteligencji.
Autor wyróżnionego obrazu: NVIDIA
Source: RTX przedstawia niestandardowe rozwiązanie chatbota dla komputerów Nvidia RTX AI