Nvidia loopt voorop op het gebied van innovatie met Nvidia Chat met RTX AI. In een tijd waarin AI-technologie zich in een ongekend tempo ontwikkelt, stelt deze revolutionaire demo-app gebruikers in staat hun eigen chatbot te personaliseren, aangedreven door een groot taalmodel (LLM) dat is gekoppeld aan hun persoonlijke inhoud.
Door gebruik te maken van Retrieval-Augmented Generation (RAG), TensorRT-LLM en RTX-versnelling, biedt Chat met RTX AI snelle en veilige toegang tot contextueel relevante antwoorden. Dit is wat we weten.
Wat is Nvidia Chat met RTX AI?
Nvidia Chat met RTX AI is een demo-app waarmee gebruikers hun eigen aangepaste chatbot kunnen maken, afgestemd op hun specifieke behoeften en voorkeuren. Gebruikers kunnen chatbots bevragen met behulp van hun eigen inhoud, zoals documenten, notities, video’s of andere gegevens, en snelle en nauwkeurige antwoorden krijgen. Het wordt mogelijk gemaakt door RAG-, TensorRT-LLM- en RTX-versnelling te integreren, die tegelijkertijd een naadloze en efficiënte AI-ervaring bieden.
Hoe werkt Nvidia Chat met RTX AI?
Nvidia Chat met RTX AI werkt door de lokale inhoud van gebruikers te verbinden met een open-source LLM zoals Mistral of Llama 2. Hierdoor kunnen gebruikers contextuele vragen stellen en relevante antwoorden krijgen zonder de noodzaak van een internetverbinding of cloudgebaseerde services. De app ondersteunt verschillende bestandsformaten zoals .txt, .pdf, .doc/.docx en .xml en kan ook informatie uit YouTube-video’s en afspeellijsten integreren.
Gebruikers kunnen vragen typen zoals ‘Wat was de naam van de muziekwinkel die mijn partner in Californië heeft aanbevolen?’ en Chat met RTX AI scant lokale bestanden en geeft het antwoord van context. Deze gepersonaliseerde chatbot is perfect voor verschillende toepassingen, zoals onderzoek, onderwijs en klantenservice.
Nvidia Chat met RTX AI-systeemvereisten
U kunt de systeemvereisten zien in de tabel die wij hieronder voor u hebben opgesteld:
| PLATFORM | ramen |
| GPU | NVIDIA GeForce RTX 30- of 40-serie GPU of NVIDIA RTX Ampere of Ada Generation GPU met minimaal 8 GB VRAM |
| RAM | 16 GB of meer |
| Besturingssysteem | Windows 11 |
| BESTUURDER | 535.11 of hoger |
Voordelen van Nvidia Chat met RTX AI
Een van de belangrijkste voordelen van Chat met RTX AI zijn de snelle en veilige prestaties. Omdat de applicatie native op Windows RTX-pc’s en -werkstations draait, hebben gebruikers snel en efficiënt toegang tot hun gegevens zonder afhankelijk te zijn van cloudgebaseerde services. Het is vooral handig voor degenen die met gevoelige gegevens moeten omgaan, omdat deze op hun apparaten blijven en niet met derden worden gedeeld.
Een ander voordeel van Chat met RTX AI is dat het contextueel relevante antwoorden kan leveren. In tegenstelling tot traditionele chatbots, die vaak afhankelijk zijn van vooraf gedefinieerde antwoorden, maakt Chat met RTX AI gebruik van bereikverbeterde generatie om antwoorden te creëren op basis van de specifieke vraag van de gebruiker.
Op LLM gebaseerde applicaties bouwen met RTX
Chat met RTX AI is gebouwd op basis van het TensorRT-LLM RAG referentieproject voor ontwikkelaars dat beschikbaar is op GitHub. Dit project biedt ontwikkelaars een uitgebreid raamwerk waarmee ze hun eigen op RAG gebaseerde applicaties kunnen bouwen, versneld met TensorRT-LLM voor RTX. Met het potentieel om een revolutie teweeg te brengen in de manier waarop we omgaan met AI, is RTX Conversation with AI een opwindende ontwikkeling in de wereld van generatieve AI.
Doe mee aan de NVIDIA Productive AI Developer Challenge op NVIDIA RTX
Om innovatie en creativiteit op het gebied van generatieve AI aan te moedigen, Nvidia host NVIDIA Generative AI tijdens de NVIDIA RTX Developer Contest. De wedstrijd loopt tot en met vrijdag 23 februari en nodigt ontwikkelaars uit om hun eigen op LLM gebaseerde applicaties te maken, versneld met TensorRT-LLM voor RTX. Deelnemers kunnen hun inzendingen indienen en kans maken op spannende prijzen, waaronder een GeForce RTX 4090 GPU, een volledig persoonlijk conferentieticket voor NVIDIA GTC en meer.
Chatten met RTX AI is een baanbrekende demo-app die het potentieel laat zien van gepersonaliseerde chatbots, mogelijk gemaakt door NVIDIA RTX AI. Met snelle en veilige prestaties, contextueel relevante reacties en de mogelijkheid om te integreren met verschillende bestandsformaten en YouTube-video’s, is chatten met RTX AI een opwindende ontwikkeling in de wereld van generatieve AI.
Uitgelichte afbeeldingscredits: NVIDIA
Source: RTX onthult aangepaste chatbot-oplossing voor Nvidia RTX AI-pc’s