Nieuws

Toepassingen

Update aan Nvidia ChatRTX zorgt voor ondersteuning van meer LLM’s en stembesturing

Portret van de auteur


Update aan Nvidia ChatRTX zorgt voor ondersteuning van meer LLM’s en stembesturing
0

Advertentie

ChatRTX laat gebruikers een AI-model kiezen om antwoorden te genereren aan de hand van gekozen data op de gebruikers computer. Zo is het mogelijk om snel naar een specifiek stuk informatie te zoeken in bijvoorbeeld notulen van een vergadering. Hiervoor hoeft de data niet geüpload naar de cloud te worden. De app is enkel beschikbaar voor systemen met een RTX 3000 of 4000-serie en is nog in een redelijk vroege ontwikkelingsfase.

De nieuwste update voegt meer AI-modellen toe waaronder Google’s Gemma en ChatGLM3. ChatGLM3 is een open source en tweetalig model dat zowel Engels als Chinees ondersteunt. Daarnaast worden nu ook afbeeldingsbestanden op te zoeken, zelfs wanneer deze niet duidelijk gelabeld zijn in de metadata. Dit is mogelijk door OpenAI’s CLIP-training, waarmee afbeeldingen op te zoeken zijn aan de hand van beschrijvingen. Voor wie liever praat tegen de assistent is er nu ondersteuning voor ‘Whisper’. Dit is een automatisch stem herkennings systeem op basis van AI waarmee het mogelijk is om gesproken zinnen te gebruiken om ChatRTX instructies te geven.

YouTube Privacymelding



Op deze positie willen we je een YouTube-video tonen. We vinden het belangrijk om je gegevens te beschermen. Youtube wil voor het afspelen van video cookies op je computer plaatsen, waarmee je eventueel gevolgd kan worden. Wanneer je de video toch wil bekijken, kun je op de Play-knop klikken. De video wordt daarna geladen en afgespeeld.

Het TechnologyInsider-team

Youtube Video direct afspelen.

Gebruikers van ChatRTX konden al kiezen voor bekendere LLM’s zoals Mistral en Llama 2. De nieuwe modellen geven voornamelijk meer opties zodat mensen de app naar eigen wens kunnen instellen. Omdat het opzoeken van data lokaal gebeurt en de chatbot gebruik maakt van lokale hardware, moet deze oplossing vele malen sneller zijn dan vergelijkbare apps die via de cloud werken. Een nadeel is wel dat de app behoorlijk wat ruimte inneemt op je systeem; de app is inmiddels maar liefst 35GB.