Tech News

Technik & Digital

Nvidia startet Chat mit RTX, einen KI-Chatbot, den Sie lokal unter Windows ausführen können


Wenn Ihr PC mit einer relativ neuen Nvidia-Grafikkarte ausgestattet ist, können Sie das neueste KI-Tool des Unternehmens namens „ Chatten Sie mit RTX. Es bringt generative KI-Funktionen auf Windows-PCs und setzt dabei unter anderem auf „Nvidia RTX-Beschleunigung“.

Chat mit RTX wird als „lokale, schnelle, benutzerdefinierte generative KI“ für Windows-PCs angepriesen. Infolgedessen ist die Privatsphäre der Benutzer bei dieser Art von KI-Chatbot im Vergleich zu Optionen wie Bing Chat, Google Bard und ChatGPT viel besser. Wenn Sie sich jetzt fragen, ob Nvidias Chat mit RTX-Tool offline funktioniert: Ja, das funktioniert!

Die Verwendung von a bietet einen gewissen Vorteil lokal ausgeführt KI-Chatbots wie dieser auf Ihrem PC im Vergleich zu cloudbasierten KI-Chatbots, die heute normalerweise von jedem verwendet werden. Nvidia sagt: „Die Ergebnisse werden schnell geliefert – und die Daten des Benutzers bleiben auf dem Gerät.“

Sie können es selbst verschenken Datensatz und platzieren Sie lokale Dateien auf Ihrem PC. Verschiedene Erweiterungen wie PDF-Dateien, Notepad-Textdateien und Word-Dokumente werden unterstützt. Übrigens können Sie dieses KI-Chatbot-Wissen sogar aus YouTube-Videos bereitstellen, indem Sie den Videolink zu den Einstellungen der Software hinzufügen!

Nvidia Chat mit RTX setzt auf Retrieval-Augmented Generation (RAG), das zur Verbesserung der Genauigkeit von LLMs eingesetzt wird. Es nutzt außerdem die TensorRT-LLM-Software und Ihre GPU-Hardware, um auf Ihrem Windows 10- und 11-PC zu funktionieren. Nachdem Sie Chat with RTX mit verschiedenen Dokumenten, Notizen und Videos versorgt haben, können Sie damit über eine einfache KI-Chatbot-Schnittstelle mit den Informationen interagieren!

Nvidia startet Chat mit RTX, einen KI-Chatbot, den Sie lokal unter Windows ausführen können

Chat mit RTX: Systemanforderungen und Downloadmöglichkeiten

Da es sich um einen KI-Chatbot handelt, den Sie lokal ausführen, ist die Downloadgröße zum Zeitpunkt des Schreibens mit 35,1 GB recht hoch. Im Download sind zwei große Sprachmodelle enthalten, Mistral und Lama 2. Sie können den Chat mit RTX hier von der Nvidia-Website herunterladen.

Nachdem der Download abgeschlossen ist, können Sie das komprimierte Archiv extrahieren und dann mit der Installation von Chat with RTX fortfahren. Es gibt jedoch bestimmte Voraussetzungen, die Sie erfüllen müssen.

Auf Windows-PCs mit Nvidia GeForce RTX-Grafikkarten kann das neue Chat with RTX AI-Tool ausgeführt werden, sofern sie bestimmte Hardwareanforderungen erfüllen. Nvidia sagt, dass es sich hierbei um eine „Demo-App“ handelt, daher könnte später eine Version mit mehr Funktionen verfügbar sein. System Anforderungen Für das Chat with RTX AI-Tool sind:

  • 16 GB RAM (oder mehr)
  • Grafikkarte der Nvidia RTX 30-Serie oder RTX 40-Serie (mit 8 GB+ VRAM-Kapazität)
  • GeForce-Treiber v535.11 oder höher
  • Windows 10 oder 11

Was denken Sie über Nvidias neuen KI-Chatbot? Hast du es schon ausprobiert? Lass es uns unten in den Kommentaren wissen! Es ist äußerst reizvoll, einen eigenen KI-Chatbot mit der GeForce RTX-Grafikkarte zu betreiben, und wir werden dieses Tool in den kommenden Tagen testen.



Source link