Tech News

Technik & Digital

Jemand hat ein NAS mit einer RTX-GPU ausgestattet, um den ultimativen lokalen KI-Chatbot zu erstellen


Warum Terabytes an Daten durchsuchen, wenn eine KI das für Sie erledigen kann?

Die zentralen Thesen

  • Lokal ausgeführte KI-Chatbots könnten die Zukunft der Geschäftsdatenanalyse sein und Datenschutzbedenken ausräumen.
  • Durch das Hinzufügen einer GPU zu einem NAS kann eine leistungsstarke Chatbot-Lösung für die Datenanforderungen von Unternehmen entstehen.
  • Interne KI-Modelle können Dienste von Drittanbietern ersetzen und es Unternehmen ermöglichen, sensible Daten unabhängig zu verarbeiten.


KI-Chatbot-Modelle, die Datenseiten in nur wenigen Sekunden analysieren können, haben in Unternehmen ein enormes Potenzial. Das Problem ist: Wohin gehen die Daten, sobald Sie sie in den Chatbot hochgeladen haben? Es ist schwierig, einem Drittanbieter-Dienst vertrauliche Daten anzuvertrauen, wenn man sich nicht sicher ist, was mit ihnen passieren wird, insbesondere wenn dieser Dienst Antworten speichern möchte, um seine KI besser zu trainieren. Die Lösung ist eine lokal laufende KI, die ihre Daten nicht woanders hinschickt, und jemand hat einen Chatbot auf Unternehmensebene entwickelt, der einem Unternehmen wirklich dabei helfen könnte, seine Hunderten von Dateien zu durchsuchen.

Verwandt

TerraMaster F4-424 Pro Test: Ein leistungsstarkes NAS zu einem vernünftigen Preis

Unglaubliche Hardware mit anständiger Software für ein solides Heim-NAS.

Hinzufügen einer GPU zu einem NAS, um einen KI-Chatbot zu erstellen

Wie entdeckt von Toms Hardware, die Leute von StorageReview auf YouTube haben einige interessante Dinge mit einem NAS gemacht. Sie wählten ein bestimmtes Modell aus, das über einen Mainboard-Anschluss verfügt, der groß genug ist, um eine Grafikkarte aufzunehmen. Dann entschieden sie sich, über die Spezifikationen des NAS hinauszugehen und eine Nvidia RTX A4000 darin einzubauen. Die Sache ist, dass Nvidia währenddessen „Chat With RTX“ veröffentlicht hat, das es den Leuten ermöglicht, einen KI-gestützten Chatbot auf ihrer lokalen Hardware auszuführen.


Aus der Idee wurde dann die Entwicklung eines lokal laufenden Chatbots, der Zugriff auf den gesamten Speicher auf dem NAS hatte. Sie stellten die Theorie auf, dass ein Unternehmen das NAS nutzen könnte, um alle seine sensiblen Informationen und Dokumente zu speichern, und dann den Chatbot verwenden könnte, um alle Daten zu sichten, um alle Fragen zu beantworten, die Sie ihm stellen. Und da alles auf lokaler Hardware läuft, gibt es keine Datenschutzbedenken hinsichtlich dessen, was der Chatbot durchsucht.

Ein möglicher Blick in die Zukunft geschäftsorientierter KI

HP Elite Mini 800 G9 Desktop-PC_Büro


Es ist ein cooler Einblick in die Zukunft der KI in Unternehmen. Anstatt dass Unternehmen alle ihre Daten an einen Drittanbieter senden, könnten wir eine Ära erleben, in der sie eine interne KI erwerben, die auf ihren Servern läuft und Zugriff auf vertrauliche Informationen hat. Die Leute können dann einen Chatbot mit der KI aufrufen und ihn nach Informationen wie Verkaufszahlen, Leistungsbewertungen oder allem anderen fragen, was mit den Geschäftsabläufen des Unternehmens zu tun hat. Wer weiß; Dies könnte der Beginn einer Ära sein, in der jedes Unternehmen sein eigenes, maßgeschneidertes KI-Modell für seine Bedürfnisse hat.




Source link