Tech News

Technik & Digital

4 Gründe, warum Sie NPUs und KI-PCs nicht abtun sollten


Die zentralen Thesen

  • KI-PCs werden zur Norm, da die geräteinterne KI eine schnellere und effizientere Leistung bietet als die Cloud-Verarbeitung.

  • NPUs sind spezialisierte Prozessoren, die vom menschlichen Gehirn inspiriert und für datengesteuertes Parallelrechnen optimiert sind.

  • Durch geräteinterne KI werden Computer mit auf individuelle Gewohnheiten und Vorlieben zugeschnittenen Funktionen zugänglicher.

XDA-VIDEO DES TAGES

SCROLLEN SIE, UM MIT DEM INHALT FORTZUFAHREN

Was haben die Begriffe KI, Large Language Models (LLMs) und Neural Processing Units (NPUs) gemeinsam? Das sind alles schicke Schlagworte, über die Sie wahrscheinlich nur spotten. Als Autor, der die Technologiebranche genau verfolgt, bin ich es genauso leid wie Sie, diese Worte seit der ersten Veröffentlichung von ChatGPT jeden Tag zu hören. Es gibt jedoch einen Grund, warum die besten Laptops und Desktop-Computer von Tag zu Tag mehr KI-Funktionen implementieren.

Ob es einem gefällt oder nicht, 2024 wird das Jahr des KI-PCs. Die On-Device-KI ist das große Feature dieses Jahres, und sogar Apple hat sich mit einer neuen Reihe von Funktionen namens Apple Intelligence der Party angeschlossen. Daher ist es mittlerweile so weit gekommen, dass diese Funktionen kaum noch zu ignorieren sind. Es steht Ihnen völlig frei, KI-PCs oder NPUs als Gimmicks abzutun, aber haben Sie Geduld mit mir, während ich erkläre, warum das nicht der Fall ist.

Verwandt

Nach dem Gespräch mit Intel bin ich gespannt auf die Zukunft des „AI PC“

Wir haben Robert Hallock, Senior Director of Technical Marketing bei Intel, interviewt, um darüber zu sprechen, wie die Zukunft der KI für Intel aussieht.

4 Die Funktionsweise von NPUs ist ziemlich interessant

Deep Learning ist eigentlich eine sehr alte Idee

Die Aufnahme eines AMD Ryzen AI 300 Prozessors über einem grünen Muster

Quelle: AMD

NPU (Neural Processing Unit) ist ein Begriff, den Sie dieses Jahr häufig von Herstellern wie Qualcomm, AMD und Intel hören werden. Einfach ausgedrückt sind NPUs dedizierte Prozessoren, die Teil eines größeren SoC wie Apple Silicon oder der X-Serie von Snapdragon sind. In einigen Edge-Computing-Geräten können NPUs auch eigenständige Komponenten sein, aber das ist nebensächlich. Diese spezialisierten Prozessoren sind darauf ausgelegt, neuronale Netzwerk- und KI-Operationen auszuführen und zu beschleunigen.

Sie sind für datengesteuertes Parallelrechnen optimiert, was bedeutet, dass sie enorme Datenmengen gleichzeitig verarbeiten können. Dies macht sie effizient und ideal für Verarbeitungsaufgaben wie Geschwindigkeitserkennung, Objekterkennung, Hintergrundunschärfe und Verarbeitung natürlicher Sprache. Wissen Sie, wie Teslas Autopilot Fahrzeuge, Fahrspuren und Personen erkennen kann? Das alles ist einer NPU zu verdanken.

Das Interessanteste dabei ist, dass Design und Funktionalität der NPUs vom menschlichen Gehirn inspiriert sind. Denken Sie einmal darüber nach: In Ihrem Gehirn kommunizieren Milliarden von Neuronen über Synapsen. Komplexe Verarbeitung und Lernen werden durch die Anpassung der synaptischen Stärken erreicht.

Ebenso bestehen künstliche neuronale Netzwerke aus Schichten miteinander verbundener Knoten (ähnlich wie Neuronen), die Eingabedaten verarbeiten. Diese Netzwerke lernen, indem sie die Gewichte der Verbindung zwischen Knoten basierend auf Eingabedaten und gewünschter Ausgabe anpassen. Eine NPU ist darauf ausgelegt, dann bestimmte Operationen auf diesen neuronalen Netzwerken effizient auszuführen.

Wenn Sie mehr erfahren möchten, werden in diesem MIT-Beitrag die Prozesse Deep Learning und neuronale Netzwerke ausführlicher erläutert.

3 On-Device-KI ist nützlicher als Sie denken

Copilot+ und Apple Intelligence sind der Beweis dafür

Sie verwenden wahrscheinlich bereits seit einiger Zeit KI-Tools wie ChatGPT, Copilot und Gemini, aber die KI auf dem Gerät verspricht noch nützlichere Funktionen. Zum Beispiel mit Apple-Intelligenzerhalten Sie ChatGPT direkt in Ihr iPhone, Ihren Mac und Ihr iPad integriert. So können Sie in fast jeder App auf das neueste GPT-4.0-Modell zugreifen und benötigen nicht einmal ein Konto.

Dank der integrierten KI werden Ihre Sprachassistenten auch beim Kontextverständnis intelligenter. Wenn Sie den Sprachassistenten beispielsweise bitten „Spiel mir das Lied, das James mir gestern Abend geschickt hat“, extrahiert er den Kontext aus Ihren Nachrichten und spielt das gewünschte Lied in der Musik-App Ihrer Wahl für Sie ab.

Sie erhalten außerdem eine Menge hervorragender Funktionen mit der KI-Suite von Microsoft. Copilot+. Recall ist eine Funktion, mit der Sie Elemente eines bestimmten Dokuments oder einer Datei beschreiben können, damit Sie schnell darauf zugreifen können. Dadurch müssen Sie nicht mehr in verschiedenen Verzeichnissen oder Ordnern herumwühlen. Eine weitere coole Funktion ist Cocreator, mit dem Sie Bilder oder Text erstellen können. Wenn Sie eine einfache Szene in der Paint-App zeichnen, können Sie Cocreator bitten, sie zu verbessern und zusätzliche Details hinzuzufügen.

Denken Sie daran, dass all dies in Echtzeit auf Ihrem Gerät geschieht. Dies sind nur einige Funktionen, die die Nützlichkeit der geräteinternen KI hervorheben. In Zukunft können Sie noch bessere und ausgefeiltere Funktionen erwarten.

2 Verbesserte Leistung und Effizienz

KI-Assistenten waren noch nie schneller

Snapdragon X Elite (8)

Ein weiterer überzeugender Grund für den Einsatz von KI-PCs ist die deutliche Leistungs- und Effizienzsteigerung, die sie mit sich bringen. On-Device-KI kann die Leistung von NPUs nutzen, um Machine-Learning-Modelle direkt auf Ihrem Gerät auszuführen. Das bedeutet, dass Aufgaben, die traditionell eine Cloud-Verarbeitung erfordern, wie Spracherkennung oder Sprachübersetzung, jetzt lokal ausgeführt werden können. Das reduziert die Latenz, sorgt dafür, dass Ihre Apps und KI-Assistenten schneller reagieren und verbessert die Privatsphäre. Letzteres trifft zu, denn Ihre Daten werden zur Verarbeitung nicht an externe Server weitergeleitet.

On-Device-KI könnte möglicherweise auch eine intelligentere Ressourcenverwaltung ermöglichen. Herkömmliche Computer verfügen bereits über Energiesparfunktionen, diese könnten jedoch rudimentär werden, wenn Ihr PC die Ressourcenverwaltung auf der Grundlage ausgefeilter KI-Modelle optimieren kann. Ich gebe zu, dass dies im Moment noch etwas spekulativ ist, aber es ist eine beliebte Anfrage, die KI-PCs in naher Zukunft erfüllen könnten.

Darüber hinaus integriert Microsoft intelligente Funktionen wie Adaptive Dimming und Adaptive Lock direkt in Copilot+-PCs, um die Akkulaufzeit und den Bedienkomfort weiter zu verbessern.

1 Bessere Zugänglichkeit

Einfachere Tools für alle

Apple Intelligence findet Dateien, die letzte Woche von June gesendet wurden

Quelle: Apple

Mit On-Device-KI werden Computer für alle integrativer und einfacher zu bedienen, insbesondere für Menschen mit Behinderungen. Da sich die KI-gesteuerte Spracherkennung verbessert, können Sie mit Ihrem Gerät über Sprachbefehle statt über herkömmliche Eingabemethoden wie Tippen oder die Verwendung einer Maus interagieren. Unternehmen versuchen dies schon seit Ewigkeiten, aber dank lokaler KI wird die Umsetzung endlich besser.

Ebenso wird Ihr KI-PC wahrscheinlich über ausgefeiltere Sprach-zu-Text- und Text-zu-Sprache-Funktionen verfügen, die jeweils Menschen mit Hör- bzw. Sehbehinderungen helfen können. Auch diese Funktionalität gibt es bereits, sie wird nur durch ausgefeiltere Verarbeitung natürlicher Sprache noch besser.

Auch wenn Sie keine Behinderung haben, sind KI-PCs für Sie zugänglicher und einfacher zu bedienen. Indem der KI-Assistent auf Ihrem Gerät Ihre Gewohnheiten und Vorlieben lernt, kann er Ihnen maßgeschneiderte Vorschläge und Verknüpfungen unterbreiten. Wenn Sie beispielsweise freitagabends häufig Spiele spielen, schlägt Ihr KI-Assistent möglicherweise vor, den „Nicht stören“-Modus zu aktivieren, um Unterbrechungen zu reduzieren. Er könnte Ihnen auch empfehlen, Steam oder ein bestimmtes Spiel zu starten, das Sie häufig spielen.

Es lohnt sich immer noch, vorsichtig zu sein

Ich weiß, dass ein Großteil dieses Beitrags so klingt, als würde ich aktiv für KI-PCs werben, und das stimmt bis zu einem gewissen Grad auch. Es ist jedoch immer gut, die Dinge mit einem ausgewogenen und differenzierten Ansatz zu betrachten. Man muss die Grenze zwischen Enthusiasmus und Vorsicht sorgfältig abwägen, insbesondere angesichts aller ethischen Implikationen von KI. Beispielsweise sind einige Leute zu Recht vorsichtig, was die Privatsphäre bei Microsofts Recall-Funktion betrifft. Das Urteil steht noch aus, aber wir sind zuversichtlich, was das Potenzial angeht, das vor uns liegt.

Verwandt

Microsoft scheint mit Copilot+ Recall in einen Sicherheitsalptraum zu geraten

Nachdem ein Sicherheitsexperte entdeckt hat, dass Recall Protokolle der Benutzeraktivität in MySQL im Klartext speichert, könnte Microsoft in große Schwierigkeiten geraten.



Source link