Tech News

Technik & Digital

Apple könnte den KI-Wettbewerb, den es begonnen hat, verlieren


Die zentralen Thesen

  • Apples KI-Vorsprung schrumpft, da neue Konkurrenten wie Intel und AMD am Horizont stehen und Qualcomms Snapdragon X Elite bald auf den Markt kommt.
  • Das Verständnis der TOPS-Messkriterien (Operationen pro Sekunde) wie INT4, INT8 und FP16 ist für den Vergleich der KI-Leistung von entscheidender Bedeutung.
  • Apple hinkt bei der KI-Software hinterher, da es Siri im Vergleich zu Konkurrenten wie Google an Raffinesse mangelt. Das Unternehmen muss möglicherweise aufholen.


Dank seiner Apple-Silicon-Chips ist Apple in puncto KI mit vielen Bildgeneratoren, großen Sprachmodellen und mehr schon lange nativ auf einem M1-Mac lauffähig. Das ist einer Kombination aus der NPU und der leistungsstarken Grafik im Inneren zu verdanken, aber der Vorsprung von Apple scheint zu schwinden. Da der M4-Chip mit 38 TOPS auf den Markt kommt, gibt es viel darüber zu sagen, worauf sich diese Zahlen beziehen und wie Qualcomms Snapdragon X Elite abschneidet.

Ich glaube, dass der KI-Vorsprung von Apple allmählich abnimmt und die Unternehmen beginnen, aufzuholen. Da die Angebote von Intel und AMD vor der Tür stehen und Qualcomms Snapdragon X Elite nur noch wenige Wochen entfernt ist, muss Apple möglicherweise vorsichtig sein.

Verwandt

Die Einführung des M4 von Apple in einem iPad ist ein großartiges Zeichen für den Snapdragon X Elite von Qualcomm

Dies kommt der Panik wahrscheinlich am nächsten, die Apple jemals öffentlich gezeigt hat.

„38 TOPS“ erfüllt nichts von alleine

KI verfügt über mehrere Messkriterien

Funktionen und Verbesserungen des Apple M4

Quelle: Apple


Bei der Erörterung der KI-Leistung ist TOPS (Billionen Operationen pro Sekunde) eine entscheidende Kennzahl, und es ist wichtig zu verstehen, wie verschiedene Datentypen wie INT4, INT8 und FP16 dazu beitragen.

Für den Kontext sind INT4 und INT8 Ganzzahlformate, wobei INT4 eine 4-Bit-Ganzzahl und INT8 eine 8-Bit-Ganzzahl ist. Diese werden typischerweise in neuronalen Netzwerkberechnungen verwendet, bei denen Präzision zugunsten von Geschwindigkeit und Energieeffizienz geopfert werden kann. Die kleinere Bitbreite in INT4 ermöglicht mehr Operationen pro Zyklus, allerdings auf Kosten einer geringeren Präzision, was es ideal für Anwendungen macht, bei denen ein hoher Durchsatz wichtiger ist als eine hohe Genauigkeit. Andererseits schafft INT8 ein Gleichgewicht, indem es eine höhere Genauigkeit als INT4 bietet und dennoch eine höhere Rechengeschwindigkeit im Vergleich zu präziseren Formaten beibehält.


FP16 oder Gleitkomma mit halber Genauigkeit ist ein ganz anderes Biest. Dieses 16-Bit-Gleitkommaformat bietet einen viel größeren Wertebereich als INT4 oder INT8, da es sowohl signifikante Ziffern als auch einen Exponenten enthält. Dadurch kann FP16 wesentlich komplexere Berechnungen und Algorithmen durchführen, die ein hohes Maß an numerischer Präzision erfordern. Dies ist von entscheidender Bedeutung für Aufgaben mit detaillierten Grafiken oder wissenschaftlichen Berechnungen, bei denen die Genauigkeit nicht beeinträchtigt werden darf. Beim Vergleich der TOPS-Werte dieser Formate geht es nicht nur um die reine Geschwindigkeit; es geht um die Eignung für bestimmte Anwendungen. Während beispielsweise INT4 und INT8 höhere TOPS liefern können, ist FP16 aufgrund seiner Fähigkeit, detailliertere und differenziertere Berechnungen zu liefern, für präzisionskritischere Anwendungen unverzichtbar.

Wenn wir das alles geklärt haben, können wir eine Reihe von Vermutungen darüber anstellen, worüber Apple hier spricht. Wir gehen davon aus, dass die von Apple beworbene TOPS-Zahl mit INT8-Präzision berechnet wird. Apples A17 Pro-Chip, der angeblich 35 TOPS leisten kann, wurde mit FP16 gemessen, aber der M3, der viele der gleichen Teile (einschließlich Kerne) wie der A17 Pro verwendet, soll „nur“ 18 TOPS unterstützen. Dies lässt sich durch eine Änderung der Präzision erklären und würde eher dem entsprechen, was die Industrie heute im Allgemeinen verwendet. Beispielsweise unterstützt AMDs Ryzen 7 8700G mit seiner Neural Engine ebenfalls 18 TOPS, und dieser nutzt ebenfalls INT8.


In dieser Hinsicht ist sogar ein Sprung von 18 TOPS auf 38 TOPS ziemlich beträchtlich, aber die einzige Möglichkeit, Qualcomm zu übertreffen, besteht darin, dass dies mit FP16 gemessen wurde. Ich kann mir nicht vorstellen, dass Apple seine Messkonvention wieder auf FP16 ändern würde, um dem Trend der Branche zu widersprechen, der INT8 verwendet, um eine zu haben schlechter Zahl, und wenn man bedenkt, dass die Zahlen von Qualcomm mit INT8-Präzision berechnet werden, kann man leicht erkennen, dass Apple mit ziemlicher Sicherheit ins Hintertreffen geraten ist.

KI ist mehr als nur TOPS

Die meisten KI-Apps nutzen nicht einmal die Neural Engine von Apple

MacBook Air M3 auf einem Tisch

Wenn es um Apple und KI geht, ist es jedoch wichtig, sich über etwas im Klaren zu sein: Die meisten derzeit verfügbaren KI-Anwendungen, die auf dem Mac laufen, verwenden nicht einmal die neuronale Engine von Apple. LM Studio läuft auf der CPU und GPU, ebenso wie so ziemlich alle offenen Implementierungen von Stable Diffusion. In diesem Sinne sind die TOPS-Zahlen der Neural Engine von Apple nicht einmal vergleichbar, da sie nicht repräsentativ für die tatsächliche KI-Arbeitslast sind, zu der diese Geräte in der Lage sind.


Allerdings unterstützen mit Intel und AMD beide Unternehmen aktiv die Entwicklung und Nutzung ihrer neuronalen Verarbeitungseinheiten. Intel unterstützt nativ über 500 Modelle, die bereits auf seinen NPUs laufen, und unterstützt Entwickler aktiv bei der Unterstützung ihrer NPUs, und AMD sitzt im selben Boot. Apple unterstützt mittlerweile nur CoreML, eine API, die die neuronale Engine in Apple Silicon nutzen kann, aber die meisten Technologien, die LLMs und andere Modelle ermöglichen, wie etwa Quantisierung, nicht vollständig unterstützt.

Darüber hinaus können Apples GPUs aufgrund des einheitlichen Speichers immer noch mit der gleichen Geschwindigkeit auf denselben Speicherplatz zugreifen wie die neuronale Engine, was bedeutet, dass die gleichen Speicher- und speicherbezogenen Engpässe bestehen bleiben, unabhängig davon, wie KI-Modelle ausgeführt werden. Aus all diesen Gründen ist ein Vergleich der NPU von Apple mit anderen NPUs nicht wirklich aussagekräftig, auch wenn das Unternehmen immer noch darauf besteht, TOPS-Zahlen zu teilen, die mit anderen in der Branche vergleichbar sind.


Apple ist in Sachen KI ins Hintertreffen geraten

Nicht nur in der Hardware, sondern auch in der Software

Apple Siri aktiviert

Apple ist in Sachen Software wohl schon lange hinter der KI-Kurve zurückgeblieben, insbesondere mit Siri, einem der wohl schlechtesten Sprachassistenten auf dem Markt. Es ist Bußgeld und erledigt die Arbeit, aber es steckt keine intelligente KI dahinter. Ebenso hat Google wohl die Nase vorn bei Apple, wenn es um On-Device-KI geht, wie zum Beispiel Googles Now Playing, Magic Editor und vieles mehr.

Natürlich verfügt Apple immer noch über KI in seinen Laptops und Smartphones, aber sie ist bei weitem nicht annähernd das, was die Konkurrenten derzeit tun. Das Unternehmen hat im Hintergrund an LLMs gearbeitet und die Forschung und Entwicklung geht in diese Richtung weiter. Es ist jedoch unklar, ob dies letztendlich auch für iPhones oder MacBooks der Fall sein wird. Berichten zufolge befindet sich Google in Gesprächen mit Apple, um Gemini in die Produkte des Unternehmens zu integrieren, es scheint also ungewiss zu sein. Außerdem könnte Apple am Ende eine eigene Serverinfrastruktur aufbauen, um Cloud-basierte KI-Funktionen zu unterstützen, so wie es Samsung und Google getan haben.


Apple muss noch viel lernen, wenn es im KI-Bereich aufholen will, aber das Unternehmen tendiert dazu, bei der Herangehensweise an neue Technologien eher zurückhaltend zu sein. Das ist nicht der Fall brauchen KI wird (eindeutig) erfolgreich sein, aber mit der Zeit sieht es immer seltsamer aus, ohne dass auch nur ein Hauch von irgendetwas darüber zu hören ist. Apple hat das NPU-Rennen sogar in seinen MacBooks gestartet, aber Ende dieses Jahres besteht die Möglichkeit, dass ein Mac nicht mehr der beste Ort ist, um KI-Anwendungen unterwegs auszuführen.

Verwandt

Beste KI-Anwendungen: Tools, die Sie unter Windows, macOS oder Linux ausführen können

Wenn Sie mit einigen KI-Tools auf Ihrem Computer spielen möchten, können Sie dazu einige dieser KI-Tools verwenden.



Source link