Tech News

Technik & Digital

Eine wachsende Besorgnis über KI, Ethik und zentralisierte Macht


Die zentralen Thesen

  • Große Technologieunternehmen wie Microsoft und Google sind führend in der Entwicklung von KI, profitieren stark von der Technologie und investieren stark in Partnerschaften und interne Entwicklung.
  • Generative KI wie ChatGPT und DALL-E befindet sich seit vielen Jahren in der Entwicklung, aber die erforderliche Hardware und riesige Mengen an Trainingsdaten gab es bis vor Kurzem noch nicht.
  • Die Entwicklung der Künstlichen Allgemeinen Intelligenz (AGI), die komplexe Fragen begründen und beantworten kann, ist der nächste Schritt in der KI. Die Abhängigkeit von großen Technologiekonzernen und Datenmissbrauch hat der Gesellschaft jedoch bereits geschadet und Anlass zur Besorgnis über die Zukunft der KI-Entwicklung gegeben.


KI ist derzeit unbestreitbar das heißeste Ding in der Technik. Es ist so weit gekommen, dass ich nicht länger als ein paar Stunden auskommen kann, ohne davon zu hören, und die Chancen stehen gut, dass Sie das auch nicht können. Alle großen Technologieunternehmen scheinen verzweifelt daran interessiert zu sein, KI-Fortschritte in neue und alte Produkte zu integrieren, und die KI-Müdigkeit macht sich bereits bemerkbar. Microsoft verursacht möglicherweise bereits Copilot-Burnout mit seiner rasanten Geschwindigkeit, sich in Systeme zu integrieren, bevor es vollständig entwickelt ist, aber so spielt sich der Kapitalismus eben ab. Sie möchten der Erste sein und für immer auf dem ersten Platz bleiben.


Aber wir haben dieses Spiel noch nie mit einer Technologie gespielt, die so viele Bereiche des menschlichen Lebens revolutionieren kann. Das Potenzial von KI ist scheinbar grenzenlos, und nichts scheint in der Lage zu sein, die Investitionsblase zu bremsen, die, wenn sie anhält, sicherlich fast jede andere Technologieblase, die wir gesehen haben, in den Schatten stellen wird. Es macht nur Sinn, dass große Technologieunternehmen wie Microsoft, Google und Meta mit Partnerschaften und interner Entwicklung eine Vorreiterrolle einnehmen; Sie haben viel Geld zur Verfügung und werden mit Sicherheit von der Technologie stark profitieren.


Ich behaupte nicht, dass KI nicht existieren sollte oder dass ihre Entwicklung nicht fortgesetzt werden sollte. Im Gegenteil, es ist eine der aufregendsten Technologien, die ich je gesehen habe, und sie ist wirklich Teil der utopischen Zukunft, die sich viele von uns vorgestellt haben. Zu beobachten, wie die Macht der KI durch riesige Konzerne zentralisiert wird, verheißt jedoch nicht gerade Gutes für die Zukunft der breiten Öffentlichkeit. Wo Geld verdient werden kann, werden Ethik und Moral oft verdrängt.


Generative KI erschien nicht über Nacht

Auch wenn es sich so anfühlt


Generative KI wird schnell zum Mainstream und es scheint, als käme sie aus dem Nichts. Das war nicht der Fall. Die Anwendung generativer KI, zumindest in ihren derzeitigen Möglichkeiten, wurde in den 1960er Jahren sogar vom kanadischen Philosophen Marshall McLuhan angedeutet. McLuhan, der seine Karriere auf die Medientheorie konzentrierte, sah eine Zeit voraus, in der Einzelpersonen umfangreiche Informationen anfordern und diese umgehend in einem ordentlichen Paket liefern könnten. In einem Interview mit Robert Fulford am Diese Stunde hat sieben Tage, McLuhan sagte: „Produkte werden zunehmend zu Dienstleistungen“, um zu erklären, wohin wir vor all den Jahren gingen. Natürlich hat McLuhan das Internet oder seine Fähigkeit, diese Informationen so zeitnah bereitzustellen, nicht vorhergesehen, und er hat schon gar nicht die riesigen Datenbestände vorhergesehen, mit denen KI trainiert werden könnte. Er lebte in einer Zeit der Bibliotheken und Xerox-Geräte.


Generative KI in Form beliebter Systeme wie GPT, DALL-E und Bard ist nicht über Nacht aufgetaucht. Vor so vielen Jahren gab es nicht nur noch nicht die erforderliche Hardware für eine derart anspruchsvolle Rechenleistung, sondern auch die riesigen Datenmengen, auf denen die generative KI jetzt trainiert wurde, existierten noch nicht. Wissen Sie, die Daten, von denen wir nicht wussten, könnten so mächtig und profitabel sein, bis es zu spät war, den Unternehmen, die sie sammelten, die Macht zurückzunehmen.

Wenn Ethik und Moral der Gewinnsteigerung im Wege stehen, zeigt die Geschichte eine alles andere als makellose Bilanz.


Geoffrey Hinton, ein Informatiker und Kognitionspsychologe, war in den 1980er Jahren eine führende Kraft bei der Entwicklung von Deep-Learning-Techniken, wie sie heute verwendet werden. Um es einfach zu erklären: Er hat die Idee mitgeprägt, dass wir einem Computer nicht beibringen können, was er denken soll, sondern dass wir ihm genügend Daten zeigen können, damit er seine eigenen Schlussfolgerungen ziehen kann, hauptsächlich aus der Erkennung von Mustern. Später kam er 2013 zu Google, um beim Aufbau von Google Brain mitzuhelfen, verließ das Unternehmen jedoch nach zehn Jahren, um die Öffentlichkeit vor den Gefahren der KI zu warnen.


KI würde nicht nur anfangen, den Menschen zu ersetzen, argumentierte Hinton, sondern sie wäre auch ein perfektes Werkzeug, um Menschen ohne ihr Wissen zu manipulieren. Kommt Ihnen bekannt vor, nicht wahr? Und während große Kontrollfirmen sich dazu verpflichtet haben, sich an die selbst auferlegte Ethik und Moral rund um die KI zu halten, geht es in einem kapitalistischen System unter dem Strich darum, wettbewerbsfähig zu bleiben und Jahr für Jahr Wachstum zu verzeichnen. Wenn Ethik und Moral der Gewinnsteigerung im Wege stehen, zeigt die Geschichte eine alles andere als makellose Bilanz.

Der nächste Schritt in der KI-Entwicklung

AGI liegt irgendwo in unserer Zukunft

Eine wachsende Besorgnis über KI, Ethik und zentralisierte Macht


Generative KI ist eine Station auf dem Weg zu echter künstlicher Intelligenz, auch bekannt als Artificial General Intelligence (AGI). AGI unterscheidet sich von normaler KI vor allem durch ihre Fähigkeit zur Vernunft. Während ChatGPT (das Microsofts Copilot antreibt) und Google Bard auf die Erkennung von Mustern in den von ihnen bereitgestellten Datensätzen angewiesen sind, wäre AGI in der Lage, komplexe Konzepte zu verstehen und im Wesentlichen Fragen zu beantworten und Argumente selbstständig anzuwenden. Mein Kollege Adam Conway hat einen großartigen Artikel geschrieben, in dem er den Q*-Algorithmus von OpenAI und seine Fähigkeit, „die Menschheit zu bedrohen“, erklärt, ein Zitat des ehemaligen Chefwissenschaftlers von OpenAI, Ilya Sutskever.


Dies ist die Version von KI, die sich viele Menschen schon immer vorgestellt haben: etwas, das so intelligent ist, dass wir es nur von menschlicher Intelligenz unterscheiden können, weil es unsere organischen Fähigkeiten so weit übersteigt. Es ist unklar, was bei OpenAI tatsächlich hinter verschlossenen Türen vor sich geht. Dennoch gibt es zumindest einige Hinweise darauf, dass das Unternehmen anfängt, sich etwas anzueignen, von dem wir keine Ahnung haben, wie wir es kontrollieren können. Ich verstehe, dass die Entwicklung irgendwo stattfinden muss, aber ich weiß nicht, ob sie derzeit am richtigen Ort ist.

Allein wenn es um unsere Daten geht, hat die Abhängigkeit von großen Technologiekonzernen bereits zu Schäden für die Gesellschaft geführt.


Allein wenn es um unsere Daten geht, hat die Abhängigkeit von großen Technologiekonzernen bereits zu Schäden für die Gesellschaft geführt. Ich glaube nicht, dass es ein großes Geheimnis ist, dass unsere Daten gegen uns verwendet werden, um unser Engagement zu fördern (Wut und Empörung sind derzeit auch so angesagt), politische und gesellschaftliche Entscheidungen zu beeinflussen und uns Dinge zu verkaufen, die wir nicht wirklich brauchen. Noch beängstigender ist, dass damit vorhergesagt wird, wie wir uns auf individueller und gesellschaftlicher Ebene verhalten werden; Die Art und Weise, wie diese Informationen oft angewendet werden, führt auf einen Weg des Autoritarismus und der vorausschauenden Programmierung, obwohl sie als notwendig für eine bessere Zukunft dargestellt wird.


Unsere einfach durch die Nutzung des Internets erstellten Daten wurden nun verwendet, um das wohl leistungsfähigste Werkzeug des 21. Jahrhunderts zu schaffen, das unsere Welt in einem ähnlichen Ausmaß verändern wird wie die industrielle Revolution, als sie richtig begann. Riesige Industriezweige, in denen unzählige Menschen beschäftigt sind, befürchten, vollständig durch KI ersetzt zu werden, Bildungseinrichtungen sind gegen den grassierenden Missbrauch nahezu machtlos und wir haben noch nicht einmal begonnen, an der Oberfläche ethischer Dilemmata wie Deepfakes und Betrug zu kratzen. Schauen Sie sich nur den aktuellen Trubel um explizite KI-Fälschungen von Taylor Swift und den reaktionären Ansturm an, diese Tools irgendwie zu regulieren. Diese Probleme sind nicht neu, aber sie werden auf eine Weise neu definiert, mit der wir noch nie zuvor konfrontiert waren.

Wie sieht KI in 10 Jahren aus?

Es gibt viel zu bedenken

Windows Copilot in Windows 11


Wir sind an einem Punkt angelangt, an dem allein durch die Verwendung von „KI“ im Namen eines neuen Produkts eine Menge Geld verdient wird, aber das wird schnell versiegen, da sich die KI-Müdigkeit in den Verbrauchertrends festsetzt. Man kann argumentieren, dass Microsoft immer noch keine Ahnung hat, was es mit Copilot macht, und nur mit relativ einfachen Tools anfängt (zumindest im Vergleich zu dem, was in der Zukunft kommt).


Wir tauchen gerade erst in den riesigen Ozean des KI-Potenzials ein und sind bereits mit Abonnementkosten, Paywalls und Wettbewerbsunsicherheit konfrontiert. In vielen Branchen sind KI-basierte Tools bereits zu gut, um sie nicht zu nutzen, wenn man wettbewerbsfähig sein will, und das wird zweifellos die bereits im Jahr 2024 bestehende Wohlstands- und Wissenslücke noch verschärfen. KI-PCs – solche mit einer integrierten neuronalen Verarbeitungseinheit (NPU) zur Bewältigung von KI-bezogenen Aufgaben – stecken noch in den Kinderschuhen, aber es wird erwartet, dass sie mit zunehmender Entwicklung die Systemanforderungen (und damit die Kosten) erhöhen.

Auf der Suche nach KI-Antworten

Nicht so einfach wie eine einfache Eingabeaufforderung

Ich weiß nicht, wer oder was für KI verantwortlich sein soll oder ob das überhaupt möglich ist, wenn künstliche Intelligenz einen bestimmten Punkt erreicht. Noch beängstigender ist der Glaube, dass NEIN Jede Person oder Institution (einschließlich der Regierungen der Welt) hat eine Vorstellung davon, was morgen, nächste Woche oder nächstes Jahr passieren wird, ganz zu schweigen davon, wie sie den Rest von uns vor unvorhergesehenen Dilemmata schützen kann. Aufzuholen und auf Probleme nur mit etwas zu reagieren, das sich so schnell bewegt wie die KI, wird nicht gut funktionieren.

Aufzuholen und auf Probleme nur mit etwas zu reagieren, das sich so schnell bewegt wie die KI, wird nicht gut funktionieren.


Wir haben einen Fehlstart hingelegt, aber keinen überraschenden Start. In Fortsetzung der aktuellen Dynamik prognostiziere ich einen Markt, in dem diejenigen mit der leistungsstärksten KI (heute nur zu sehr hohen Kosten erhältlich) denen ohne KI-Unterstützung um Jahre oder Jahrzehnte voraus sind, wodurch die Macht weiter in den Händen sehr weniger Nichtgewählter zentralisiert wird weitgehend unbeaufsichtigte Gruppen. Diese Struktur scheint der Traum eines Kapitalisten zu sein, aber für den Rest von uns ist es eine schlaflose Nacht.


KI ist hier, um zu bleiben. Ich hoffe, dass wir nicht beiseite geschoben werden, wenn es wächst.



Source link