Tech News

Technik & Digital

EU setzt neue Gesetze zur KI-Entwicklung um


In mancher Hinsicht ist die EU bei der technischen Regulierung und bei der Ergreifung proaktiver Maßnahmen weit voraus, um sicherzustellen, dass der Verbraucherschutz in der neuen digitalen Landschaft berücksichtigt wird.

Aber in anderen Fällen können EU-Vorschriften die Entwicklung behindern und aufwändige Systeme implementieren, die nicht wirklich ihren beabsichtigten Zweck erfüllen, und nur noch mehr Hürden für Entwickler schaffen.

Ein typisches Beispiel: Die EU hat heute eine Reihe neuer Vorschriften angekündigt, die die Entwicklung von KI überwachen sollen, mit einer Reihe von Maßnahmen rund um die ethische und akzeptable Nutzung personenbezogener Daten zum Trainieren von KI-Systemen.

Und da sind einige interessante Bestimmungen drin. Zum Beispiel:

Die neuen Regeln verbieten bestimmte KI-Anwendungen, die die Rechte der Bürger gefährden, darunter biometrische Kategorisierungssysteme auf der Grundlage sensibler Merkmale und das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken. Emotionserkennung am Arbeitsplatz und in Schulen, soziale Bewertung, vorausschauende Polizeiarbeit (wenn sie ausschließlich auf der Profilerstellung einer Person oder der Bewertung ihrer Eigenschaften basiert) und KI, die menschliches Verhalten manipuliert oder die Schwachstellen von Menschen ausnutzt, werden ebenfalls verboten.

Sie können sehen, wie diese Vorschriften einige der besorgniserregenderen Elemente der KI-Nutzung angehen sollen. Gleichzeitig können diese Regeln jedoch nur im Nachhinein angewendet werden, und es gibt zahlreiche Hinweise darauf, dass KI-Tools entwickelt werden und bereits erstellt wurden, die diese Dinge tun können, auch wenn dies bei ihrer ursprünglichen Entwicklung nicht beabsichtigt war .

Nach diesen Regeln können EU-Beamte diese Apps verbieten, sobald sie veröffentlicht werden. Aber sie werden trotzdem gebaut und wahrscheinlich auch weiterhin auf alternative Weise verfügbar gemacht.

Ich gehe davon aus, dass die neuen Regeln den EU-Beamten zumindest rechtlichen Rückhalt geben werden, in solchen Fällen aktiv zu werden. Aber im Nachhinein scheint es ein wenig sinnlos, die Dinge zu regieren, insbesondere wenn dieselben Tools auch in anderen Regionen verfügbar sein werden.

Dies ist ein umfassenderes Problem bei der KI-Entwicklung insgesamt, da Entwickler aus anderen Ländern nicht denselben Vorschriften unterliegen. Das könnte dazu führen, dass westliche Nationen im KI-Wettbewerb zurückfallen und durch Einschränkungen erstickt werden, die nicht überall umgesetzt werden.

EU-Entwickler könnten in dieser Hinsicht besonders gelähmt sein, denn auch hier werden viele KI-Tools in der Lage sein, diese Dinge zu tun, auch wenn dies nicht die Absicht bei ihrer Entwicklung ist.

Was meiner Meinung nach Teil der Herausforderung bei der KI-Entwicklung ist. Bis dahin wissen wir nicht genau, wie diese Systeme funktionieren werden, und da die KI theoretisch „intelligenter“ wird und mehr Elemente zusammenfügt, wird es schädliche potenzielle Verwendungsmöglichkeiten für sie geben, wobei fast jedes Werkzeugset einige davon ermöglichen kann Form des unbeabsichtigten Missbrauchs.

Tatsächlich sollten sich die Gesetze konkreter auf die Sprachmodelle und Datensätze beziehen, die den KI-Tools zugrunde liegen, und nicht auf die Tools selbst, da dies es den Beamten dann ermöglichen würde, sich darauf zu konzentrieren, welche Informationen wie beschafft werden, und unbeabsichtigte Konsequenzen in dieser Hinsicht zu begrenzen , ohne die eigentliche KI-Systementwicklung einzuschränken.

Das ist hier sowieso der Hauptanstoß bei der Überwachung, welche Daten gesammelt und wie sie verwendet werden.

In diesem Fall bräuchten EU-Beamte nicht unbedingt ein KI-Gesetz, das die Entwicklung einschränken könnte, sondern eine Änderung des aktuellen Digital Services Act (DSA) im Hinblick auf eine erweiterte Datennutzung.

Allerdings wird die polizeiliche Überwachung in jedem Fall eine Herausforderung sein, und es wird interessant sein zu sehen, wie EU-Beamte diese neuen Regeln in die Praxis umsetzen wollen.

Einen Überblick über das neue EU-Gesetz zur künstlichen Intelligenz können Sie hier lesen.



Source link