„Der aktuelle Entwurf eines EU-Gesetzes zur Kontrolle von Künstlicher Intelligenz ist überzogen“, sagte Samuel Altman, Geschäftsführer des KI-Pioniers OpenAI im vergangenen Sommer, „aber wir haben gehört, dass es noch angepasst wird“. Man gebe sich alle Mühe, „die Regeln einzuhalten“, zu strenge Auflagen lasse man sich aber nicht gefallen: „Dann müssen wir unsere Arbeit hier in Europa einstellen“. Seit Monaten basteln die Entscheidungsträger der Europäischen Union an einem Regelwerk für die Entwicklung und Anwendung von Künstlicher Intelligenz in Europa. Darin werden autonome Algorithmen in verschiedene Gefahrenstufen eingeordnet, die teils stark reguliert, teils sogar verboten werden sollen. Auf EU-Ebene ist man stolz auf das weltweit erste Gesetz dieser Art, laut Kommissionspräsidentin Ursula von der Leyen könne man Künstlicher Intelligenz nun „vertrauen“. Deutschland war lange nicht so begeistert von der Idee, warnte vor der Abwanderung von Innovationsträgern. Jetzt lenkt die Bundesregierung doch ein – zum Leidwesen von Kritikern, die der Union vorwerfen, Pläne zur Massenüberwachung zu schmieden.
Wie gefährlich ist Künstliche Intelligenz?
Ziel des KI-Gesetzes ist laut EU, den Menschen ins Zentrum zu stellen, Grundrechte zu wahren und eine „ethische Entwicklung von Künstlicher Intelligenz“ zu gewährleisten. Dazu sollen KI-Modelle künftig in vier Kategorien eingeteilt werden, je nach Risiko, das von ihnen ausgeht. Minimales Risiko gehe demnach von den meisten gebräuchlichen Programmen aus, darunter fallen KI-gestütztes Gaming oder autonome Spam-Filter, die „keine Intervention benötigen“. In der zweiten Kategorie, dem begrenzten Risiko, finden sich audiovisuelle Imitationen von Menschen in den Medien, sogenannte Deepfakes wieder. Diese Technologie war erst kürzlich in den Schlagzeilen, als nach fingierten Anrufen mit Joe Bidens manipulierter Stimme Sorgen um Wahlmanipulation in den Vereinigten Staaten aufgekommen waren. Ebenso wie Deepfakes werden künftig auch Chatbots, die menschenähnliche Gespräche führen können, in diese zweite Kategorie fallen. Hier sind schärfere Transparenzauflagen zu erwarten, um Nutzer darüber zu informieren, wenn sie mit einer Maschine interagieren, die humanoide Züge besitzen oder Menschen imitieren.
Hochrisiko-Anwendungen wiederum umfassen autonome Algorithmen, die in selbstfahrenden Autos und anderen automatisierten Transportvehikeln, dem Bildungswesen oder auch der Medizintechnik zur Anwendung kommen. Derartige Modelle müssen künftig nachweisen, mit hochwertigen Daten trainiert zu werden, sollen interne Prozesse lückenlos dokumentieren und menschlicher Kontrolle zugänglich machen. Am interessantesten ist jedoch die vierte und letzte Kategorie des neuen Regulationsrahmens, von den EU-Gremien unter der Kategorie inakzeptables Risiko geführt. Hiervon betroffen sind etwa Systeme des Social Scorings, also die dauerhafte Überwachung von Bürgern und automatisierte Sanktionierung von Fehlverhalten. Bekannt ist die Technologie aus China, wo der öffentliche Raum flächendeckend von Kameras überwacht und Menschen aufgrund ihres Verhaltens eine Punktzahl zugeordnet bekommen. Dieser Sozialkredit entscheidet etwa darüber, ob man einen bestimmten Job ausüben oder auf digitale Dienste wie Social Media zugreifen darf.
Willkürliche Überwachung nach chinesischem Vorbild?
Das System steht international in der Kritik, Gegner befürchteten auch in Europa eine indirekte Einführung mithilfe von digitalen Zentralbankwährungen (engl.: Central Bank Digital Currencies; kurz: CBDC), die private Konten und Vermögensbestände zentral kontrollierbar und sanktionierbar machen würden. Diese Sorgen will die Europäische Union nun ausräumen, Social Scoring soll kategorisch verboten werden. Ebenso wie „Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, biometrische Kategorisierung, die auf sensible Daten wie die sexuelle Orientierung oder religiöse Überzeugungen schließen lässt, sowie bestimmte Fälle vorausschauender Polizeiarbeit“ – zumindest für all jene, die nicht polizeilich gesucht werden. Hier überlässt es die Gesetzgebung nämlich den Behörden der Strafverfolgung, trotzdem „im öffentlichen Raum biometrische Fernidentifizierung einzusetzen“. Ebenjene Technik zur automatisierten Erkennung oder Einschätzung von Menschen ist allerdings höchst umstritten und gilt weithin als gravierender Eingriff in den Datenschutz und die intimste Privatsphäre. Menschen von Künstlicher Intelligenz taxieren zu lassen, um Entscheidungen über deren kriminelles Potenzial, deren Kreditwürdigkeit oder auch deren Eignung für bestimmte Jobs und Positionen zu treffen, wird sehr kritisch beäugt und teils vehement abgelehnt.
So protestierte Patrick Breyer, Europaabgeordneter der Piratenpartei: „Mit dieser gesetzlichen Anleitung zu biometrischer Massenüberwachung kann unser Gesicht in der Öffentlichkeit immer und überall flächendeckend und verdachtslos gescannt werden“. Denn Richterbeschlüsse über die Freigabe einzelner Personen zur Überwachung seien schnell ausgesprochen. Die EU wiederum versichert, dass man klar die „Ziele präzisiert, für die eine solche Verwendung zu Strafverfolgungszwecken unbedingt notwendig ist, und zu denen den Behörden die Verwendung solcher Systeme daher ausnahmsweise gestattet werden sollte“. Konkret soll es „um die Verhütung echter, gegenwärtiger beziehungsweise vorhersehbarer Bedrohungen wie Terroranschläge oder um die Suche nach Personen“ gehen, „die schwerster Straftaten verdächtigt werden“. Wie streng oder großzügig diese Schablone angelegt wird, ließ die EU offen – das stieß auch der deutschen Bundesregierung sauer auf, lange stellte man sich auf europäischer Ebene quer.
Deutschland protestiert – und stimmt dann doch zu
Schon im Dezember erklärte die FDP-Europaabgeordnete Svenja Hahn, die für ihre Fraktion das KI-Gesetz verhandelt hat: „Ursprünglich hatten wir vom Parlament sogar ein vollständiges Verbot der biometrischen Echtzeit-Identifizierung gefordert“. Nun sei es zumindest „gelungen, entscheidende rechtsstaatliche Hürden einzubeziehen. Danach darf die Technologie nur eingesetzt werden zur gezielten Identifizierung von explizit wegen der Ausübung sehr schwerer Verbrechen konkret gesuchter Personen. Dazu gehört etwa Entführung oder Vergewaltigung.“ Auch „Opfer schwerer Straftaten und Vermisste“ dürften mithilfe KI-gestützter Überwachsungstechnik „gezielt gesucht werden“. Allen Bedenken zum Trotz hat die Bundesregierung gestern mitgeteilt, dem KI-Gesetz zuzustimmen – und das hat offenbar wirtschaftliche Gründe. Volker Wissing, Bundesminister für Digitales und Verkehr, betonte, dass man sich bis zuletzt für innovationsfreundlichere Regeln eingesetzt und Verbesserungen für kleine und mittlere Unternehmen erzielt habe. Überzogene Auflagen seien widerrufen worden.
Künftig sei Europa ein vertrauenswürdiger und sicherer Standort für die Entwicklung und Anwendung von Künstlicher Intelligenz, Wissing resümierte: „Europa soll ein bedeutender KI-Standort sein“. Ob dieses Kalkül aufgeht, bleibt abzuwarten. Einerseits bietet ein klarer regulatorischer Rahmen günstige Bedingungen für kleine und mittelständische Unternehmen, die auf den Wirtschaftsstandort angewiesen und ihre Arbeit im Einklang mit der Gesetzgebung gestalten wollen. Große deutsche Unternehmen mit globaler Marktausrichtung wie Europas größter Software-Produzent SAP (ETR:SAPG) arbeiten zunehmend an Künstlicher Intelligenz für ihre Produkte und auch andere Branchen profitieren in Deutschland vom Geschäft mit autonomen Algorithmen, etwa die Halbleiter-Industrie, hierzulande angeführt vom DAX-Konzern Infineon (ETR:IFXGn). Unternehmen wie OpenAI könnten ihr Engagement in europäischen Staaten trotzdem zurückschrauben. Gerade für vollautomatisierte KI-Sprachmodelle wie ChatGPT oder dessen Nachfolger GPT4, die beide aus der Werkstatt des nordamerikanischen KI-Pioniers unter der Leitung von Altman stammen, erwägt die Europäische Union einen Sonderstatus.
KI-Gesetz: einschneidende Fessel oder solides Fundament?
Ob es dabei zu Lockerungen oder gar zu strengeren Kontrollen kommt, wird erst der finale Entwurf des KI-Gesetzes zeigen. Als sicher gilt, dass man Urheberrechte schützen will, damit Künstler und Medienschaffende Anspruch auf ihre Werke oder daran angelehnte KI-Produkte wie autonom generierte Bilder oder nachgeahmte Texte erheben können. Erst kürzlich hatten sich große nordamerikanische Zeitungen gegen OpenAI gewandt und gefordert, dass Modelle, die mithilfe ihrer Artikel trainiert wurden, zerstört werden sollten – ansonsten wären die Jobs Tausender Journalisten bald in Gefahr. Große KI-Betreiber wie OpenAI haben bereits in der Vergangenheit Maßnahmen getroffen, damit ihre Chatbots etwa auf gezielte Nachfrage keine Anleitungen zu illegalen Handlungen mehr geben, auch bei politischer Kommunikation wurden kürzlich klare Grenzen gezogen. So verbot OpenAI kurzerhand die Nutzung seiner Programme für Kampagnen im Wahlkampf um die nordamerikanische Präsidentschaft, der dieses Jahr ansteht. Eine Reihe von Tech-Giganten, darunter Microsoft (NASDAQ:MSFT), die Google-Mutter Alphabet (NASDAQ:GOOGL) und der Facebook-Konzern Meta (NASDAQ:META) kündigte an, umfangreiche Sicherheitsvorkehrungen gegen Wahlmanipulation mithilfe von KI zu treffen.
Während in anderen Teilen der Welt also auf Selbstregulierung der großen Unternehmen mit weitreichendem Einfluss im KI-Sektor gesetzt wird, will die EU vorpreschen und eine ganzheitliche Gesetzgebung von oben herab verabschieden. Durch die Zustimmung Deutschlands, die in den letzten Wochen als wichtige Hürde für die Umsetzung betrachtet wurde, nimmt dieser Plan nun konkrete Formen an. Wie sehr Künstliche Intelligenz die globale Wirtschaft in den vergangenen Monaten geprägt hat und auch in der nahen und fernen Zukunft mitgestalten wird, beleuchten wir ausführlich in unserem diesjährigen Sonderbericht über den Technologie-Sektor, der kommenden Sonntag erscheint. Enthalten sind für alle unsere Abonnenten neben exklusiven Einblicken in unsere technische Analyse auch mittel- und langfristige Preisprognosen sowie umfangreich recherchierte fundamentale Berichte über die wichtigsten Player im Markt. Und dazu zählen längst nicht mehr nur die großen Tech-Unternehmen aus den Vereinigten Staaten, die wir in unserem Tech33-Paket regelmäßig analysieren. Auch die Unternehmen am Heimatmarkt holen auf, wie SAP und Infineon eindrucksvoll unter Beweis stellen. Wer hier die lukrativsten Möglichkeiten für Investitionen nicht verpassen will, ist mit unserem DAX40-Paket bestens beraten.
