Fragen, die in diesem Beitrag beantwortet werden
Was ist Künstliche Intelligenz?
Welche grundsätzliche Perspektive nimmt die Europäische Union (EU) in Bezug auf die Regulierung von KI ein?
Welche Konkretisierungen nimmt die EU-Kommission in ihrem Vorschlag von April 2021 vor?
Wie ist mexxons Positionierung dazu?
Der Begriff der „Künstlichen Intelligenz (KI)“ weckt Assoziationen vielfältiger Art. Von Robotern, die so intelligent werden, dass sie die Menschheit beherrschen, Maschinen, die extrem große Datenmengen in kürzester Zeit auslesen können, oder Algorithmen, die bestimmen, was wir jeden Tag im Internet sehen. Der deutsche Digitalverband „Bitkom“ bringt diesen Reichtum an mit KI verbundenen „Geschichten“ mit dem Titel einer seiner Publikationsreihen gut auf den Punkt: „AI. Science over Fiction“ (Bitkom 2021).
Dabei ist der Begriff nicht neu. Bereits im Jahr 1955 benutzte der US-amerikanische Informatiker John McCarthy (1927-2011) den Begriff „Artificial Intelligence“ in einem Förderantrag eines Forschungsprojektes (McCarthy et al. 1955). Im heutigen Zeitalter von Smart Big Data und neuen Technologien wird KI hingegen zunehmend zum Top-Zukunftsthema – nicht nur in der Wirtschaft. Die in den letzten Jahren veröffentlichten Strategiepapiere zu KI auf Bundes- und EU-Ebene signalisieren eine intensivere digitalpolitische Beschäftigung mit KI und allen dazugehörigen Themen wie Daten, Infrastrukturen und Rechtssicherheit.
Das ist auch dringend nötig, um die Potenziale von KI zu realisieren und im interkontinentalen Wettbewerb nicht zurückzufallen. Hervorzuheben sind hier das im Februar 2020 von der EU-Kommission veröffentlichte Weißbuch zur Künstlichen Intelligenz sowie die 2018 erstmalig ausgearbeitete und 2020 fortgeschriebene KI-Strategie der deutschen Bundesregierung. Wichtig zu nennen ist zudem der nach eigenen Angaben weltweit erste Vorschlag eines Rechtsrahmens für KI, der im April 2021 von der EU-Kommission vorgelegt wurde.
Was ist Künstliche Intelligenz?
Das Europäische Parlament definiert KI folgendermaßen: „Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“ (Europäisches Parlament 2020). Das bedeutet, dass KI in der Lage ist, einzelne konkrete Aufgaben oder Probleme zu bearbeiten, die obige Fähigkeiten voraussetzen. Eine derartige „schwache“ KI ergänzt und ersetzt damit teilweise den Menschen; das Ideal der „starken“ KI ist es, eine dem Menschen gleichende Intelligenz zu schaffen, die selbstständig Probleme definieren und lösen könnte. Die Realisierung einer solchen ist allerdings noch nicht in Sicht.
Die heutige KI ist darauf angewiesen, mittels Machine Learning und Deep Learning vorhandene Daten auszulesen, auszuwerten und basierend darauf zu lernen; das verweist erneut auf die zentrale Rolle, die Daten dabei spielen. Sicherlich gehören das lernende Element und die Tatsache, dass KI durch Rechenleistung schneller und effizienter als der Mensch arbeiten kann, zu den wichtigsten Aspekten der KI für die Zukunft.
Das Risiko als Ausgangspunkt der Regulierung
Bei der Lektüre der offiziellen Dokumente der EU – dem Weißbuch von 2020 und dem darauf aufbauenden Vorschlag zum Rechtsrahmen von 2021 – wird deutlich: Das Risiko ist für die EU der zentrale Ausgangspunkt eines (künftigen) Regulierungsrahmens. Der Ansatz, der im Weißbuch noch vergröbert umrissen und im April 2021 dann mit rechtsverbindlichen Vorschlägen konkretisiert wurde, soll also risikobasiert sein. Bezeichnend heißt es dazu im Weißbuch: „Der Schwerpunkt eines Regulierungsrahmens sollte auf der Frage liegen, wie die Gefahr potenzieller und vor allem der schwersten Schäden minimiert werden kann.“ (EU-Kommission 2020, S. 12; Kursivierung d. Verf.).
Ein Grund für diese Fokussierung sieht die EU im mangelnden Vertrauen der breiten Bevölkerung in KI, was neben fehlenden Investitionen und Kenntnissen ein Hauptgrund für mangelnde Akzeptanz sei (ebd., S. 10). Die größten Risiken sieht die EU im Zusammenhang mit Grundrechten (v. a. Datenschutz und Nichtdiskriminierung). Zu erkennen ist zudem, dass versucht wird, KI im Voraus zu regulieren, was als ein weiteres zentrales Narrativ der EU-Regulierung gesehen werden kann. Das kann anhand der im Weißbuch angedachten Risikobewertung illustriert werden.
Diese beruht auf zwei Kriterien: 1. Wenn die KI-Anwendung in einem Sektor eingesetzt wird, in dem aufgrund der Art der typischen Tätigkeiten mit erheblichen Risiken zu rechnen ist (v. a. Gesundheit, Verkehr, Energie). 2. Wenn die KI-Anwendung in dem betreffenden Sektor so eingesetzt wird, dass mit Risiken zu rechnen ist. Diese beiden Kriterien müssten demnach kumulativ erfüllt sein, damit die verbindlichen Anforderungen des neuen Rechtsrahmens für die jeweilige Anwendung gelten (ebd., S. 20-21).
Das wäre ein wichtiger Punkt, da die obigen Bestimmungen äußerst grob und offen formuliert sind und die Gefahr besteht, ex ante eine Überregulierung zu errichten, die Innovation beeinträchtigen würde. Im Nachgang der Veröffentlichung des Weißbuchs war es also erforderlich, diese Anwendungsbereiche konkreter zu formulieren.
Einteilung der Risiko-Klassen
Das bringt die Betrachtung auf die aktuellen Dokumente der EU-Kommission. Im Kern dieser steht die Einteilung von KI in vier Risikoklassen.
Am wichtigsten – und in der Zukunft sicherlich am kontroversesten diskutiert – werden die Anwendungen, die als Hoch-Risiko-KI eingestuft werden. Diese Anwendungen finden sich laut Kommission in einigen Feldern (Abbildung 1). Es soll jedoch bei der Klassifizierung auch auf den konkreten Use Case und den jeweiligen Kontext ankommen. Dadurch findet sich zumindest eine stärkere Präzisierung der Bereiche als noch im Weißbuch.
Bei diesen Systemen müssen mehrere Anforderungen im Rahmen einer Risikobewertung zwingend erfüllt sein: Hohe Datenqualität (v. a. wegen Diskriminierung), Dokumentation, Transparenz, menschliche Aufsicht, und hohe Leistungsfähigkeit (Präzision, Robustheit, Sicherheit). Diese Anforderungen sollen durch gewisse Verhaltenskodizes auch für die weniger risikoreichen Systeme gelten – aber auf freiwilliger Basis.
Anschließend muss im Rahmen der Konformitätsbewertung ein Nachweis über die Erfüllung der Anforderungen durch den Anbieter oder eine sachverständige dritte Partei erbracht werden; gibt es im Zeitverlauf wesentliche Änderungen, sind diese Bewertungen zu wiederholen. Auch hier ist die Präzisierung der im Weißbuch skizzierten Ideen zu erkennen, allerdings ohne dabei von der grundsätzlichen konzeptionellen Überbetonung des Risikos abzuweichen.
mexxons Positionierung – Nicht nur Risiko, sondern auch Chancen
Im Artikel wurde skizziert, inwiefern der Fokus auf das Risiko von KI sich in den bisherigen digitalpolitischen Vorschlägen der EU wiederfindet. Grundsätzlich halten wir die Schwerpunktsetzung auf die reine Gefahrenminimierung und das Risiko zumindest für problematisch. Aus unserer Sicht muss neben dem Risiko der gleichwertige Schwerpunkt der Chancenorientierung definiert werden. Auch eine übermäßige Regulierung im Voraus, also gewissermaßen „Top-down“, halten wir aus ganzheitlicher Perspektive für den falschen Weg, da so Innovationen schon in der Entwicklungsphase abgewürgt werden könnten.
Schließlich entstehen Innovationen häufig aus der produktiven Vernetzung von Forschung und Privatwirtschaft innerhalb rechtlicher Rahmenbedingungen und bestimmter Impulse, für die die Politik verantwortlich ist. Gerade aus unserer Perspektive darf zudem die Datensicht bei der Regulierung nicht vergessen werden, denn ohne gute Daten, gibt es keine gute KI. Die Wettbewerbsfähigkeit Deutschlands und der EU steht auf dem Spiel, wenn Grundlagenforschung und KI- bzw. Daten-Anwendungen sich hauptsächlich ins nicht-europäische Ausland verlagern und wir künftig nur noch am Ende der KI-Wertschöpfungskette stehen – als Kunden.
Auf Deutschland bezogen bedeutet das: „AI made in Germany“ (KI-Strategie BReg 2018/2020) darf nicht nur politischer Slogan, sondern muss umsetzbare (Zukunfts-)Mission sein. Deshalb gilt für uns: Nicht nur Regulierung, sondern auch Normierung und Standardisierung von Daten; nicht nur Risiko, sondern auch Chancen.
Literatur
Bitkom (2021): AI. Science over Fiction, URL: https://www.bitkom.org/Themen/Technologien-Software/Artificial-Intelligence/AI-Science-over-Fiction
McCarthy, J/Minsky, M. L./Rochester, N./Shannon, C. E. (1955): A Proposal for the Dartmouth Research Project on Artificial Intelligence, URL: https://web.archive.org/web/20080930164306/http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html
Europäisches Parlament (2020): Was ist künstliche Intelligenz und wie wird sie benutzt? URL: https://www.europarl.europa.eu/news/de/headlines/society/20200827STO85804/was-ist-kunstliche-intelligenz-und-wie-wird-sie-genutzt
EU-Kommission (2020): Weißbuch zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen. URL: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificial-intelligence-feb2020_de.pdf
EU-Kommission (2021): VERORDNUNG DES EUROPÄISCHEN PARLAMENTS UND DES RATES ZUR FESTLEGUNG HARMONISIERTER VORSCHRIFTEN FÜR KÜNSTLICHE INTELLIGENZ (GESETZ ÜBER KÜNSTLICHE INTELLIGENZ) UND ZUR ÄNDERUNG BESTIMMTER RECHTSAKTE DER UNION.
Deutsche Bundesregierung (2018): Strategie Künstliche Intelligenz der Bundesregierung.
Anmerkung: Der Text hat zwangsläufig einige allgemeine Aspekte der EU-Dokumente zugunsten einer pointierten Darstellung des Risiko-Narrativs ausgeblendet.
