11 min read

Mit immer größerer Selbstverständlichkeit wird Künstliche Intelligenz ein Teil unseres Alltags. Daher geht es mittlerweile bei der Frage nach notwendigen Regulierungen schon nicht mehr um das „wann“, sondern um das „wie“.


KI-Tools verändern schon heute unser Bildungssystem durch automatisierte Notenvergabe. Sie verbessern die ambulante Versorgung durch app-basierte Pflege. Und sie entlasten unsere Straßen durch intelligente Verkehrssteuerung. Wir sprechen hier von einer Revolution, die alle Branchen und Lebensbereiche betrifft.

Und zum größten Teil bietet sie uns wunderbare Möglichkeiten. Mithilfe von KI-Technologie können wir nachweislich unsere Produktivität steigern, die Sicherheit erhöhen, Fehleranfälligkeit reduzieren und mehr Freizeit gewinnen. Doch wir haben auch schon die negative Seite kennengelernt. Algorithmen, die uns personalisierte Erfahrungen bieten sollten, haben Echokammern der Voreingenommenheit geschaffen, insbesondere in den sozialen Medien. Dem Preismodell von Amazon wurde vorgeworfen, die eigenen Produkte gegenüber anderen zu bevorzugen. Gleichzeitig haben Wissenschaftler festgestellt, dass KI-Programme auf Grundlage der zugeführten Daten rassistische oder sexistische Tendenzen entwickeln können.

Während die KI-Technologie einen immer stärkeren sozialen, politischen und wirtschaftlichen Wandel bedeutet, ergeben sich gleichzeitig komplexe Fragen zu den Themen Marktregulierung, Datennutzung und internationale Kooperation.

Versuche, Roboter zu regulieren, sind bereits seit mehreren Jahrzehnten in Arbeit. Am berühmtesten sind dabei die Drei Robotergesetze, die der Science-Fiction-Autor Isaac Asimov im Jahr 1942 formulierte.

Und genau wie sich die Robotik in den letzten Jahren sprunghaft weiterentwickelt hat, haben auch die Regulierungsbehörden ihre Arbeit vorangetrieben. Mittlerweile legen Regierungen und Regulierungsorgane auf der ganzen Welt großen Wert auf bessere regulatorische Rahmenbedingungen für die KI.

KI-Regulierung weltweit

2016 veröffentlichte das Weiße Haus einen Bericht mit dem Titel „Preparing for the future of artificial intelligence“ (Vorbereitung auf die Zukunft der Künstlichen Intelligenz). Der Bericht warnte davor, dass die Entwicklung von Künstlicher Intelligenz durch Regulierung behindert und nicht gefördert werden könnte – insbesondere im Bereich selbstfahrender Fahrzeuge und Drohnen.

Es ist nicht klar, ob die aktuelle Regierung unter Präsident Trump auf diese Einschätzungen reagieren wird, da sich das Thema nicht mehr auf der Website des Weißen Hauses finden lässt.

Inzwischen hat allerdings eine Gruppe von Kongressabgeordneten beider Kammern und Parteien den sogenannten „FUTURE of AI Act“ (Gesetz zur Zukunft von KI) eingebracht. Dabei handelt es sich um das erste Bundesgesetz, das sich ausschließlich mit dem Thema Künstliche Intelligenz befasst. Das Gesetz sieht einen Beratungsausschuss vor, der Empfehlungen zum Thema KI abgeben sowie die Möglichkeiten und Auswirkungen für die amerikanische Bevölkerung abschätzen soll.

Der Rechtsausschuss des Europäischen Parlaments hat EU-weit gültige Vorschriften zum Umgang mit KI gefordert. Insbesondere wird dabei auf die Gründung einer europaweiten Behörde zur Regulierung von KI gedrängt.

Der Ausschuss fordert zudem die Schaffung eines eindeutig definierten Rechtsstatus für Roboter sowie eines Pflichtversicherungssystems zur Abdeckung von durch KI verursachten Schäden. Er empfiehlt eine Registrierungspflicht für alle „intelligenten autonomen Roboter“ und sieht dabei den Bereich der selbstfahrenden Automobile als besonders dringlich an. Eine Priorität hat dabei die Schaffung global einheitlicher Regelungen, da „fragmentierte regulatorische Konzepte die Umsetzung behindern und die europäische Wettbewerbsfähigkeit gefährden würden“.

Im Oktober 2017 veröffentlichte die britische Regierung ein unabhängiges Gutachten mit dem Titel „Growing the artificial intelligence industry in the UK“ (Wachstum der KI-Industrie im Vereinigten Königreich). Der Bericht empfiehlt die Beaufsichtigung, nicht jedoch die Regulierung von KI. KI-Anwendungen könnten jedoch durch Richtlinien der Royal Society beeinflusst werden.

Der Bericht enthält auch eine Empfehlung zur Einrichtung von „Daten-Trusts“. Diese Trusts würden gemeinsam ein Gremium zur Beratung im Umgang mit KI-Systemen bilden. Sie würden jedoch nicht Datenschutzbehörde der britischen Regierung, das Information Commissioner‘s Office (ICO) ersetzen. Außerdem wurde ein Rahmenkonzept für die Analyse von KI-Entscheidungsprozessen entworfen.

Im Jahr 2015 hat die japanische Regierung eine Neue Roboterstrategie bekanntgegeben, die auf eine bessere Zusammenarbeit von Industrie, Politik und Hochschulen setzt. Auf dem G7-Gipfel 2016 drängte Japan auf die Einführung grundlegender internationaler Regelungen für den Umgang mit KI.

Zwar hat die japanische Regierung selbst bisher keine KI-Regulierungen eingeführt, dafür jedoch mehrere Grundprinzipien festgelegt, denen Wissenschaftler und Ingenieure im Bereich KI folgen sollen. Die japanische Gesellschaft für Künstliche Intelligenz (JSAI, Japanese Society for Artificial Intelligence), die sich aus Vertretern von Industrie, Politik und Forschung zusammensetzt, hat vor Kurzem einen Ethik-Kodex für die KI-Forschung

Andere Länder weltweit:

Die weltweiten Regelungen zur Regulierung von KI sind allerdings ausgesprochen uneinheitlich. Das ist auch nur logisch: In den unterschiedlichen Ländern schreitet die Entwicklung von KI unterschiedlich schnell voran. Doch je stärker sich die Menschen auf den Einsatz intelligenter Maschinen verlassen, desto stärker werden auch die Algorithmen hinter den Maschinenentscheidungen kritisch hinterfragt.

Expertenmeinungen

Manche Kritiker vertreten die Auffassung, dass eine übermäßige Regulierung Innovation und Weiterentwicklung ausbremst. Anstatt neuer Ideen fördere sie nur Behelfslösungen für neue Probleme. Wieder andere argumentieren von einem politischen Standpunkt aus gegen die Regulierung. Sie schaffe weltweit unterschiedliche Voraussetzungen für die KI-Entwicklung – ein besorgniserregender Gedanke für die Mitbewerber im internationalen KI-Wettrüsten.

Doch viele andere sehen die Regulierung als unvermeidbar an. Das wann und wie ist jedoch heftig umstritten:

Jetzt oder nie

Elon Musk

Elon Musk erklärte vor Kurzem in einer Rede vor den Gouverneuren der US-Bundesstaaten:

„Normalerweise werden Regulierungen eingeführt, wenn schlimme Dinge passieren, dann gibt es einen öffentlichen Aufschrei und nach vielen Jahren wird eine Regulierungsbehörde für diesen Branchenzweig eingeführt […]. Es dauert ewig. Diese Vorgehensweise war in der Vergangenheit schon schlecht. Aber bisher hat sie noch kein fundamentales Risiko für den Fortbestand unserer Zivilisation bedeutet.“

Es müssen Grundprinzipien geschaffen werden

Der Vorstandsvorsitzende des Allen Institute for Artificial Intelligence, Oren Etzioni, veröffentlichte einen Vorschlag für einige Grundprinzipien, auf deren Basis KI in Zukunft reguliert werden könnte. In einem Artikel für die New York Times schreibt er:

  • Zu allererst müssen für eine KI die gleichen Gesetze gelten wie für ihren menschlichen Bediener.
  • Zweitens muss eine KI den Nutzer klar zu erkennen geben, dass sie kein Mensch ist.
  • Und drittens dürfen KI-Systeme ohne die explizite Erlaubnis der Informationsquelle keine vertraulichen Informationen preisgeben.

Etzionis Hoffnung ist, dass diese Regeln verhindern, dass KIs Gesetze brechen oder vertrauliche Informationen weitergeben. Gleichzeitig wäre sichergestellt, dass Menschen immer wissen, ob sie es mit einem Menschen oder einer Maschine zu tun haben.

Tests sind unumgänglich

Für Latanya Sweeney, Gastprofessorin für Regierung und Technologie an der Universität Harvard, sollten KIs auf ähnliche Weise getestet werden wie physische Konsumgüter.

In einem Interview mit PBS sagte sie: „Die Algorithmen müssen transparent und getestet sein, sowie über eine Form von Garantie verfügen oder überprüfbar sein.” Sie fügte hinzu: „Ich wünsche mir, dass unsere gewählten Volksvertreter die Einhaltung dieser Normen überwachen und nicht die Branche selbst.“

Why AI regulation is just a matter of time

Credit: Ioannis Oikonomou


„Die Algorithmen müssen transparent und getestet sein, sowie über eine Form von Garantie verfügen oder überprüfbar sein.”

—Latanya Sweeney

Die Öffentlichkeit einbeziehen

In einem Interview mit der Financial Times riet der Futurist und Philosoph Nick Bostrom davon ab, dass sich Regierungen voreilig in die KI-Entwicklung einmischen: „Ich denke, dass es noch zu früh ist, mit Regulierungen einzugreifen.“ Allerdings räumte er ein, dass eine staatliche Regulierung in einigen Anwendungsbereichen – etwa bei selbstfahrenden Fahrzeugen, Überwachung und Datensicherheit – geeignet sein könnte, die Industrie in die richtige Richtung zu lenken.

Er befürwortet eine stärkere öffentliche Diskussion über die praktischen ethischen Implikationen neuer Technologien.

Wir stehen erst am Anfang

Für Eric Schmidt, den Vorsitzenden von Alphabet, ist der Zeitpunkt für eine Regulierung noch nicht gekommen. Laut The Verge hält er ein System, in dem die Unternehmen ihre Algorithmen zur Prüfung an den Staat weitergeben müssten, für nicht funktionsfähig. Die USA müssten sich „zuerst als Land zusammenreißen“ und das Thema Regulierung sei ein Randthema, das nicht den Blick auf eine klare KI-Strategie verstellen dürfe, die sowohl private wie auch öffentliche Organisationen einbezieht.

Was die Zukunft bringt

Wir stehen an der Schwelle zu einer KI-Revolution. Dabei befindet sich unsere Gesellschaft in einer ausgesprochen vorteilhaften Position. Wir können verhindern, dass sich das Verhalten von KI-Maschinen in Richtungen entwickelt, die so ursprünglich nicht vorgesehen waren. Die Situation ist vergleichbar mit dem Internet. In den frühen Tagen haben die Entwickler das Thema Sicherheit vernachlässigt. In der Folge gab es große Probleme mit Hacking, Malware und Viren. Durch einen intensiveren Dialog und proaktive Maßnahmen können wir vermeiden, dass sich dieselben Fehler beim Thema KI wiederholen. Das sollten sich Regulierungsbehörden, Gesetzgeber und die Öffentlichkeit vor Augen führen.

Allerdings können wir kaum davon ausgehen, dass sich in der nahen Zukunft ein international gültiges Rahmenkonzept für die KI-Regulierung durchsetzen wird – besonders da viele Länder noch gar keine eigenen nationalen Regelungen implementiert haben. Fest steht jedoch, dass Regierungen weltweit proaktiv daran arbeiten sollten, ein größeres Bewusstsein für die möglichen Vorteile und Risiken der KI-Technologie zu schaffen. Private Technologie-Unternehmen und öffentliche Einrichtungen werden enger zusammenarbeiten und dabei einen breiten Querschnitt der Gesellschaft miteinbeziehen müssen, um den Weg für eine harmonische Zukunft mit Künstlicher Intelligenz zu ebnen.