Asilomar AI Principles: Ein erster Versuch einer Antwort

Die 2017 veröffentlichten und von zahlreichen Wissenschaftlern unterzeichneten “Asilomar AI Principles”[1] sind ein Vorschlag für ein Regelwerk zum Umgang mit Künstlicher Intelligenz (KI), die 23 Imperative “ranging from research strategies to data rights to future issues including potential super-intelligence”[2] umfassen. Sie stellen eine Reaktion auf die beschleunigte technologische Entwicklung in diesem Bereich dar, der von den Organisatoren des Future-of-Life-Institutes zu recht als “major change […] across every segment of society”[2] bezeichnet wird. Eine ethische Bewertung und konsequente rechtliche Regelung der Entwicklung und des Einsatzes von KI ist auch aus meiner Sicht dringend geboten.

Die Prinzipien sind aus einer Tagung “Beneficial AI” heraus entstanden, dessen Programmkomitee rein von Technologen besetzt war[3]. Mit dem Tagungsmotto war eine Stoßrichtung bereits vorgegeben, die sich in der kurzen Präambel der Prinzipien wiederfindet: “Artificial intelligence has already provided beneficial tools that are used every day by people around the world. Its continued development, guided by the following principles, will offer amazing opportunities to help and empower people in the decades and centuries ahead.”[1] Mit dieser rein positivistischen und utilitaristischen Sichtweise auf den Einsatz von KI-Technologien bleibt (neben anderen) die große und vielleicht entscheidende Frage offen: wie ist mit den Entwicklungen umzugehen, die eben nicht oder nicht für alle “beneficial” sind, d.h. mit den Bedrohungen durch diese Entwicklungen, den “threats”. Mit anderen Worten: was können oder werden wir durch diese Technologien verlieren?

Denn neben den “amazing opportunities” stehen auch zahlreiche Warnungen vor den Folgen eines (unregulierten) Ausbaus von KI-Technologien. Führende Wissenschaftler wie Stephen Hawking halten ein exponentielles Wachstum von KI bis hin zu einer verselbständigten “Super-Intelligenz” möglich, die den Menschen letztlich überflüssig mache. Bedrohungen werden auch aus der Zivilgesellschaft heraus aufgezeigt: “Slaughterbots” am Beispiel autonomer Waffensysteme[4], die britische Serie “Black Mirror” und zahlreiche kulturkritische Literatur zeigen in ihren Szenarien künftige Welten auf, die in ihrer Dystopie erschreckend und zugleich realistisch wirken.

Zudem scheint durch Einsatz von KI ein riesiges Geschäftspotential entstanden zu sein. Es ist eine Technologie, die hohe Profite ermöglicht, aber auch eine Technologie, mit der Macht akkumuliert werden kann. Für wirtschaftliche wie politische Prozesse sind Daten und Informationen die Leitwährung,[5] für KI-Systeme sind sie ihr Futter, ohne die sie nicht existieren könnten, und wer Daten und KI-Systeme kontrolliert, wird Macht ausüben können. Die Entwicklungen in China in Richtung einer “Big-Data-Diktatur” sind da sicherlich nur der Anfang.[6]

Sinnbildlich für die Pole zwischen nützlich und brandgefährlich stehen die Aussagen von Tesla-Chef Elon Musk, der KI als “the most serious threat to the survival of the human race” bezeichnet hat. Tritt diese “Fernwirkung” (Jonas, s.u.) der Technologie ein, wäre es in der Tat ein “profound change in the history of life on Earth” (Principle No. 20; [7]) — die radikalste Form der von der Gesellschaft geduldeten technologischen Folgen, nämlich das Ende menschlichen Lebens. (Wer hier argumentiert, das Aufzeigen von Drohkulissen sei Teil der menschlichen Kulturgeschichte und habe sich nie bewahrheitet, möge sich vergegenwärtigen, dass in der Geschichte der Menschheit sehr wohl ganze Gesellschaften, auch selbstverschuldet!, untergegangen sind.[8])

Musk steht nun sinnbildlich für das Dilemma, das typisch für komplexe ethische Fragen zu sein scheint. Denn offensichtlich verdient er durch sein Unternehmen Tesla, das für sehr fortschrittliche Technologien eben unter Nutzung von KI steht, nicht gerade wenig Geld. Es nimmt also kaum Wunder, wenn die Asimolar Principles, und Musk ist als einer ihrer “Endorser” gelistet, von den Benefits und nicht den möglichen Schäden der KI ausgehen. Dass wirtschaftliche Interessen im Spiel sind, ist bei einer Weiterentwicklung ethischer Grundsätze unbedingt mitzudenken.

Spricht Asimolar von “beneficial intelligence” (Principles No. 1), so schließt sich unmittelbar die Frage an, was eigentlich „nützlich“ ist und wer bestimmt (falls es überhaupt bestimmbar ist), was nützlich ist. Zu diskutieren wären die grundlegenden Probleme des Utilitarismus, denn der Zweck heiligt nämlich nicht immer die Mittel, schon gar nicht, wenn über den Zweck kein common sense besteht, sondern die Zweckbestimmung von wenigen beherrscht wird. Z.B. ist aus Sicht der Rüstungsindustrie ein KI-basiertes Waffensystem sicherlich sehr nützlich.

Meine Überlegungen sind angeregt von Hans Jonas’ Verantwortungsethik. Nach Jonas’ Ansatz der “Heuristik der Furcht” ist bei jeder menschlichen Entscheidungen zunächst von den potentiellen Folgen für die Zukunft auszugehen, die diese Entscheidung nach sich ziehen könnte. Jonas’ Motiv, „die Unversehrtheit seiner Welt [des Menschen] und seines Wesens gegen die Übergriff seiner Macht zu bewahren“ [9:9] und sein Imperativ “Handle so, daß die Wirkungen deiner Handlung verträglich sind mit der Permanenz echten menschlichen Lebens auf Erden” [9:35] können eine hilfreiche Schablone auch für den Umgang mit künstlicher Intelligenz (KI) bilden. Es bleibt aber nicht die einzige, da sich mit Jonas die für mich zentrale Frage, wie eine zukünftige Welt gestaltet sein soll, nicht gut beantworten lässt, nur die Frage, wie sie nicht aussehen darf.

Um ethische und rechtliche Prinzipien für KI herzuleiten, sind also zwei Sichtweisen zu kombinieren: die dystopische (Jonas Ansatz der Heuristik der Furcht) und die utopische. Bei letzterer stellt sich allerdings die Frage, wer die “schöne neue Welt” definiert, wer sagt, was eigentlich “gut” und “beneficial” ist und erklärt, warum das für alle gilt. Wie sieht also die Welt aus, in der wir zukünftig leben wollen? Diese Frage beantworten die Asimolar-Prinzipien nicht, sondern sie unterstellen eine allgemeingültige und breit akzeptierte Zustimmung zu einer Zukunftskonzeption, die jedoch unbestimmt bleibt und die Gefahr läuft, dass nur wenige sie bestimmen. Aus letzterem wiederum erwächst u.a. die Gefahr eines Totalitarismus durch eine Technologen-Avantgarde.

Wer bestimmt also, was “gut” ist (wenn gleichzeitig die Technologie allumfassend ist, alle betrifft, nicht nur die, die ein bestimmtes KI-basiertes Produkt kaufen), und gibt es darüber einen Konsens? Wie findet man einen solchen Konsens auf einer globalen Ebene? Und wird es auch in der Zukunft Konsens sein, wenn Dinge nicht mehr rückgängig zu machen sind, die in der heutigen Gegenwart Konsens waren? Auch am anderen Ende: selbst wenn man sich jetzt auf ein Regelwerk festlegt, dass KI kontrollieren soll: wer sagt, dass nicht die KI selbst sich über das Regelwerk hinwegsetzt, eigene Maßstäbe, auch ethische, setzt, ähnlich wie auch totalitäre Staaten sich heute selbst aus der Weltgemeinschaft ausschließen — die KI jedoch mit einer Aktionsgeschwindigkeit, die eine menschliche (Gegen-) Reaktion unmöglich macht?

Bevor falsche Erwartungen aufkommen: Ich habe auch keine Antwort auf diese Fragen, plädiere aber dafür, dass die Diskussion darüber geführt werden muss, und zwar von allen, nicht nur von Technologen und Unternehmern. Und dringend. Ethische Prinzipien für KI (bzw. Technik & Gesellschaftsentwicklung im Allgemeinen) brauchen dabei zwei klar illustrierte Szenarien als Orientierung: “die vorausgedachte Gefahr” (Jonas, [9:7]) und eine Zukunftsvorstellung. Letztere müsste allerdings ausgehandelt werden, wie es etwa mit der Charta der Menschenrechte durchaus vorbildhaft (und vorteilhaft?) — wenn auch aus heutiger Sicht unvollständig, d.h. hinreichend, aber nicht ausreichend — und nicht mehr immer aktuell erfolgt ist. Weniger ist hierbei an eine Utopie zu denken, sondern eher eine Charta der künftigen conditio humana (zu der Jonas sagt, sie sei nicht statisch, sondern unterliege selbst einem Wandel) zu zeichnen.

Versuche ethischer und rechtlicher Regelungen für KI laufen daher ins Leere, solange sowohl die dystopische Sicht (unter Berücksichtigung von Jonas’ Konzeption der “Fernwirkung der Technik”: Kollateralschäden sowie Auswirkungen auf die Zukunft) nicht jedem klar als auch der utopische Zukunftsentwurf (Charta) verhandelt ist. Symptomatisch hierfür ist der von Asilomar angeregte Grundsatz: “Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards” (Principles No. 5). Denn die “safety standards” (oder allgemeiner gesetzliche Regelungen und Limitierungen) gibt es noch nicht, und es wird schwer sein, sie zu finden, insbesondere solange die technologische Entwicklung so viel schneller ist als eine Gesetzgebung reagieren und Rahmen setzen kann.

Daher wirft Asilomar mehr Fragen auf als beantwortet werden. Ein Beispiel: Wir wollen keine autonom handelnden Waffensysteme. Ich zumindest nicht. Die Unterzeichner der Asilomar-Prinzipien hingegen haben offenbar nichts gegen solche Waffen. Das Einzige, das sie problematisieren, ist ein Wettrüsten mit diesen Systemen (Principle No. 18). An diesem Beispiel lässt sich gut illustrieren, wie schwierig es ist und weiterhin sein wird, so etwas wie einen gesellschaftlichen Konsens zu erwirken.

Asilomar versuchte das für sich im Kleinen wie folgt zu lösen: “This consensus allowed us to set a high bar for inclusion in the final list: we only retained principles if at least 90% of the attendees agreed on them”[1]. Diese “high bar” der Inklusion gilt damit aber auch für kritische Stimmen und Minderheiten, die folglich ausgeschlossen werden! Da ist es kaum verwunderlich, dass “An arms race in lethal autonomous weapons should be avoided” (Principle No. 18) aufgenommen wurde, aber kein grundsätzlicher Bann von autonomen Waffen ausgesprochen wurde. Hieran zeigt sich das Problem der exklusiven Utopie-Prämisse: es erfordert 90% Zustimmung, um ein Verbot durchzusetzen. Bei einer Dystopie-Prämisse, der dem europäischen Vorsorgeprinzip entspräche, würde eine Zulassung 90% Zustimmung erfordern. Die Frage müsste nach meiner Auffassung also lauten: sind 90% der Menschen für autonome Waffensysteme? Dann könnte man sie erlauben. Aber sie sollte eben nicht heißen: Findet sich eine Minderheit von 10%, die den Bann verhindert?

Die Schärfe steckt dabei oft im Detail. So ist die Formulierung von “The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty” (Principles No. 13) äußerst subtil: Der Einsatz von KI darf den Unterzeichnern von Asimolar zur Folge also durchaus menschliche Rechte beschneiden, nur nicht in einer Weise, die als “unreasonably” (wahlweise zu übersetzen mit unvernünftig, unangemessen oder übertrieben)[10] charakterisiert wird. Nach meinem Verständnis einer demokratischen Gesellschaft sind Freiheitsrechte ein hohes Gut und gesetzlich geregelt und eine Einschränkung den Gerichten — unter hohen Auflagen — vorbehalten. Eine Abweichung davon ist Notstand oder in dessen Dauerzustand Totalitarismus.

Eine Technologieform, die globale Auswirkungen haben kann (das scheint bei den Möglichkeiten von KI zuzutreffen wie bei der Atombombe), muss global kontrolliert werden können. Eine zentrale Frage wird sein, wie unsere gegenwärtigen Wirtschafts- und Gesellschaftssysteme so umzugestalten sind, dass sie eine globale und auch langfristige, nachhaltige Perspektive begünstigen.

Anmerkungen:

[1] https://futureoflife.org/ai-principles/
[2] https://futureoflife.org/2017/01/17/principled-ai-discussion-asilomar/
[3] https://futureoflife.org/bai-2017/
[4] Stop Autonomous Weapons (2017): Slaughterbots. Online verfügbar unter https://www.youtube.com/watch?v=9CO6M2HsoIA&t=
[5] Neben den Daten, die Menschen von sich direkt oder indirekt preisgeben (etwa durch soziale Medien, Nutzung von Suchmaschinen, Einsatz von IoT) und gegen die sich ein jeder wehren könnte, ist die Bedeutung einer Sammlung von Daten durch Sensoren (angefangen mit Überwachungskameras) nicht zu unterschätzen. Auch aktuelle Entwicklungen in Richtung “Neuro-Daten” sind zu beobachten: Schnabel, Ulrich (2017): Attacke aufs Gedankenstübchen. Forscher fordern, Neurotechniken besser zu regulieren. In: Die Zeit, 30.11.2017, S. 37.
[6] Assheuer, Thomas (2017): Die Big-Data-Diktatur. In: Die Zeit, 30.11.2017, S. 47.
[7] Der gewählte Begriff “history” passt hier nicht, da Geschichte rückwärtig ist. “Course of life” wäre geeigneter. Was mich an dieser Formulierung auch stört, ist die teleologische Vorstellung eines Ziels menschlicher Existenz.
[8] Diamond, Jared (2010): Kollaps. Warum Gesellschaften überleben oder untergehen. 4. Aufl. Frankfurt am Main: Fischer-Taschenbuch-Verl. (Fischer Taschenbücher, 16730).
[9] Jonas, Hans (1979): Das Prinzip Verantwortung. Versuch einer Ethik für die technologische Zivilisation. 1. Aufl. Frankfurt am Main: Insel-Verl.
[10] Der Begriff ist selbst wertbehaftet.

 


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.