In diesen Tagen von einer nächsten Welle zu schreiben, klingt nach Klimapolitik oder gar nach Katastrophentourismus. Auch wenn im Folgenden viel von Eindämmung die Rede sein wird, geht es nicht um Dämme gegen die Naturgewalt des Wassers. „Eine Eindämmung ist nicht möglich.“ So überschreibt Mustafa Suleyman das erste Kapitel seines Buches „The Coming Wave“. Der Mitbegründer des KI- Unternehmens Deep Mind hat viele Jahre in führender Funktion bei Alphabet, dem Mutterkonzern von Google gearbeitet.
Und nun hat der KI-Pionier im vergangenen Jahr ein Buch vorgelegt, das von der unmöglichen Möglichkeit handelt, eine gewaltige technologische Welle einzudämmen. Diese Welle sieht er durch zwei sehr elementare Größen gekennzeichnet: Intelligenz und Leben. Die Entwicklungen im Bereich Künstlicher Intelligenz und synthetischer Biologie identifizieren Mustafa Suleyman und sein Ko-Autor Michael Bhaskar als die zentralen Kräfte einer Technologiewelle, die das 21. Jahrhundert ob wir wollen oder nicht bestimmen wird.
Wie einige andere Pionier:innen der KI-Forschung sieht sich Suleyman gerufen, vor den Gefahren dieser Welle zu warnen: „Mit den Fortschritten, die die Technologie im Laufe der Jahre gemacht hat, sind meine Bedenken gewachsen. Was wenn die Welle in Wirklichkeit ein Tsunami ist?“ (S.16) Damit die Welle nicht katastrophal wird oder die Menschheit in eine Richtung spült, die durch Überwachung und Unfreiheit gekennzeichnet ist, brauche es starke Dämme für die sich abzeichnende Welle:
Trotz der vielen Bücher, Debatten, Blogeinträge und Tweetstorms über Technologie hört man selten etwas über deren Eindämmung. Ich verstehe darunter ein ineinandergreifendes Bündel technischer, gesellschaftlicher und rechtlicher Mechanismen, die die Technologie auf allen möglichen Ebenen einhegen und kontrollieren ... selbst die schärfsten Kritiker der Technologie neigen dazu, dieser Sprache des harten Containment ausweichen. Das muss sich ändern. (18)
Entschieden plädiert der Autor dagegen, angesichts der Aufgabe und der Gefahren, den Kopf in den Sand zu stecken, und dem Motto zu frönen Es wird schon alles nicht so schlimm kommen. „Die kommende Technologiewelle droht schneller und in größerem Umfang zu versagen als alles, was die Menschheit bisher erlebt hat.“ (27) Für Suleyman hängt dies mit vier zentralen Merkmalen zusammen, die die kommende Welle kennzeichnen: Asymmetrie (z.B. kleine Hackergruppen, die große Organisationen lahmlegen), Hyper-Evolution (die exponentielle Beschleunigung beim Innovationstempo), Allzwecknutzung (die universelle Einsetzbarkeit der neuen Technologien) und Autonomie (der technischen Systeme). „Ein Paradoxon der kommenden Welle besteht darin, dass ihre Technologien größtenteils jenseits unserer Fähigkeit liegen, sie auf Detailebene zu verstehen, wir aber weiterhin in der Lage sind, sie zu schaffen und zu nutzen.“ (137)
Den vierten und letzten Teil seines Buches überschreiben Suleyman und Bhaskar Durch die Welle hindurch. Damit drückt er die unhintergehbare Ambivalenz und Ambiguität der Technik aus:
Wenn die in diesem Buch bekundete Einstellung zur Technologie widersprüchlich anmutet, teils positiv, teils Unheil verkündend, so liegt das daran, dass eine solche widersprüchliche Sichtweise die ehrlichste Einschätzung des Status quo ist. Unsere Urgroßeltern wären erstaunt über die Fülle unserer Welt. Aber sie wären auch erstaunt über ihre Fragilität und ihre Gefahren. ... Die Technologie ist das Beste und das Schlechteste von uns Menschen. Es gibt keine fein säuberliche, einseitige Sichtweise, die ihr gerecht wird. Der einzige kohärente Ansatz in Sachen Technologie besteht darin, beide Seiten gleichzeitig zu sehen. (260)
Für die erforderliche Eindämmung reiche der Ruf nach Regulierung allein nicht aus, so wichtig sie (z.B. der AI-Act der EU) auch ist. Die Einhegung der Technologie müssen auf allen Ebenen erfolgen und sie dabei stets in Richtungen lenken, die leichter zu kontrollieren sind. Wenn es dabei heißt „Je größer das Potenzial für offensive Aktionen oder Autonomie ist, desto größer ist auch der Bedarf an Eindämmung“ (274), dann klingt in dieser „ganzheitlichen Vision der Eindämmung“ doch auch ein Grundsatz an, der in der EU das AI- Gesetz leitet: Je risikoreicher das mögliche Einsatzgebiet, desto größer die Schranken Dass die Vorschläge des Buches aber dann doch weit darüber hinaus gehen, verdeutlichen die abschließend vorgestellten Zehn Schritte hin zur Eindämmung:
Hier gibt es ein klares Muss: Es gilt, viel mehr Arbeit in diesem Bereich (der KI-Sicherheitsforschung) zu fördern, Anreize dafür zu schaffen und sie direkt zu finanzieren. Es ist Zeit für ein Apollo-Programm zur KI-Sicherheit und zur biologischen Sicherheit. Hunderttausende sollten daran arbeiten. Konkret wünschenswert wäre eine Gesetzgebung, die vorschreibt, dass ein fester Anteil – sagen wir mindestens 20 Prozent – der Forschungs- und Entwicklungsbudgets von Pionierunternehmen in die Sicherheitsbemühungen fließen sollte ... (283)
Ein letzter Punkt: Wenn Suleyman den Biotechnologen Kevin Esvelt vom MIT zitiert und mit diesem einen „Vertrag über das Verbot von Pandemieversuchen“ fordert, dann ist das in diesen Tagen auch deshalb aktuell, weil in den USA sich – wie die New York Times heute noch einmal dokumentiert – die Indizien verdichtet haben, dass das so unheilvolle Corona-Virus bei der Laborarbeit in Wuhan synthetisch entstanden ist.
Muastafa Suleyman mit Michael Bhaskar: The Coming Wave. Künstliche Intelligenz, Macht und das größte Dilemma des 21. Jahrhunderts. Unter diesem Titel ist das Buch seit diesem Frühjahr im Verlag C.H. Beck auf Deutsch verfügbar. Ich empfehle es zur Lektüre!