Anything that is in the world when you’re born
is normal and ordinary and is just a natural part
of the way the world works.
Anything that’s invented between when you’re
fifteen and thirty-five is new and exciting and
revolutionary and you can probably get a career in it.
Anything invented after you’re thirty-five is
against the natural order of things.

Douglas Adams

Es geht um Intelligenz, um künstliche Intelligenz und um kluge Regulierung. Und auch wenn niemand genau weiss, was das ist, Intelligenz: Sobald von ihr die Rede ist, wird es heikel. Denn einerseits gehört Intelligenz zu den seltenen Dingen, bei denen man überzeugt ist, dass nur andere davon zu wenig haben – im eigenen Haushalt wird sie kaum vermisst. Auf der anderen Seite ist hierzulande viel Brillanz verdächtig. In der Schweiz ist es mit der Intelligenz wie mit der Unterwäsche: Jeder ist dankbar, wenn er welche hat, aber man sollte sie nicht überall herumzeigen.

Von der künstlichen Intelligenz weiss man noch weniger, was sie ist – und mir persönlich ist immer noch diese Definition am liebsten: «Artificial Intelligence is the art of making computers that behave like the ones in movies»(1) . Doch das Terrain ist nicht weniger glitschig. Denn künstliche Intelligenz ist faszinierend, aber auch undurchsichtig und unberechenbar. Was kann sie wirklich, und was wird sie einmal können? Wie weit auf dem Weg von «Deep Learning» zur «Artificial General Intelligence» sind wir? Wie viele Berufe werden verschwinden, und welche Anwendungen werden noch auftauchen? Es geht ja längst um viel mehr als um Schach oder Go. Und auch bei Watson ist es nicht eigentlich um ein Gesellschaftsspiel gegangen. Ob nun am Finanzmarkt eingesetzt, bei der Überwachung von Menschen, im Gesundheitswesen oder in der Waffentechnologie, so ganz geheuer ist uns die Sache nicht. Und vermessen ist es ja schon, was hier probiert wird: Ich meine, wir machen uns daran, das menschliche Gehirn nachzubauen und schaffen es nicht einmal, einen Laubbläser auf den Markt zu bringen, der nicht so grauenhaft heult, als trete man einer Katze auf den Schwanz.

Hier an dieser Stelle sprach vor knapp dreissig Jahren Friedrich Dürrenmatt. «Mit der heitersten Miene sagte er die grimmigsten Dinge», meinte später Peter von Matt über die Rede von der Schweiz als Gefängnis. Und vor knapp 60 Jahren wurde nicht weit von hier Dürrenmatts «Die Physiker» das erste Mal aufgeführt. Auch dort sagte er im heitersten Stil die grimmigsten Dinge: Einstein alias Newton zum Inspektor: «Möchten Sie mich verhaften, weil ich die Krankenschwester erdrosselt oder weil ich die Atombombe ermöglicht habe?» …. Möbius am Schluss: «Nur im Irrenhaus sind wir noch frei, ... in der Freiheit sind unsere Gedanken Sprengstoff!».

Wenn Dürrenmatt noch lebte, würde er vielleicht zum Spass eine andere, neue Version verfassen. Statt «Die Physiker» würde sie «Die Informatiker» heissen. Hauptfiguren wären wohl Alan Turing, Johnny von Neumann und Norbert Wiener. Statt die Krankenschwester mit der Gardinenkordel zu erwürgen, entwerfen die drei gemeinsam einen Algorithmus und schmuggeln ihn auf einem USB-Stick hinaus. Und statt Texte» zu erfinden und sie seinen Figuren in den Mund zu legen, könnte sich Dürrenmatt an tatsächlich Gesagtes halten. Johnny von Neumann zum Inspektor: «Computers are like humans. They do everything except think.». Alan Turing am Schluss: «If a machine is expected to be infallible, it cannot also be intelligent.».

Es wäre ein Remake nur zum Spass. Denn die wichtigen Fragen sind längst gestellt: Wie regulieren wir Technologien, die wir nicht gänzlich verstehen? Welche Maschine bauen wir, welche besteuern wir und welche verbieten wir? Wer übernimmt wofür die Verantwortung, wenn die Maschine Schaden anrichtet. Seit der industriellen Revolution werden solche Fragen formuliert, und seither haben wir uns auch durchgewurstelt. Seit die französischen Arbeiter ihre „Sabots“ – ihre Holzschuhe – in die Mäh- und Dreschmaschinen warfen und damit den Begriff der „Sabotage“ begründeten, wird auf die sozialen Veränderungen verwiesen, die den wichtigen technischen Innovationen folgen. Und spätestens seit Leo Szilard 1933, beim Spazieren in Bloomsbury, auf den Gedanken kam, mit Uranisotopen Kettenreaktionen auszulösen, besteht die Befürchtung, der nächste technologische Fortschritt könnte uns um die Ohren fliegen.

Bis anhin ist das nicht passiert. Aber gut möglich, dass aus der Zukunft betrachtet unsere Zeit als ein gewaltiger Umbruch erkannt wird, den wir mehr oder weniger verschlafen haben. Es erinnert mich an das Ende der 1980er-Jahre, als ich nach Moskau versetzt wurde, an unsere Botschaft in der Sowjetunion. (Der hier anwesende) Garry Kasparov lebte damals auch in der Sowjetunion, und wir haben nicht nur das gemeinsam: Wir sind gleich alt, wir haben beide eine Beziehung zu Berg-Karabach, und gegen Deep blue hätte ich – wahrscheinlich – auch verloren.

Kaum einer hat jene letzten Jahre der Sowjetunion besser beschrieben als Alexei Yurchak. Sein Buch trägt einen Titel, der einmal auch bei uns für eine ganze Generation stehen könnte: «Everything was forever, until it was no more.». Und in der Einleitung schrieb er diesen Satz, der einem nicht mehr aus dem Kopf will, sobald man ihn gehört hat: «A peculiar paradox became apparent in those years: Although the system’s collapse had been unimaginable before it began, it appeared unsurprising when it happened.». Denn wenn Sie genauer hinschauen: Das trifft fast für alle Umbrüche zu. Vorher scheint alles stabil, und nachher ist alles anders. Und man wirft sich vor, man hätte es schon vorher wissen oder mindestens ahnen können. Vor allem im Bereich der Technik werden die Konsequenzen verdrängter Vorsicht immer drastischer. «Unimaginable before it began, but unsurprising when it happened.». Ob nun bei der Waffenproduktion, beim Klima oder eben bei der künstlichen Intelligenz: Es wird immer entscheidender, ob wir es fertig bringen, Technik von Anfang an klug zu regulieren.

Warum ist diese Regulierung denn so schwierig? Aus der Sicht von Bundesbern, also des national bedeutendsten Produzenten und Detailhändlers von Regulierungen, nur vier Gründe zur Erinnerung:

Erstens: Moderne Technik im Allgemeinen und künstliche Intelligenz im Speziellen ist deshalb schwierig zu regulieren, weil man gleichzeitig zwei Risiken vermeiden möchte: Das Risiko, eine Chance zu verpassen, wenn man zu früh verbietet, und das Risiko, dass man Schaden anrichtet, wenn man zu spät verbietet. Wir leben ja nicht zufällig 27 Jahre länger und ziemlich bequemer als vor hundert Jahren. Viele grossartige Innovationen haben dazu beigetragen. Es ist recht billig, am Morgen über den technischen Fortschritt die Nase zu rümpfen, und ihn am Nachmittag zu nutzen, als hätte man selbstverständlich darauf Anspruch. Und man ist auch nicht unbedingt gescheiter, nur weil man sich technologiekritisch gibt.

Leider ist nicht bei jeder Innovation leicht abzuschätzen, ob sie sich durchsetzen wird oder durchsetzen soll. Als Churchill 1915, mitten im ersten Weltkrieg, einem französischen General seine Theorie der «land cruisers» – so nannte er die Panzer damals – erläuterte, hielt Letzterer die Idee für völlig absurd, und als Churchill gegangen war, meinte der französische Militär zum Begleiter des britischen Ministers: «Your politicians are even funnier than ours.». Dieses Problem – die Möglichkeiten und die Gefahren einer Technik zu erkennen, bevor sie eingesetzt und weiterentwickelt wird – ist geblieben, und wird laufend komplexer. Schon bis anhin haben wir die Software nicht verstanden, die wir verwenden. Und in Zukunft werden wir sie erst verstehen können, wenn wir sehen, was sie aus den Daten gemacht hat. Das ist nicht sehr befriedigend. Aber umgekehrt deswegen gleich «die Singularität» heraufzubeschwören und das Bundeshaus zu evakuieren, ist wahrscheinlich noch verfrüht. Also, wo ist der richtige Weg dazwischen?

Zweitens: Regulieren ist schwierig, wenn viel Geld im Spiel ist. Sie kennen die alte Weisheit, wonach es nicht einfach wird, jemandem etwas verständlich zu machen, wenn dessen Salär davon abhängt, es nicht zu verstehen. Das sehen Sie auch in anderen Bereichen, bei der Entsorgung gefährlicher Abfälle, bei der Biodiversität in der Landwirtschaft oder eben beim Klima, wo Regulierung noch dringlicher wäre. Im Fall der künstlichen Intelligenz geht es um sehr viel Geld. Denn der grösste Teil der künstlichen Intelligenz wird für Werbung verwendet. Und ein weiterer Teil für nationale Sicherheit. Und zwar in relativ wenigen Händen: Die gegenwärtigen und wohl auch künftigen Anwendungen werden weltweit im Wesentlichen nur von neun Tech-Giganten kontrolliert. Sechs dieser Unternehmen, Google, Microsoft, Amazon, Facebook, IBM und Apple, sind in den USA zu Hause. Die anderen drei operieren in China: Baidu, Alibaba und Tencent. Und Sie wissen: Wer die Codes schreibt, bestimmt auch viele Regeln.

Dazu kommt, drittens: Richtig schwierig wird Regulierung, wenn sie international erfolgen soll. Denn der Wille zur multilateralen Zusammenarbeit wird bis heute weitgehend davon abhängig gemacht, ob man kurzfristig selber davon profitiert. Ausnahmen bilden grosse Katastrophen und fürchterliche Kriege. Und beides möchte man mit Regulierungen eigentlich verhindern. Die Grenzen der Anwendungen im Bereich der künstlichen Intelligenz müssen zum grössten Teil international bestimmt werden.

Und viertens: Regulierung ist so schwierig, weil Politik nicht Mathematik ist. In der Regel kennt jedes Gesetz und jede Verordnung Ausnahmen, und Ausnahmen von den Ausnahmen, und dann verschiedene Ausnahmen der Ausnahmen von den Ausnahmen, und oft zu Recht. Die Realitäten im Leben sind vielfältig und sperrig, und eine Regulierung der Technik zu finden, welche dieser Vielfalt gerecht wird und sie in Artikeln abbildet, braucht seine Zeit. Unsere Verfassung wurde in 51 Tagen geschrieben, an der Revision des Datenschutzgesetzes basteln wir schon seit Jahren. Und das nicht, weil die Parlamentarier von heute in den Kommissionszimmer Minigolf spielen, statt zu legiferieren.

Im Bereich der künstlichen Intelligenz werden darüber hinaus von den Algorithmen Lösungen ethischer Fragen erwartet, die wir selbst im realen Leben nicht gelöst haben. Ich meine, wie soll sich ein selbstfahrendes Auto gegenüber Velofahrern verhalten? Ein Blick in den Zürcher Feierabendverkehr genügt, um abzuschätzen, dass dafür ein ziemlich subtiler Algorithmus notwendig ist. Sogar die Software zwischen unseren Ohren produziert in solchen Fällen Abstürze und verbale Errormeldungen.

Meine Damen und Herren, das sind nur vier Schwierigkeiten beim Regulieren, es gäbe wie angetönt noch mehr. Zahlreiche technische Innovationen haben uns das Leben in der Vergangenheit sehr viel leichter gemacht, und mindestens ebenso viele hatten unbeabsichtigte Folgen. Umso wichtiger scheint es mir, ist es, sich mit ihnen zu befassen und sie zu studieren, zu verstehen versuchen, was da abgeht und sie drei Mal umzudrehen, bevor man an sie „glaubt“ oder sie zum Vornherein verteufelt. Die Arbeit der heute ausgezeichneten IBM, welche mit Watson bereits sehr viele, nützliche Anwendungen findet, ist dafür ein gutes Beispiel, dass man eben nicht nur forschen soll, sondern Forschung auch erklären können muss. Die Regulierer der künstlichen Intelligenz sollten Forschung fördern, sie sollten mit den Wissenschaftlern sprechen, sie sollten den Austausch zwischen Wissenschaft und Wirtschaft und Verwaltung fordern, und sie sollten rechtzeitig mit den Behörden anderer Staaten nach umsichtigen, verständlichen und wirksamen Regeln suchen.

Bekanntlich gibt es viele Beobachter, die in den Fortschritten der letzten acht, neun Jahren im Bereich der künstlichen Intelligenz ein gewaltiges Potenzial für dieses Jahrhundert erkennen. Vergleichbar mit der industriellen Revolution und der Einführung der Elektrizität. Andere sehen das Ende der Menschheit vor sich, wenn wir nicht sofort den Stecker ziehen. Und wieder andere meinen: «Eure Probleme möchten wir haben. Wir wären dankbar, wenn wir schon eine Steckdose hätten, aus der wir etwas herausziehen könnten. Und im Übrigen haben wir auch noch keine Toilette!».

Ja, zurzeit haben wir weltweit statt mit künstlicher Intelligenz vor allem mit natürlicher Dummheit zu kämpfen. Und nochmals ja, gute Regulierung ist auch eine Frage der richtigen Priorisierung. Wir haben eine Tendenz, hektisch zu sein in den kleinen Dingen, und fatalistisch in den Grossen; wir kümmern uns mit Akribie um die überschaubaren Geschäftchen und betrachten insbesondere die fundamentalen Veränderungen der Digitalisierung wie ein Naturphänomen: Nicht aufzuhalten, nicht zu steuern und kaum zu bremsen. In der Regel sind das Ausreden. Stephen Hawking bemerkte einmal auf die ihm eigene Weise, es sei ihm aufgefallen, dass selbst jene Leute, die davon ausgehen, alles sei vom Schicksal vorherbestimmt, nach links und nach rechts schauen, bevor sie die Strasse überqueren. Es ist eben nicht alles vorherbestimmt, im Gegenteil, es hängt von uns ab, vielleicht nicht nur von uns hier, aber auch von uns hier. Und dieses Gestalten nennt man Politik.

Meine Damen und Herren, im Namen des Bundesrates gratuliere ich den Preisträgern des diesjährigen Gottlieb-Duttweiler-Preises herzlich zu ihrer Auszeichnung. Auch wenn vielen Schweizerinnen und Schweizern Duttweiler nur als Gründer der Migros und allenfalls noch als jener Politiker bekannt ist, der aus dem kleinen Büro des Weibels im Bundeshaus Ost zwei Steine aus dem Fenster auf den Vorplatz warf: Gottlieb Duttweiler war ein sehr wissbegieriger und experimentierfreudiger Mensch, der an den diesjährigen Preisträgern von IBM Watson seine Freude gehabt hätte. Er war Zeit seines Lebens an umsichtiger Regulierung interessiert, und er war äusserst einfallsreich im Marketing. Und wäre er heute hier, dann würde er bestimmt in einem T-Shirt herumspazieren, mit den drei Buchstaben IBM vorne aufgedruckt…, aber ergänzend darunter die drei Worte: „Ich Bin Migros“.

Ich wünsche Ihnen einen heiteren Abend, viel gute Unterhaltung und wenig gekünstelte Intelligenz.

(1)Die Definition stammt von William C. Bulko, University of Texas, Dept. of Computer Science. Es entzieht sich meiner Kenntnis, wieweit diese Definition der künstlichen Intelligenz in einem Zusammenhang steht zu Bulkos langjährigem Engagement bei IBM…

Künstliche Intelligenz oder Das Erfordernis einer klugen Regulierung