Informatiker Prof. Karl Hans Bläsius „Dann bekommen wir Situationen, die von Menschen kaum noch kontrollierbar sind“
Interview | Trier · Atomwaffen dienen etlichen Ländern als wichtige Grundpfeiler ihrer Abschreckungsstrategie. Auch wenn diese Strategie bisher einen bewussten Einsatz von Atomwaffen verhindert hat, schützt sie nicht automatisch auch vor einem Atomkrieg aus Versehen. Davor warnt der Trierer Informatik-Professor Karl Hans Bläsius im Interview mit unserer Redaktion.
Fake oder bittere Realität? Gibt es wirklich Mini-Drohnen, die Personen gezielt ansteuern und Töten können?
BLÄSIUS Das ist kein Fake. Führende Wissenschaftler im Gebiet Künstliche Intelligenz haben 2017 den Film „Slaughterbots“ vorgestellt, in dem gezeigt wird, was bereits in naher Zukunft möglich sein wird. Ihr Anliegen war es, auf drohende Gefahren hinzuweisen. Es gibt Anzeichen für solche Entwicklungen, es ist aber schwer zu sagen, ob es derartige Systeme heute bereits gibt. Entwicklungen dieser Art werden weitgehend im Verborgenen erfolgen. Möglicherweise erkennt man die Existenz solcher Waffen erst, wenn sie eingesetzt werden. Damit es keine Missverständnisse gibt, möchte ich betonen, dass ich sehr positiv zur Künstlichen Intelligenz eingestellt bin. Wie bei anderen technischen Entwicklungen können große Fortschritte für die Menschheit erreicht werden, beispielsweise in der Medizin. Aber man sollte auch mögliche Gefahren kennen und vermeiden.
Wie funktionieren diese Waffen?
BLÄSIUS Ausgestattet mit Kameras und eventuell weiterer Sensoren kann eine solche Drohne mit automatischer Bilderkennung einen Weg zu einem Ziel suchen und mit automatischer Gesichtserkennung Personen identifizieren. Nach Erreichen des Ziels kann eine tödliche Sprengladung gezündet werden.
Was sind autonome Waffen?
BLÄSIUS Der Begriff „autonome Waffen“ kann unterschiedlich eng oder weit gefasst werden. Streng genommen versteht man darunter ein Gerät, das nach seiner Aktivierung mit Hilfe von Sensoren und Software selbstständig ohne menschliche Kontrolle einen Weg zu einem Ziel sucht und dort selbstständig Operationen auslösen kann, beispielsweise um etwas zu zerstören oder auch Menschen zu töten.
Warum sind diese gefährlicher/problematischer als normale Waffen?
BLÄSIUS Im Vergleich mit Menschen können Computer militärische Situationen schneller bewerten und schneller Angriffsentscheidungen treffen. Dies führt zu einer Komplexität und Dynamik von Angriffssituationen, für die Abwehrmaßnahmen kaum möglich sind und die von Menschen kaum noch kontrollierbar sind. Setzen beide Seiten in einer Kriegssituation solche vollautonomen Waffensysteme ein, kann es unvorhersehbare Interaktionen zwischen diesen Waffensystemen geben, die in kurzer Zeit eine Kettenreaktion von Angriffen und Gegenangriffen auslösen und damit zu einer Eskalationsspirale führen, die nicht mehr beherrschbar ist. Besonders gefährlich kann es werden, wenn dabei auch Wechselwirkungen mit Nuklearstreitkräften möglich sind, beispielsweise durch unbemannte U-Boote.
Sie und andere Wissenschaftler warnen vor einem Atomkrieg aus Versehen. Wie kann es dazu kommen?
BLÄSIUS Die nukleare Abschreckungsstrategie beinhaltet auch den Betrieb von Frühwarnsystemen zur Erkennung eines Angriffs mit Atomwaffen. Hierbei kann es aber zu Fehlalarmen kommen, bei denen nukleare Angriffe gemeldet werden, obwohl kein Angriff vorliegt. Solche Fehlalarme sind besonders gefährlich im Falle von internationalen Krisen oder in Kriegen mit Atomwaffenstaaten, weil dann einem Gegner ein solcher Angriff vielleicht zugetraut werden kann. Die Risiken steigen, wenn in zeitlichem Zusammenhang mit einem Fehlalarm weitere negative Ereignisse eintreten, die damit in Zusammenhang gesetzt werden können und somit die Angriffsmeldung plausibel erscheinen lassen, auch wenn es sich um unabhängige nur zufällig gleichzeitige Ereignisse handelt.
Und dann?
BLÄSIUS So können in Zusammenhang mit Atomwaffen in Frühwarnsystemen als Folge falscher Einschätzungen plötzlich und ohne Vorwarnung innerhalb weniger Minuten Prozesse ablaufen, die zum Einsatz vieler Atomwaffen führen und das Überleben der gesamten Menschheit gefährden. In der Vergangenheit gab es einige Situationen, in denen es nur durch großes Glück nicht zu einem Atomkrieg aus Versehen kam. Die Abschreckungsstrategie schützt nicht vor einem „Atomkrieg aus Versehen“.
Gibt es keine Mechanismen, die so etwas verhindern können?
BLÄSIUS Frühwarnsysteme könnten verbessert werden, damit weniger Fehlalarme auftreten. Dies erhöht aber nicht notwendig die Sicherheit. Denn wenn nur noch selten Fehlalarme auftreten, sind diese um so gefährlicher. Seltene und ungewöhnliche Fehler sind schwerer zu bewerten und erhöhen das Risiko, dass von einem echten Angriff ausgegangen wird. Es ist technisch nicht möglich, ein System zu entwickeln, das alle Angriffe erkennt aber keine Fehlalarme auslöst. Auch mit Hilfe von Künstlicher Intelligenz ist dieses Problem nicht lösbar. Die für eine Bewertung einer Alarmmeldung verfügbaren Daten sind vage, unsicher und unvollständig. Deshalb können auch KI-Systeme in solchen Situationen nicht zuverlässig entscheiden. In der kurzen verfügbaren Zeit wird es auch kaum möglich sein, Entscheidungen der Maschine zu überprüfen. Aufgrund der unsicheren und unvollständigen Datengrundlage werden weder Menschen noch Maschinen in der Lage sein, Alarmmeldungen zuverlässig zu bewerten.
Sie warnen in diesem Zusammenhang auch vor Falschmeldungen. Was können solche Fakenews anrichten?
BLÄSIUS Cyberangriffe können auf unterschiedliche Art in Frühwarnsysteme für nukleare Bedrohungen eingreifen und beispielsweise Informationen fälschen. Eine Bewertung von Alarmsituationen erfolgt in mehreren Stufen bis zur Einbeziehung eines Präsidenten. Hierbei könnten in den Entscheidungsprozess auch mit deepfake gefälschte Videos eines Befehlshabers eingeschleust werden, der falsche Befehle erteilt.
Was könnte man tun, um das Risiko eines Atomkriegs aus Versehen zu minimieren?
BLÄSIUS Zwischen den großen Atommächten muss es ein gewisses Maß an Vertrauen, Kommunikation und Zusammenarbeit geben. Je besser solche Aspekte ausgeprägt sind, desto geringer sind die Risiken eines Atomkriegs aus Versehen. Bekannt ist in diesem Zusammenhang das „Rote Telefon“ als direkte Verbindung zwischen Staatschefs. Das Atomkriegsrisiko könnte reduziert werden mit Vereinbarungen, die vorsehen, den permanenten Bereitschaftszustand von Atomwaffen zu beenden. Natürlich wäre es auch sinnvoll, die Zahl der Atomwaffen zu reduzieren. Wenn die großen Atommächte gemeinsam ein Frühwarnsystem zur Erkennung von nuklearen Angriffen betreiben würden, könnte das Risiko eines Atomkriegs aus Versehen drastisch sinken. Dazu wäre aber ein hohes Maß an gegenseitigem Vertrauen erforderlich. In den 1990er Jahren gab es solche Überlegungen.
Sie sagen, dass die Gefahr einer atomaren Auseinandersetzung in den nächsten Jahren weiter zunehmen wird: Warum?
BLÄSIUS Einerseits werden die Folgen des Klimawandels und der Kampf um benötigte Ressourcen zu mehr Krisen und vielleicht auch militärischen Auseinandersetzungen führen. Andererseits werden neue technische Entwicklungen, wie Hyperschallraketen, Weltraumbewaffnung, Cyberwaffen und immer mehr Autonomie in Waffensystemen die Komplexität von Frühwarnsystemen und Bedrohungssituationen so stark erhöhen, dass die Beherrschbarkeit solcher Systeme immer schwieriger wird.
Sie haben jetzt viele wirklich düstere Szenarien beschrieben. Gibt es in diesem Themenspektrum auch Punkte, die Anlass zu Optimismus oder zumindest Hoffnung geben?
BLÄSIUS Nach der Cuba-Krise gab es wichtige Vereinbarungen zu Atomwaffen. Das Ende des Kalten Krieges in den 1980er Jahren führte zur Vernichtung einer ganzen Kategorie von Atomwaffen. Vielleicht kann mit einem Ende des Ukraine-Krieges auch eine neue Phase der Zusammenarbeit beginnen. Die Globalisierung der Wirtschaft in den letzten Jahrzehnten hat ein gewisses Maß an „Internationaler Verflechtung“ bewirkt, wodurch militärische Konflikte eigentlich verhindern werden sollten. Der Aspekt „Wandel durch Handel“ war nicht ausreichend, um den Ukraine-Krieg zu verhindern. Hierzu wären noch weitere Maßnahmen erforderlich gewesen. Eine solche Strategie ist aber notwendig für eine dauerhafte globale Sicherheit.
Was heißt das konkret?
BLÄSIUSJetzt wäre es besonders wichtig, die Zerstörung der Beziehungen zwischen großen Nuklearmächten zu stoppen und diesen Prozess wieder umzukehren. Die Verbesserung von Beziehungen kann auf allen Ebenen erfolgen: wissenschaftlich, wirtschaftlich, technologisch, kulturell, militärisch und auch privat. Je mehr Kontakte es auf diesen Ebenen gibt, desto geringer ist das Risiko eines ungebremsten Rüstungswettlaufs auf technologisch wichtigen Feldern wie der Künstlichen Intelligenz und desto geringer ist das Atomkriegsrisiko. Die insbesondere durch die Globalisierung erreichten internationalen Verflechtungen sollten nicht rückgängig gemacht, sondern gestärkt und durch vertrauensbildende Maßnahmen zwischen allen Staaten ergänzt werden.
