Zum Inhalt springen

Künstlich intelligente Waffen Experten fordern Verbot von Killerrobotern

Er hat den Appell an die UNO zwar auch unterzeichnet. Doch eigentlich komme dieser zu spät, sagt der Experte für Künstliche Intelligenz, Jürgen Schmidhuber.

Schmidhuber posiert mit einem Roboter mit niedlichen, kindlichen Gesichtszügen.
Legende: Jürgen Schmidhuber ist Ko-Direktor des Schweizer Forschungsinstituts für Künstliche Intelligenz. ZVG
  • Waffensysteme, die selbständig Entscheidungen treffen können, gehören längst nicht mehr ins Reich der Science Fiction allein. Doch anders als in Literatur und Film, gibt es in der Wirklichkeit möglicherweise kein Happy End.
  • Über 100 Experten für künstliche Intelligenz (KI) aus 26 Ländern warnen in einem offenen Brief an die UNO vor den Gefahren autonomer Waffen.
  • Einmal entwickelt, ermöglichten sie mehr bewaffnete Konflikte denn je und in einer Geschwindigkeit, die Menschen nicht mehr verstünden.
  • Und die Zeit dränge, schreiben die Experten weiter. Sie fordern die UNO dazu auf, autonome Waffen auf eine Verbotsliste zu setzen.

SRF News: Welche Gefahren gehen von Waffensystemen mit künstlicher Intelligenz (KI) aus?

Jürgen Schmidhuber: Alle Internetkonzerne setzen derzeit auf das so genannte Long-Short-Term Memory (LSTM). Das ist ein lernendes, neuronales Netzwerk, das beispielsweise auf Handys die Sprache erkennt, oder das für Google, Facebook und all die anderen die Übersetzungen macht. Milliarden von Leuten verwenden es. Man könnte sagen, das sei doch eine gute Anwendung, und Menschen profitierten davon. Dasselbe LSTM kann aber auch für die Steuerung von Drohnen verwendet werden und dazu, besser Krieg zu führen. Und das stimmt nachdenklich.

Autonome Waffen sind bereits in Gebrauch oder in der Entwicklung. Lassen sie sich überhaupt noch aufhalten?

Ich habe den offenen Brief an die UNO zwar unterschrieben, aber ich glaube nicht, dass diese Entwicklung aufzuhalten ist. Wenn es die Chinesen nicht machen, dann machen es die Amerikaner, die Russen oder andere. Natürlich hat jede Grossmacht Angst, dass die anderen einen Vorsprung erforschen, den sie dann nicht mehr so schnell aufholen kann. Deshalb werden sie alle an den autonomen Waffen weiterforschen.

Ich glaube nicht, dass diese Entwicklung aufzuhalten ist.

Ist bekannt, welche Länder wie weit in der KI-Forschung sind?

Die grundlegenden Ideen in der KI oder dem Deep Learning, wie es jetzt oft genannt wird, kommen alle aus Europa. Es begann vor 50 Jahren in der Ukraine. Heute sind die grossen Firmen, die KI besonders gerne verwenden, vor allem an der US-Westküste und an der Ost-Küste Asiens angesiedelt. Dort sind auch sehr grosse Geheimdienste und Kriegsmaschinerien zu finden.

Drohnen auf grossen Lastwagen an einer Militärparade auf dem Tiananmen-Platz in Peking.
Legende: Entscheiden Chinas unbemannte Drohnen bald selbst, wen sie verfolgen und angreifen wollen? Reuters

Im Gegensatz zu den grossen Firmen, publizieren diese natürlich nicht, was sie alles tun. Aber man muss davon ausgehen, dass sie all das, was für die grossen Firmen gut funktioniert, auch für ihre eigenen Zwecke verwenden. Und die Geheimdienste sind natürlich massiv daran interessiert, alles Material im weltweiten Internetverkehr zu durchforsten, um alle möglichen Vorteile zu gewinnen, und ihre Drohnen sowie automatischen Kämpfer, besser steuern und erfolgreicher machen zu können. Deswegen ist es völlig klar, dass die Grossmächte – und wahrscheinlich auch kleinere wie Israel – ganz viel in der KI forschen.

Also kommt ihr Aufruf zu spät?

Eigentlich kommt er zu spät. Doch man darf nicht vergessen, dass 95 Prozent der KI-Forschung darauf zielen, Menschen länger und besser leben zu lassen – aber auch sie abhängiger von ihren Smartphones zu machen.

Vielen Politikern ist nicht bewusst, wie stark KI heute schon das tägliche Leben beeinflusst und wie rasch die Entwicklung fortschreitet.

Die UNO solle autonome Waffen auf eine Verbotsliste setzen, fordern Sie und die anderen Unterzeichnenden. Was erhoffen Sie sich davon?

Zumindest wird damit mal die öffentliche Aufmerksamkeit ein wenig geschärft. Die UNO hat ja eine lange Tradition, Waffen zu ächten. Allerdings konnte sie nie so viel ausrichten, wenn es um die Interessen von Supermächten ging. Chemische Waffen etwa sind seit langer Zeit verboten, doch die schlimmsten unter ihnen, die Nuklearwaffen, sind es nicht. Das heisst, in dem Masse, wie Supermächte nicht daran interessiert sind, sich irgendetwas verbieten zu lassen, wird es auch nicht wirklich getan. Wahrscheinlich werden wir im Fall der KI-Waffen dasselbe sehen. Insofern ist es recht schwierig, zu viel zu erwarten.

Tödliche autonome Waffen

Heute werden Drohnen, Panzer und U-Boote, die unbemannt unterwegs sind, noch ferngesteuert. Derzeit werden aber Waffensysteme entwickelt, die völlig autonom agieren können. Das heisst sie entdecken die Ziele, wählen sie aus, verfolgen sie und greifen ohne menschliche Kontrolle an. Experten rechnen damit, dass die ersten solchen Waffen in ein paar Jahren einsatzfähig sind.
Die UNO diskutierte im April 2013 erstmals darüber, letale autonome Waffen in die Konvention über «gewisse konventionelle Waffen» (CCW) aufzunehmen. Im letzten November einigten sich die 124 CCW-Mitgliedstaaten, eine Expertengruppe einzusetzen, die formale Verhandlungen vorbereiten soll. Ihr erstes Treffen war für heute in Genf geplant, wegen Geldmangels wurde es jedoch abgesagt. Einige CCW-Mitgliedsstaaten hätten ihre Beiträge nicht bezahlt, teilt die UNO mit.
Das UNO-Übereinkommen über das Verbot oder die Beschränkung des Einsatzes
bestimmter konventioneller Waffen, die übermässige Leiden verursachen
oder unterschiedslos wirken können, trat 1983 in Genf in Kraft. Sie bemüht sich um ein Verbot von Landminen, Napalm, blendenden Laserwaffen und Streumunition.

Die Joint Conference on Artificial Intelligence hat schon vor rund zwei Jahren auf die Gefahren von KI-Waffen hingewiesen. Passiert ist aber nicht viel. Wie erklären Sie sich das Desinteresse der Politik?

Die meisten Politiker haben einen relativ nahen Horizont. Sie sind für vier Jahre gewählt. Daher schauen sie im Durchschnitt vielleicht gerade mal zwei Jahre voraus, um herauszufinden, was sie tun müssen, um wiedergewählt zu werden. Alles, was mit KI zu tun hat, die möglicherweise erst in fünf bis zehn Jahren eine sehr grosse Rolle spielen werden, steht auf ihrer Prioritätenliste nicht ganz oben. Viele von ihnen sind sich auch einfach nicht bewusst, wie stark KI heute schon das tägliche Leben beeinflusst und wie rasch die Entwicklung fortschreitet.

Das Gespräch führte Beat Soltermann.

Der Apell an die UNO

KI-Experten der ganzen Welt treffen sich derzeit im australischen Melbourne zur zweijährlichen Joint Conference on Artificial Intelligence (IJCAI). Der offene Brief an die UNO wurde an der Konferenz initiiert.

8 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Kommentarfunktion deaktiviert

Uns ist es wichtig, Kommentare möglichst schnell zu sichten und freizugeben. Deshalb ist das Kommentieren bei älteren Artikeln und Sendungen nicht mehr möglich.

  • Kommentar von Thomas Heimberg (tomfly)
    Ich bin ein Science-Fiction Fan. Aber es erschreckt mich, dass wir dort angelangt sind, worüber man mich, hätte ich es vor ein paar Jahren prophezeit, ausgelacht hätte. Und es wird noch schlimmer, wir sind auf dem Weg Sklaven der Maschinen (Smartphone) zu werden und werden nun auch noch von einer Maschine getötet und wissen nicht warum. Bei Fehlfunktionen spricht man dann von "Einzelfällen".
    Ablehnen den Kommentar ablehnen
  • Kommentar von Martin Steffen (/\o/\)
    Ich lebe ganz bewusst ohne Smartphone & Co., Google & Co., ohne IoT, "E-...", usw. und versuche, aus jedem Tag hier das Beste zu machen! Heisst: Freundschaften zu Mensch und Tier pflegen, einsame Orte in der Natur aufsuchen und die überwältigende Schöpfung beobachten! Ich staune über die grandiose Natur, das Wunder des Lebens! Sie machen mich ehrfürchtig, demütig! Es braucht eigentlich so "wenig", um glücklich zu sein - was für ein gewaltiger Kontrast zur lebensfeindlichen, digitalisierten Welt!
    Ablehnen den Kommentar ablehnen
    1. Antwort von Thomas Heimberg (tomfly)
      @Steffen: Ich auch, wenn auch nicht ganz konsequent - Internet, Google und Mail sind schon im "Einsatz". Aber ich fürchte mich von der totalen Digitalisierung, Überwachung, Bargeldabschaffung, Entmenschlichung und einer von Wirtschaft und Behörden auferzwungenen Abhängigkeit vom Smartphone, weil es das Analoge nicht mehr geben wird. Weder Wirtschaft noch Behörden sind unsere uneigenützige Wohltäter, sondern da stehen ganz andere Absichten im Hintergrund.
      Ablehnen den Kommentar ablehnen
    2. Antwort von Martin Steffen (/\o/\)
      Thomas Heimberg, Bern: Stimmt! Es bräuchte Einsicht, Mut und Willen der Führer und Mächtigen auf diesem Planeten, diesen Irrweg einzusehen und die Digitalisierung auf diejenigen Bereiche zu beschränken, wo sie auch tatsächlich Sinn macht und keine Bedrohung für uns alle darstellt! Machtgier und Technikgläubigkeit sind leider omnipräsent, die Digitalisierung ist DAS Machtinstrument schlechthin. Ich suche, lebe und schätze deshalb das wahre, das echte Leben ganz bewusst - bis zu meinem Lebensende!
      Ablehnen den Kommentar ablehnen
  • Kommentar von rosi gantenbein (lara croft)
    Fromme Wünsche. Alles, was erfunden worden ist, wird im Krieg eingesetzt. Den netten Krieg gibt es nicht...
    Ablehnen den Kommentar ablehnen