Zum Inhalt springen

Künstliche Intelligenz Elon Musk warnt vor Killer-Robotern auf den Schlachtfeldern

In einem offenen Brief fordern Expertinnen und Experten, dass die UN den Einsatz von autonomen Waffensystemen im Krieg verbietet.

Foto eines humanoiden Roboters auf Handydisplay.
Legende: Achtung Killer-Roboter! Expertinnen warnen vor verheerenden Folgen, wenn man Künstliche Intelligenz im Krieg einsetzt. srf/Bildmontage Getty Images

Worum geht’s?

Zwei Erfindungen haben die Kriegsführung bisher radikal verändert: das Schiesspulver und die Atombombe. Künstliche Intelligenzen und autonome Waffensysteme könnten nun die dritte Revolution der Kriegsführung einläuten.

Das zumindest befürchten der Tesla-CEO Elon Musk und 115 internationale Expertinnen und Experten aus dem Bereich der Künstlichen Intelligenz. In einem offenen Brief, Link öffnet in einem neuen Fenster wenden sie sich an die Vereinten Nationen.

Im Brief warnen sie, dass autonome Waffen verheerende Auswirkungen auf die Kriegsführung haben werden. Nicht nur auf Zivilisten in einzelnen Konfliktgebieten, sondern weltweit.

Sie fordern, dass die UN «einen Weg findet, um uns vor den Gefahren autonomer Waffen zu beschützen» und ein Wettrüsten mit autonomen Systemen zu vermeiden.

Kurz: Die UN soll den Einsatz von selbständigen Killer-Robotern verbieten. Denn wenn diese Büchse der Pandora erst einmal geöffnet sei, sei sie kaum mehr verschliessbar.

Darum ist’s interessant

Seit es Science-Fiction gibt, warnen uns Autorinnen und Autoren mit düsteren Szenarien vor Killer-Robotern. Langsam holt die Realität die Fiktion ein. Weltweit wird an der Entwicklung solcher autonomer Waffensysteme gearbeitet.

Elon Musk hat schon mehrmals nachdrücklich vor den Gefahren bei Künstlichen Intelligenzen gewarnt – sie sogar schon mit herbeigerufenen Dämonen, Link öffnet in einem neuen Fenster verglichen. Er erklärte, er investiere in die KI-Forschung nicht aus finanziellem Interesse, sondern um auf dem Laufenden zu bleiben.

Weniger dramatisch, aber genauso überzeugt, äussert sich der Verfasser des offenen Briefs, Professor Toby Walsh von der Universität in Sydney. Er will KI nicht verteufeln.

In der Pressemitteilung , Link öffnet in einem neuen Fenstersetzt er KI mit anderen Technologien gleich: «Jede Technologie kann für Gutes oder Schlechtes eingesetzt werden. KI ist da genau gleich.»

Ihm geht es vor allem darum, dass autonome Waffensysteme im Krieg verboten werden. Diese hätten das Potenzial, massiven Schaden anzurichten und die Welt zu destabilisieren.

Screenshot

Wir sprechen über aktuelle Geschichten und Debatten im Internet. Von Montag bis Donnerstag um 17.40 Uhr in der Rubrik «Screenshot» bei Radio SRF 2 Kultur.

6 Kommentare

Navigation aufklappen Navigation zuklappen

Sie sind angemeldet als Who ? (whoareyou) (abmelden)

Teilen Sie Ihre Meinung... anwählen um einen Kommentar zu schreiben

Wir haben Ihren Kommentar erhalten und werden ihn nach Prüfung freischalten.

Einen Kommentar schreiben

Bitte beachten Sie unsere Netiquette verfügbar sind noch 500 Zeichen

Es ist ein Fehler aufgetreten. Bitte versuchen Sie es erneut.

  • Kommentar von Oliver St. Holmenolmendolmen (Trottel der feinen Gesellschaft)
    Man muss bei der Betrachtung dieser Fragen ja nicht immer gleich in Fatalismus verfallen. Nüchtern betrachtet hat wohl alleine eine höher entwickelte KI das Potenzial, das geistige Erbe der Menschheit zu bewahren oder das tiefe All zu erforschen. Der menschliche Körper ist dazu angesichts der vielen Risiken einfach zu hinfällig, das Handeln zu irrational, um diese Rolle dereinst selbst spielen zu können. Deshalb greift der Vergleich mit der Entwicklung von Waffensystemen zu kurz.
    Ablehnen den Kommentar ablehnen Antworten anwählen um auf den Kommentar zu antworten
    1. Antwort von Martin Steffen (/\o/\)
      "...höher entwickelte KI das Potenzial, das geistige Erbe der Menschheit zu bewahren ...": Was für eine Kriegserklärung an die Menschheit, an das Leben überhaupt! Technikgläubigkeit bis zum Exzess! Krank! Wahnsinn!
      Ablehnen den Kommentar ablehnen
  • Kommentar von Jean-Philippe Ducrey (Jean-Philippe Ducrey)
    Schwachsinn (wie Tesla auch). Autonome Waffensysteme können einiges, aber im Krieg ist vorallem Erfahrung gefragt. Eine Eigenschaft, die Roboter niemals haben werden. Warum konnte der IS mit 800 Mann Mossul erobern und die Irakische Armee (Schiiten; 9'000 Mann) in die Flucht schlagen? Weil die kriegserfahrenen Offiziere und Soldaten von Saddam Hussein den IS militärisch führten, derweil die von Saddam unterdrückten Schiiten abgesehen vom Training kaum je eine Waffe in der Hand hatten.
    Ablehnen den Kommentar ablehnen Antworten anwählen um auf den Kommentar zu antworten
    1. Antwort von Michael Suter (Michel)
      "eine Eigenschaft, die Roboter niemals haben werden". Stimmt nicht (in diesem Fall leider).
      Ablehnen den Kommentar ablehnen
    2. Antwort von Aurel Specker (Auspec)
      Um genau das geht es: Roboter mit Erfahrung und Lernfähigkeit. Und das ist kein Science Fiction, das ist Realität. Wie man bereits bei Siri&Co sieht, verbessern sich die Funktionen wöchentlich, und das Programm "lernt". Nun denken Sie dass das nicht für komplexere Dinge angewendet werden kann? Vor 10 Jahren war das schon undenkbar was jetzt ist, und in 10 Jahren, was wurde dann erreicht?
      Ablehnen den Kommentar ablehnen
  • Kommentar von Martin Steffen (/\o/\)
    Würde Elon Musk auf die Entwicklung seiner "autonomen" Fahrzeuge verzichten, könnte der Menschheit bereits einiges an Leid erspart bleiben... «Jede Technologie kann für Gutes oder Schlechtes eingesetzt werden.» - aber sicher doch! So rechtfertigen sie sich alle, die Technikgläubigen! Verbieten nützt nichts - gemacht wird, was machbar ist! Die Menschheit geht den Weg aller Fehlentwicklungen auf diesem Planeten und in diesem Universum überhaupt... Die digitale Generation wird unsere Letzte sein...
    Ablehnen den Kommentar ablehnen Antworten anwählen um auf den Kommentar zu antworten