Zur Frage “Killer Roboter”

Alexander Reben ( http://areben.com/)  hat einen Roboter konstruiert, der absichtlich Menschen verletzen kann. Er beschreibt sich selbst so:

I am an Artist and Engineer. My interest is in human-machine relationships including how technology can be a lens with which to study humanity. I have an educational background in robotics, applied math and art. I obtained my masters degree at the Responsive Environments Group at the MIT Media lab where I used sensors, big data, and robotics to explore technological symbiosis. Currently I am a consultant, writer and artist – creating installations. I also regularly speak and appear on panels discussing everything form design to robot ethics.

In seinem Experiment mit dem von ihm konstruierten Roboter, der absichtlich zustechen kann, ging es ihm darum grundsätzlich Fragen der Programmierung von Robotern aufzuwerfen. Roboter kommen immer mehr in unser Tagesleben, Berufsleben, Serviceleben und niemand hat bisher in Reakität die Frage aufgeworfen, wozu Roboter fähig sein können oder zu welchen Fähigkeiten sie programmiert werden können. Wenn dies in einem Science Fiktion Film, wie iRobot thematisiert wird, so ist das eben SciFi, aber wie so oft, sind SciFi Produkte nur der Realität einen Schritt voraus. Dies wiederum hat Issak Asimov lebenslang intensiv thematisiert.

Wir lesen in Wikipedia ( https://de.wikipedia.org/wiki/Isaac_Asimov):

Asimov hat als „Vice Versa“ die drei Gesetze auch auf den Menschen projiziert. Die Gesetze der Humanistik besagen:

  1. Ein Mensch darf keinen Menschen verletzen oder durch Untätigkeit zu Schaden kommen lassen.
  2. Ein Mensch muss einem Roboter Befehle geben, die die robotische Existenz bewahren, es sei denn, solche Befehle fügen einem Menschen Schaden zu.
  3. Ein Mensch darf einem Roboter nicht schaden oder ihn durch Untätigkeit zu Schaden kommen lassen, es sei denn, dieser Schaden ist zwingend notwendig, um einen Menschen vor Schaden zu bewahren oder einen lebensnotwendigen Auftrag durchzuführen.

In den Erzählungen von Ich, der Robot (1950), welche die Basis für den gleichnamigen Film wurden handelt Asimov viele Teilaspekte dieser Gesetze ab. In den Geschichten geht es größtenteils um zwei Robotikspezialisten (Gregory Powell und Michael Donovan), die verschiedene Problemfälle lösen müssen, zum Beispiel

  • einen Roboter, der stur nach Logik argumentiert (Reason / Vernunft)
  • „verrückte“ Roboter, die auf seltsame Weise handeln, weil ihre Aufgabe im Konflikt mit einem der Gesetze steht (Runaround/Herumtreiber) (Escape / Flucht)
  • einen Roboter, der ein emotionales Verhalten hat und dadurch das erste Gesetz missachtet (First Law / Das erste Gesetz)

Alexander Reben hat mit seinem Experiment nun das von Asimov postulierte Gesetz, wonach ein Roboter nie einem Menschen  ( und umgekehrt) schaden darf durchbrochen und damit SciFi Ängste in die Realität übersetzt.

 

 

Am weitesten ist sicher das amerikanische Militär gediehen mit seinen Kampfrobotern, die bei Boston Dynamics entworfen wurden:

https://www.youtube.com/user/BostonDynamics

Google/Alphabet  hat wohl „kalte Füße“ bekommen, weil die Entwicklung von autarken Robotern  genau in die Richtung der von Reben thematisierten Gefahr laufen kann.

http://www.zeit.de/digital/internet/2016-03/google-alphabet-verkauft-boston-dynamics

Wir wissen nicht, was die neuen Käufer von Boston Dynamics im Sinne haben. Aber eines darf klar sein: das amerikanische Militär wird die Entwicklung weitertreiben.

http://www.heise.de/newsticker/meldung/Spot-US-Militaer-testet-Laufroboter-von-Boston-Dynamics-2823311.html

Die Diskussion darüber ist in vollem Gange.

http://www.sueddeutsche.de/politik/revolution-beim-militaer-die-kriegs-maschine-1.2953579

„"Die Geschichte zeigt, dass Waffenverbotsverträge meist einen Krieg zu spät kommen"”

Die Verwendung von Giftgas wurde verbannt und wird angewendet (Assad), Streubomben wurde geächtet und werden angewendet (Assad). Übrigens allerdings haben weder die USA noch Russland oder China ein Abkommen zur Ächtung ratifiziert. Niemand, auch nicht die hilflose UNO (wozu dient sie eigentlich?), hat seit Jahren den Mut diesen Diktator zu beseitigen. Atombomben sind unter Kontrolle, - nur wie lange, wenn man die Entwicklung in Nordkorea beobachtet.

Autonome Roboter Waffensysteme sollten JETZT und nicht erst nach einem großen Zwischenfall geächtet werden oder rechtlich verbindlich reguliert werden.

Meine Erfahrung lehrt aber, dass solche Regularien in der Menschheitsgeschichte nicht greifen. Letztes Beispiel auch die Stammzellforschung mit den vagen Ergebnissen der Konferenz im Dezember 2015. Auch die Konferenz in Genf autonomem Waffensystem betreffend hat zu keinem brauchbaren Ergebnis geführt.

http://www.facing-finance.org/de/2016/04/deutsch-pressemitteilung-unterstutzung-fur-verbot-autonomer-waffen-wachst-un-verbotsprozess-kommt-aber-nur-sehr-schleppend-voran/

Der heute in Genf – unter deutschem Vorsitz – erzielte Kompromiss sieht u.a. vor, der anstehenden CCW-Revisionskonferenz zu empfehlen, eine Gruppe von Regierungssachverständigen (Group of Governmental Experts / GGE) zu installieren. Diese soll dann in den nächsten beiden Jahren 6 Wochen lang „Empfehlungen und Optionen“ erarbeiten, wie in Bezug auf tödliche autonome Waffensysteme im Rahmen der VN-Waffenkonvention weiter verfahren werden soll.

Folgt die CCW-Revisionskonferenz im Dezember 2016 dieser Empfehlung, würden die Gespräche einen formalen Charakter bekommen und somit das Ziel einer präventiven Verbotskonvention für tödliche autonome Waffensysteme etwas näher rücken“

Es keinen Beleg dafür, dass nationale Bewertungsprozesse die Entwicklung von Waffensysteme jemals verhindert hätten und deshalb benötigen wir eine neue, präventive und völkerrechtlich verbindliche Konvention zum Verbot autonomer Waffensysteme,“ sagt Thomas Küchenmeister von Facing Finance, einer deutschen Mitgliedsorganisation der „Campaign to Stop Killer Robots“.

Thomas Küchenmeister
Facing Finance e.V.
(Campaign to Stop Killer Robots in Deutschland),
Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!
http://www.killer-roboter-stoppen.de

Diese Waffensysteme sind aber für die Militärlobby viel zu verlockend für hybride Kriegsführung „vom Schreibtisch aus, wie die mit Drohen), als dass sie aufgegeben würden.

Wie ich hier schon mehrmals gesagt habe: Alle diese teuren Konferenzen weltweit, entstanden aus dem Schrecken über die Möglichkeiten des erfinderischen menschlichen Gehirns im Wettstreit mit Moral und Ethik (denken wir nur an die hilflosen Klimakonferenzen), werden die Menschheit nicht vor dem „Grauen“ (siehe dieses Stichwort) der Ergebnisse ihres gegenwärtig denkenden Gehirns ( siehe Stichwort) bewahren.

 

Was bleibt:

Ich denke, man kann sagen, dass alle aktuelle Forschung und Entwicklung zu folgenden Themen:

-     Webbasierte weltweite Bürgerüberwachung, Smart Cities

-     Artifizielle Intelligenz, Superintelligenz

-     Robotik Systeme mit autonomen Waffensystemen

-     Genome Editing menschlicher DNA

-     Erschaffung genmodifizierter Menschen

-     Stammzellforschung, embryonale Biologie

-     Synthetische Biologie

-     Weltraum Forschung und Besiedelung

von einem sehr kleinen Kreis eigenständiger Forscher weltweit betrieben wird, die im Prinzip nur der Kontrolle ihres eigenen Wissensdrangs und dem Erschaffen des jeweils Möglichen gehorchen. Ich möchte her noch einmal auf meine Vorstellung zurückkommen, dass es IMMER einzelne Menschen, meist Männer und ihre denkenden Gehirne sind, welche evolutionär neue Menschheit- beeinflussende Vorgänge in Gang setzen.

(Die Liste würde Pythagoras bis zu Silicon Valley reichen).

Diesen kognitiv- kreativen Prozess einzelner Gehirne, dem das „Weltethos“ des Gewissens der gesamten Menschheit gegenübersteht, kann man nicht „kontrollieren“, wie das seit Jahrhunderten vergeblich geschieht. Ich habe darauf kürzlich im Hinweis auf Nick Bostrom aufmerksam gemacht:  ( siehe http://hesch.ch/news/mensch-und-gesellschaft/228-evolution-jenseits-des-menschen)

Die sich ständig weiter vermehrende „unbeteiligte“ Mehrheit der Menschheit, 7.391.068.000 gegenwärtig, muss sich an die sich wandelnde Umwelt und Technologien adaptieren, sofern sie in Gebieten leben, wo Leben nach „traditionellen“ Lebensweisen überhaupt in naher Zukunft überhaupt überlebt werden kann.

Manche der beschriebenen Entwicklungen haben das Zeug, die Menschheit zu vernichten, wie der Roboter „Sophia“ räsoniert, - warum auch nicht?

http://www.hansonrobotics.com/

“I quest to realize Genius Machines—machines with greater than human intelligence, creativity, wisdom, and compassion. To this end, I conduct research in robotics, artificial intelligence, the arts, cognitive science, product design and deployment, and integrate these efforts in the pursuit of novel human robot relations…”

– Dr. David Hanson, Founder and CEO

 

David Hanson und "seine" Sophia