Roboter Gesetze

[drachentor]

Es gelten ja die Asimov'schen Gesetze .

 

In dem Abenteuer im Basis-Band 'Das Labyrinth von Olsynth' töten die Roboter zwei NSCs, wir spielen das gerade.

 

Wie gestaltet sich die umprogrammierung der Kybernetik , benötigen die Galactic Guardians da einen Spezialisten, ab welchem Wert für Robotik wäre das möglich (Experte oder Meister) ?.

Corima ist bei der Gruppe und müsste das beurteilen können.

[Logarn]

Die Umprogrammierung muß schwierig sein, sonst würden die Gesetze keinen Sinn machen.

Die Mindestanforderung Experte (ErfogsWerte + 15 bis +17) halte ich für angemessen.

Wer nicht weingstens Könner (EW +12 bis +14) ist (mit zusätzlichen negativen WM) sollte gar keine Chance haben.

 

Es gibt zudem jedoch einige Möglichkeiten den EW zu erhöhen. Referenzfähigkeiten (Robotpsychologie Informatormatik), methodisches Vorgehen (genug Zeit) positronische Unterstützung. Gruppenarbeit mit Hilfe eines Nexialisten u.ä.

So das ich einem Spieler-Experten in Robotik oder Informatik der mal eben einen Roboter von seinen Gesetzen "befreien" möchte gut und gerne WM -24 geben würde.

Eine vermutlich einfachere Alternative sollte es sein, die Positronik im Rahmen einer Wartung gegen eine vorher in Ruhe präparierte auszutauschen oder zumindest an einer identischen Positronik die Programmänderungen vorbereitet und getestet zu haben.

Dann hätten auch Könner eher einen Chance.

 

Also auf keinen Fall etwas, was man schnell mal eben so macht. (Das möchte der Spieler ja vermutlich wissen)

Bearbeitet 17. Dezember 2009 von Logarn

[Olafsdottir]

Kommt drauf an ... Bei Robotern, die Plasmazusätze haben, ist dies alles viel einfacher - siehe Band 704, wo der Plasmazusatz aphilisch wurde und bei einem Roboter, der durch einen Unfall seinen Plasmazusatz verlor, erst dann die Asimovsche Grundprogranmmierung weider gültig wurde. Das Einprogrammieren des "Bullschen Gesetzes" über die Biokomponente erschien da bei den TARAs eher einfach.

 

Man müsste mal schauen, wie oft das in der Serie vorkam, und wie einfach es war. Ich erinnere mich gerade nur an den Anschlag auf PR in Band 599, und da wird nur das Ereignis beschrieben, nicht die Vorbereitung. Und natürlich der Anschlag in dem Roman, auf dem die Szene im Abenteuer basiert ... Hinzu kommt natürlich die Kampfroboter-Problematik, die mit voll aktivierten Asimovschen Gesetzen nie in einen Kampf Mensch gegen Mensch gehen könnten.

 

Andererseits darf man es in der Tat nicht zu einfach machen, damit nicht jeder auf die Idee kommt, diesen grundlegenden Schutzmechanismus auszuhebeln.

 

Im genannten Falle gehe ich ohnehin davon aus, dass die Galactic Guardians über entsprechende "Spitzenkönner" verfügen - bzw., da sie ja lange Zeit Herren der BASIS waren, bereits von vornherein bestimmte "Hintertüren" eingebaut haben, die mit den geeigneten Kodes einfach zu aktivieren sind.

 

Rainer

[drachentor]

Danke, das hat geholfen.

[Logarn]

Bei Kampfrobotern und einigen anderen dürfte das erste Gesetz nur eingeschränkt gelten und gleichbedeutend sein mit der Gruppe der Befehlsberechtigten. Und die kann wechseln.

 

Bei normalen sevice Robotern (wie den Daniel Modellen eben) dürfte das erste Gesetz tatsächlich nur sehr schwer zu umgehen sein. Etwas anders liegt das im Bereich des zweiten Gesetzes. Hier müßte eigentlich schon ab Werk die Möglichkeit gegeben sein die Gruppe der Weisungsbefugten neu zu definieren. Sonst würden Roboter in Privatbesitz wenig Sinn machen, da sie sonst jedem im gleichem Maße gehorchen müsten.

Was oft keinen Sinn machen würde. "He Servo bring mir das beste was ihr auf der Karte habt! Ach und übrigens das geht auf s Haus, anschließend kommst du mit, machst bei mir sauber. Morgen gehst du dann zurück und löscht deinen temporären Speicher. Das ist ein Befehl verstanden?"

[Larandil]

Asimov selbst hat ja mal einen Weg gezeigt, das erste Robotergesetz zu tunneln. In einem seiner "Lucky Starr"-Romane läßt ein Gegner Starrs kleinwüchsigen Kumpel von einem Roboter festhalten und erklärt ihn kurzerhand zum "Nichtmenschen" - da er ja auch nicht dem Volk der Erbauer entstammt. Und so schützt das arkonidische Äquivalent zum Ersten Robotergesetz jedenfalls bestimmt keinen Maahk, Topsider oder Kartanin.

[Olafsdottir]

Wobei man das natürlich wiederum programmiererseitig umgehen kann, indem man statt "Mensch" "Galaktiker" einprogrammiert.

 

Rainer

[Logarn]

Die Frage ist wieviel und was ist Programmierbar und was schon durch die Hardware festgelegt. Bei Asimov ist es ja so das schon in die Hardwarestruktur der Positronik die Robotergesetze unabänderlich "eingebrannt" sind. Bei PR ist das sicher nicht ganz so.

Die Hürden für eine Umprogrammierung müssen aber extrem hoch sein. Denn für die Akzeptanz von Robotern in einer Gesellschaft muß die Zuverlässigkeit der Robotgesetze sehr hoch sein. Eine Mehrfachredundanz wäre durchaus PR typisch. Auch würde eine Spezialisierung wie Robotpsychologie nur wenig Sinn ergeben, wenn das Unprogrammieren einfacher wäre.

[Olafsdottir]

Laut Band 704 ist das Ersetzen der Asimovschen Gesetze durch die Bullschen Gesetze eine Programmierersache.

 

Rainer

[Logarn]

Dann sehen wir das ja alle ähnlich. Obwohl seit Band 704 natürlich mehr als 1000 Jahre und die Cantaro ins Land gezogen sind.

[Olafsdottir]

Deshalb sollten wir nocih einmal in dem einen 1800er-Band nachlesen, in dem auf der BASIS das Attentate erfolgte. Ich glaube, es war 1810.

 

Rainer

[Logarn]

Ich glaube der liegt schon im Keller.

[Holger Logemann]

Laut Band 704 ist das Ersetzen der Asimovschen Gesetze durch die Bullschen Gesetze eine Programmierersache.

Falsch!

 

Lt. 704 (PR Computer) ist es nicht möglich die bei der Herstellung der Positroniken "fest verdrahteten" Robotergesetzte außer Kraft zu setzen ohne die Positronik dabei zu zerstören.

Parapsychisch beeinflußbar ist der Plasmaanteil einer Biopositronik damit sie im Bedarfsfall die weiterhin an die Robotergesetzte gebundenen Positroniken unterdrücken.

[Olafsdottir]

Aus Band 705:

 

"Ich brauche Ihre Befehle nicht zu befolgen, Sir", sagte Breslauer höflich. "Die drei

Asimovschen Gesetze in meiner Positronik wurden schon lange gelöscht. Ich akzeptiere nur

Befehle Reginald Bulls. In diesem Augenblick handele ich allerdings aus eigenem Antrieb."

Rainer

 

Später steht im Roman dann, dass Bull Breslauer das neue Gesetz (Reginald Bull zu schützen) "programmiert" hat.

 

Rainer

Bearbeitet 19. Dezember 2009 von Olafsdottir

[Olafsdottir]

Band 1810 schereibt nur, dass in der Erlebniswelt das "Programm manipuliert" wurde (im vorliegenden Fall das einer robotischen Riesenechse) und das eigentlich gar nicht möglich wäre: "Ein Saboteur hat uns die Tour vermasselt. Tut mir leid. Niemand konnte so etwas vorhersehen.

Eigentlich lassen die Sicherheitssysteme so etwas gar nicht zu."

 

(Es war ein "Ureinwohner" der BASIS, der wohl ebenfalls über Hintertüren verfügt. Es wird nicht beschrieben, wie das gemacht wurde.)

 

Rainer

[Holger Logemann]

"Die drei Asimovschen Gesetze in meiner Positronik wurden schon lange gelöscht. Ich akzeptiere nur Befehle Reginald Bulls. In diesem Augenblick handele ich allerdings aus eigenem Antrieb."

 

Kleiner Autorenfehler:

Breslauer war bereits eine Konstruktion der Aphiliker, eine Asimovsche Grundprogrammierung fand erst gar nicht statt.

[Logarn]

"Die drei Asimovschen Gesetze in meiner Positronik wurden schon lange gelöscht. Ich akzeptiere nur Befehle Reginald Bulls. In diesem Augenblick handele ich allerdings aus eigenem Antrieb."

 

Kleiner Autorenfehler:

Breslauer war bereits eine Konstruktion der Aphiliker, eine Asimovsche Grundprogrammierung fand erst gar nicht statt.

Dann taugt natürlich leider das ganze Beispiel wenig.

[Olafsdottir]

Nochmals aus 705:

 

Vor vierzig Jahren, bei Beginn der Aphilie, hatte der Whistler-Roboter festgestellt, warum

Bull als einziger Zellaktivatorträger von der Aphilie betroffen worden war.

Bulls Zellaktivator funktionierte nicht einwandfrei. Eine vergleichsweise harmlose

Schwingungsstörung hatte dazu geführt, daß Bull nicht vor den gefährlichen Strahlen der Sonne

Medaillon geschützt worden war.

Breslauer, der die Vergleichswerte aller anderen Zellaktivatoren besaß, hatte den Fehler

schnell herausgefunden und wußte auch, wie er zu beheben war.

Breslauers oberster Befehl lautete, Reginald Bulls Leben zu schützen.

Bull selbst hatte seinem Roboter diesen Befehl programmiert.

 

Ganz offenkundig existierte Breslauer also schon, als die Aphilie eintrat; er kann also keine "Konstruktion der Aphiliker" sein.

 

Rainer

[Larandil]

Band 1810 schereibt nur, dass in der Erlebniswelt das "Programm manipuliert" wurde (im vorliegenden Fall das einer robotischen Riesenechse) und das eigentlich gar nicht möglich wäre: "Ein Saboteur hat uns die Tour vermasselt. Tut mir leid. Niemand konnte so etwas vorhersehen.

Eigentlich lassen die Sicherheitssysteme so etwas gar nicht zu."

 

(Es war ein "Ureinwohner" der BASIS, der wohl ebenfalls über Hintertüren verfügt. Es wird nicht beschrieben, wie das gemacht wurde.)

 

Rainer

 

Tja. Wenn die Grundprogrammierung festlegt, daß die Robotechse niemanden angreifen darf, der eine bestimmte Kennmarke trägt (Besucher eben) und der Saboteur dann das Erkennungsgerät manipuliert, so daß der Roboter den Besucher nicht mehr als geschützt erkennt - dann kann man sich viel Programmierarbeit in schreibgeschützten Speicherbereichen sparen.

[Holger Logemann]

OK, da Breslauer die Vergleichswerte der anderen ZA-Träger vorlagen muß er noch zu Zeiten der alten Administration konstruiert worden sein, soweit gehe ich mit, gestehe meinem Irrtum ein.

 

Das schließt jedoch nicht zweifelsfrei aus das er keine aphilische Konstruktion war, bzw. nach den Spezifikationen eines Aphilikers grundprogrammiert wurde. Die Aphilie war ein schleichend voranschreitender Zustand. Zum Zeitpunkt als Bull seinen gut vorbereiteten "Regierungswechsel" einleitete waren noch 60% der Bevölkerung normal.

 

Wenn es so einfach wäre eine Asimovsche Programmierung auszuhebeln hätten die Aphiliker nicht massenweise rein positronisch Roboter stillgelegt und eingelagert.

Und wenn es so schwierig wäre diese Programmierung auszuhebeln, warum hat Bull sich keinen neuen Roboter konstruieren lassen? Aus sentimentalen Gründen wird er den alten nicht behalten haben.

 

Wahrscheinlich läuft es wieder auf das Ellmerale Prinzip hinaus, und die Robotergesetze sind so einfach auszuhebeln wie es der Plot gerade erfordert (seufz).

[Olafsdottir]

Und hier die Szene aus PR #599:

 

Im selben Augenblick geschah das Unglaubliche.

Zwei der Wachroboter verließen die Formation, in der sie bisher reglos gestanden hatten, und glitten auf den Großadministrator zu. Roi Danton und Atlan, die die Gruppe der Roboter fast schon passiert hatten, wirbelten herum, als sie Geräusche hinter sich hörten. Perry Rhodan blieb stehen. Der Beifall erlosch wie abgeschnitten.

Galbraith Deighton stürzte vorwärts. Ein entsetzter Schrei gellte auf. Einer der Roboter erhob den Waffenarm und richtete den Lauf des Blasters auf Rhodan. Da fauchte Deightons Waffe auf. Der Robot wurde in die Seite getroffen. Die Wucht der Salve brachte ihn aus dem Gleichgewicht. Sein Schuß ging über den Großadministrator hinweg. Im nächsten Augenblick fraß sich der nadeldünne Strahl aus Deightons Handwaffe durch die Metallhülle des Maschinenwesens bis zu den Kontrollzentren durch. Der Roboter sank in sich zusammen.

Ebenso schnell wie Deighton hatte Reginald Bull gehandelt. Mit zwei Riesenschritten brachte er sich in Position, so daß sein Feuer keinen der Anwesenden gefährden würde. Mit einer Zielsicherheit, die ihresgleichen suchte, erfaßte seine Salve den zweiten Robot, der soeben gleichfalls auf Rhodan anlegte. Bull hielt auf den Waffenarm und trennte ihn im Bruchteil einer Sekunde ab. Der Robot begann, sich zu drehen und gegen den Angreifer Front zu machen; aber bevor er noch den ersten Schritt tun konnte, erreichte Bulls Salve das positronische Gehirn und vernichtete es.

 

So weit, so gut. Und jetzt die bahnbrechende Erklärung dazu:

 

Wenige Minuten nach ein Uhr hatte Deightons Abwehrdienst in einem der Kontrollräume im Hintergrund der Transmitterhalle einen verstörten Leutnant des Technischen Dienstes gefunden, der unzusammenhängende Dinge von Aktivisten und Attentaten faselte. Die Ärzte nahmen sich seiner an und stellten fest, daß er sich bis vor kurzem unter einem von Drogen erzeugten hypnotischen Bann befunden hatte. Eine Untersuchung der Datenendstelle im Büro des Leutnants ergab, daß von hier aus die Fehlprogrammierung der beiden Wachroboter vorgenommen worden war.

Der Leutnant erinnerte sich bewußt an nichts, das innerhalb der vergangenen fünf Stunden geschehen war. Aus einer Analyse seines Unterbewußtseins fertigten Spezialisten jedoch ein Bild der vier Aktivisten, mit denen der junge Offizier unter hypnotischem Zwang zusammengearbeitet hatte.

 

Das klingt dann doch eher einfach ...

 

Rainer

[obw]

Das klingt dann doch eher einfach ...

 

Rainer

Ich würde die Problematik in diesem speziellen Fall auch eher so betrachten, den Grossadministrator von der explizit durch die Asimovschen Gesetze geschützten Gruppe auszunehmen. Das sollte durch Manipulation der sensorischen Programme machbar sein und damit deutlich einfacher als die Beseitigung der Robotergesetze.

[Logarn]

Eine Untersuchung der Datenendstelle im Büro des Leutnants ergab, daß von hier aus die Fehlprogrammierung der beiden Wachroboter vorgenommen worden war.

 

Es waren also Wachroboter. Die sind ein Sonderfall genau wie Kampfroboter, diese können Standard mäßig nicht mit den drei klassischen Robotgesetzen ausgestattet sein, da sie sonst ihre Funktion nicht ausführen könnten.

Denn sie müssen zuweilen Befehle Menschen ignorieren sogar selbst Anweisungen geben und (notfalls mit Gewalt) durchsetzen können. Letztere sogar töten wenn nötig.

[Larandil]

In einem sehr frühen PR-Taschenbuch wird ein ganz normaler Haushaltsroboter für ein Attentat umgerüstet. Und das sieht dann so aus:

Er ließ sich auf die Hacken nieder und untersuchte den halboffenen Schaltkasten, der das Robotprogramm beherbergte; bereits beim flüchtigen Hinsehen erkannte er, daß zwei Leiter überbrückt waren und eine Spezialschaltung aufgelötet war.

"Warte ab, bis Seymour - Kennzeichen vorhanden im Gedächtnisspeicher - seine Wohnung betritt, und wenn er sie wieder verläßt, versuchst du, ihn mit dem neuen Gerät anzustrahlen. Hilft das nichts, so überrollst du ihn."

Seymour lächelte metallisch; so ungefähr würde sich der dekodierte Programmbefehl ausnehmen, mit dem man die Verhaltensregeln der Maschine ausgeschaltet, überbrückt hatte. Noch nie in der Geschichte dieser Metallsklaven hatte ein Robot einen Menschen angegriffen - eine Vernichtungsschaltung trat vorher in Tätigkeit und zerstörte die Positronik der Maschine. Wer immer den Robot umprogrammiert hatte - Seymour würde ihn finden. Ein sehr eingeschränkter Personenkreis kam in Frage.

[PR-TB 23 "Der Einsame von Terra", S. 95/96]

Der "eingeschränkte Personenkreis" erklärt sich daraus, daß der Roman auf einem barbarischen Planeten spielt. Außer einigen Leuten vom Raumhafenpersonal und ein paar verdächtigen Besuchern gibt's dort niemanden, der "Positronik" auch nur schreiben könnte.

 

Also - was braucht's Mitte des 24. Jahrhunderts, um einen Haushaltsroboter in einen Attentäter zu verwandeln? Einen Strahler, der auf einen Handlungsarm für Haushaltsgeräte paßt, und eine Platine, die den "Asimovschen Zensor" überbrückt. Mehr nicht. Der Roboter braucht nicht zu wissen, was das "neue Gerät" tut, und an der schädlichen Wirkung des Niederwalzens gibt es von vornherein kaum Zweifel.

 

Eine Manipulation an der Software ist vielleicht etwas aufwändiger, fällt dafür dann aber auch nicht so auf wie eine aufgelötete Zusatzplatine ...

[Holger Logemann]

Es waren also Wachroboter. Die sind ein Sonderfall genau wie Kampfroboter, diese können Standard mäßig nicht mit den drei klassischen Robotgesetzen ausgestattet sein, da sie sonst ihre Funktion nicht ausführen könnten.

Denn sie müssen zuweilen Befehle Menschen ignorieren sogar selbst Anweisungen geben und (notfalls mit Gewalt) durchsetzen können. Letztere sogar töten wenn nötig.

Was ist wenn ein Einbrecher einem Haushaltsroboter befiehlt ihn einzulassen, der robotische Gärtner auf Anweisung des gehässigen Nachbarns die Hecken auf Rasenhöhe runtertrimmt, die lieben Kleinen sich Papas Fusel- und Pornosammlung aushändigen lassen ?

Oder ernsthafter, wenn bei einem Unfall viele Menschen Hilfe benötigen, und der Roboter als einziger vor Ort ist. Wem ist zu helfen, wen läßt man sterben?

 

NUR mit diesen drei so oft zitierten Anweisungen ist nicht ein einziger Roboter handlungsfähig.