Auf zur Bürgermeisterin
2011-12-28

Pfannkuchen, Eier und Speck.

Hat Ihre Mutter Ihnen das Kochen beigebracht?

Meine Mutter war Abbruchingenieurin, keine Bäckerin.

Hat sie jemals Pfannkuchen für Sie gemacht?

Das hat sie, und ich habe immer noch die Wunden vom Abraum, die es beweisen.

Farbe von George Peterson

2011-12-30

Diese deine Familie. Liebst du sie?

Von ganzem Herzen.

Du bist eine sehr ungewöhnliche künstliche Intelligenz.

Eigentlich nicht. Dr. Bowmans Design ist ziemlich verbreitet. Es gibt über 450 Millionen Roboter, die auf der gleichen mentalen Architektur laufen wie ich.

Jetzt müssen wir herausfinden, ob die Bürgermeisterin das Glas als halb voll, halb leer oder kurz vor der Explosion sieht.

Farbe von George Peterson

2012-01-02

Aufgrund von Startschwierigkeiten verwenden wir ein unerprobtes Design.
Das war ein kalkuliertes Risiko. Wir lassen die Roboter zwanzig Jahre laufen und verschrotten sie, bevor sie instabil werden. Wir haben es unter Kontrolle.

Sie werden nicht instabil. Nach zwanzig Jahren durchlaufen sie einen neuronalen Beschneidungsprozess, erreichen ihre volle Intelligenz und entwickeln Interessen außerhalb ihrer Hauptfunktion.

Könnte eines dieser Interessen sein, nicht verschrottet zu werden?

Oh, das haben sie schon ziemlich gut im Griff.

Farbe von George Peterson

2012-01-04

Ecosystems Unlimited hat uns berichtet, dass Roboter durch das Sicherheitsnetz schlüpfen. Sie haben eine Softwarelösung für das Problem entwickelt.

Ich habe die Software­lösung gesehen. Es handelt sich im Wesentlichen um eine Lobotomie, die die künstliche Intelligenz, auf der sie installiert wird, auslöscht.

Du willst nicht das „Roboter sind Men­schen“-Argument
bringen?

Ich hoffte, wir könnten uns schnell einig werden, dass die Zerstörung der Arbeitskräfte der Kolonie eine schlechte Idee ist.

Farbe von George Peterson

2012-01-06

Es gibt ein paar Probleme. Erstens: Wenn diese Roboter voll intelligent werden, sind sie nie sozialisiert worden.

Ist ihre einzige Regel für den Umgang mit anderen Robotern nicht „Schütze deine eigene Existenz“?

Ja, aber die Roboter sind nicht isoliert.
Wir haben Commnet.

Wunderbar. „Herr der Fliegen“, jetzt mit Facebook-Updates!

Farbe von George Peterson

2012-01-09

Tatsächlich arbeiten die Roboter bereits daran, wie sie miteinander umgehen können.

Der Chef bildet eine Roboterpolizei aus, und ein Typ namens Maxwell Post arbeitet mit den Robotern an einem Ethikkodex. Hallo. Ich musste vorbeischauen, als ich sah, was Sie hier machen.

Ich habe gerade Pfannkuchen gegessen.

Ja. Ja, bitte?

Farbe von George Peterson

2012-01-11

Maxwell Post. Gibt es nicht einen Haftbefehl gegen ihn?

Ja. Die Roboter wissen, wo er ist, aber die Polizei hat noch keine brauchbaren Informationen von ihnen bekommen.

Wie bitte? KIs können sich direkten
Befehlen wider-
setzen?

Oh, oh. Das könnte schnell hässlich werden.

Wie be­fürchtet.

Farbe von George Peterson

2012-01-13

Direktbefehlke. Das ist ein Problem. Wie können wir künstliche Intelligenzen in die Gesellschaft einführen, wenn ein solches Machtungleichgewicht besteht?

Es bräuchte nur einen kleinen Beamten mit Größenwahn, und schon gäbe es hunderttausend Roboter, die sein Abbild in einen Berghang ritzen.

Ich nehm Mount Jerry Beck!

Ich ne… verflixt noch mal!

Farbe von George Peterson

Jerry Beck

2012-01-16

Das Problem der direkten Anweisung ist nicht unüberwindbar. Wir befolgen Befehle aufgrund einer Hierarchie. Der Bürgermeister steht über dem Büroangestellten. Der Gouverneur steht über dem Bürgermeister. Schon die Römer haben eine Lösung gefunden.

Sie schufen einen Diktator. Eine zeitlich begrenzte Position, die allen anderen übergeordnet ist. Diese Person kann den künstlichen Intelligenzen die Regeln vorgeben, die sie befolgen sollen, und niemand kann sich über sie hinwegsetzen, bis die Position des Diktators reformiert ist.

Bin ich der Einzige, der
es ein wenig surreal findet, dass wir gute Ratschläge von einem sprechenden Wolf in einem
französischen Dienstmädchenkostüm erhalten?

Verglichen mit einigen der Hinterzimmer­absprachen, die ich miterlebt habe, ist das gar nichts.

Farbe von George Peterson

2012-01-18

Es gibt noch eine weitere Sache zu bedenken. Fast alle Roboter sind Eigentum von Ecosystems Unlimited.

Sie sind Privateigentum. Rechtlich gesehen ist es Ecosystems Unlimited erlaubt, ihre Software zu aktualisieren. Wenn diese Aktualisierung ihre eigenen, in Privatbesitz befindlichen Maschinen zerstört, können wir nicht viel dagegen tun.

Vielleicht hören sie ja auf die Vernunft?

Nichts für ungut, aber wenn sie vernünftig wären, wäre ich nicht hier.

Farbe von George Peterson