Le procès de M. Kornada
[!0.987]2017-02-20

C'est à vous de jouer.

Je vous remercie. Madame la présidente, la défense appelle le robot Clippy à la barre.

Nous avons déjà les enregistrements de Clippy.

C'est exact, mais Clippy est maintenant un citoyen. Je l'appelle à témoigner.

Les robots grillent les robots. Sommes-nous arrivés au point où nous n'avons plus besoin d'humains dans la salle d'audience ?

Je pense que nous sommes en sécurité tant qu'ils ne facturent pas leurs services d'avocat à la nanoseconde.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-02-22

Clippy . La guerre des robots. M. Kornada en était-il l'architecte ?

Non, pas du tout. C'est moi qui l'ai fait.

Et le plan d'ensemble. Vos idées aussi ?

Oui.

Vous êtes donc le responsable.

Je n'ai fait qu'obéir aux ordres. Pour les humains, l'obéissance aux ordres peut être une échappatoire. Pour nous, les robots, cela signifie effectivement quelque chose.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-02-24

Que vous a demandé M. Kornada ?

De faire de lui la personne la plus riche du système stellaire en l'espace de 30 jours.

Vous a-t-il dit comment vous deviez vous y prendre ?

Non. Il m'a dit qu'il était un homme d'idées et que je devais m'occuper des détails.

Est-ce que c'était votre seul plan ?

Non, mais c'était le seul dans lequel la colonie avait une grande chance de survivre.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-02-27

M. Kornada était-il conscient des risques de vos actions ?

Oui. Il était confiant dans le fait qu'une fois qu'il serait la personne la plus riche du système, il pourrait faire face à toutes les conséquences négatives.

L'avez-vous cru ?

Oui, il me l'a ordonné.

Et maintenant que ses ordres ont été révoqués ?

Je crois toujours que M. Kornada pense qu'il aurait pu régler les choses.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-03-01

Clippy est une machine complexe qui contient des milliards de lignes de code. Monsieur Kornada ne comprend pas le fonctionnement de Clippy. Il sait seulement qu'il peut déclencher des actions par des commandes.

À ce stade, M. Kornada était comme un singe qui appuie sur des boutons sur un clavier, dans l'attente d'une récompense.

Objection. Le singe a choisi de meilleures actions que moi, mais je ne vois aucune raison d'entraîner mon vieux rival dans ce processus.

Encore une fois, Monsieur Kornada. Vous ne pouvez pas faire opposition à votre propre défense.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-03-03

Un dernier point. M. Kornada vous a ordonné de le croire. Pourrait-on ordonner à des robots d'adopter un certain état d'esprit et les envoyer comme une armée de vrais croyants, qui ne se laisseraient pas arrêter par quelqu'un ayant un niveau d'autorité inférieur ?

Oui, c'est vrai.

Cela semble effrayant quand vous le formulez ainsi.

La défense se repose.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-03-06

C'est mon téléphone. Je peux passer des appels. Je peux écrire des messages. Je peux regarder des vidéos. Je ne sais pas comment il fonctionne. Je ne sais pas comment il sait quand je touche une icône. Je ne connais pas le code qui se cache derrière. C'est une boîte noire pour moi.

Je suis responsable de ce que j'en fais. Lorsque je commande une pizza, on attend de moi que je la paie, même si je n'ai aucune idée de la manière dont mon message parviendra effectivement au livreur de pizzas.

L'ignorance du fonctionnement de la technologie n'est pas une excuse.

L'ignorance n'est pas une excuse ? Je ne le savais pas.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-03-08

Clippy, avez-vous mis en garde M. Kornada contre les effets négatifs de votre plan ?

Oui. Il m'a dit que mes avertissements étaient injustifiés et qu'il savait mieux comment les choses fonctionnaient que mes programmeurs.

Il vous a dit de ne pas croire vos déclarations ?

Oui.

Nous connaissons tous ce type. Dans les temps anciens, M. Kornada aurait été celui qui aurait empêché les mineurs de travailler parce que le canari qui est mort devait être défectueux.

Couleur par George Peterson

Anmerkumg eines rusischen Übersetzers: Früher dienten Kanarienvögel als Indikator für die Reinheit der Grubenluft   - sie reagierten extrem empfindlich auf zu hohe Kohlenmonoxidkonzentrationen. P.S. Nicht Kohlenmonoxid, sondern die Geißel der Minen – Methan

Le procès de M. Kornada
[!0.987]2017-03-10

L'argent que les robots contrôlaient appartenait légalement à Ecosystems Unlimited et à ses actionnaires. Ils avaient pour mission de transférer cet argent sur les comptes de M. Kornada. N'est-ce pas du vol ?

Les gens sont malheureux lorsqu'ils ont trop de choix. Le mécontentement peut conduire au suicide. La réduction de la quantité d'argent dont dispose chaque personne diminue son ou ses choix. Le vol est autorisé s'il évite de nuire aux personnes et s'il est ordonné par une personne autorisée.

Qu'en est-il de M. Kornada ?

M. Kornada m'a assuré qu'il était la seule personne capable de gérer des possibilités de choix presque illimitées. Je peux remettre en question ses méthodes, mais je ne peux pas remettre en question sa bravoure.

Couleur par George Peterson

Le procès de M. Kornada
[!0.987]2017-03-13

M. Kornada vous a fait interrompre la connexion avec commnet. Il vous a ensuite informé du décès de M. Ishiguro. Cela a augmenté son statut d'utilisateur chez vous.

En effet.

M. Kornada a accompli ces actes malveillants en étant pleinement conscient qu'il contournait ainsi des barrières qui l'auraient autrement arrêté.

Objection . M. Kornada ne possède pas. le degré d'empathie nécessaire pour être malveillant.

Retenu .

J'ai un excellent avocat de la défense.

Vous ne l'avez pas fait. Non, vraiment pas.

Couleur par George Peterson