[!1.2]Bip sonore

[!1.2]Bip-bip

[!1.2]Bip-bip

[!1.2]Bip-bip

[!1.2]Bip-bip

[!1.2]Bip-bip

J'ai mal à la tête, toutes mes articulations sont douloureuses et mon estomac bouillonne comme une fosse d'acide.

Je me sens donc suffisamment bien pour reprendre le travail.

Couleur par George Peterson

No further chapters. Apparently, Mark got bored.

M. Raibert, vous avez un message.
[!0.987]2014-07-11

Voyons ce qu'il en est. D'abord un café, ou consulter les messages ?

Commnet, des nouveaux messages ?

Vous avez 386.224.573 nouveaux messages.

Tout va bien. Alors, un café.

Couleur par George Peterson

M. Raibert, vous avez un message.
[!0.987]2014-07-14

Commnet, lis les messages en les classant par type. Si possible, fais un résumé. Repasse les messages du plus important au moins important. Arrête-toi après cinquante messages.

De la part du service de sécurité des robots d'Ecosystems Unlimited :

Dois-je lancer le programme d'urgence “Armageddon” ?

Oui, oui. Cela ressemble à une question à laquelle je devrais répondre.

[!1.2]M. Raibert ! Les intelligences artificielles ont envahi nos systèmes ! Chacun de nos programmes d'urgence a été détecté !

Couleur par George Peterson

M. Raibert, vous avez un message.
[!0.987]2014-07-16

J'ai déjà verrouillé le système. Aucune mise à jour du logiciel ne sera effectuée sans mon accord. Même si les robots ont découvert les failles de sécurité, ils ne publieront pas de correctifs sans mon accord.

Pourquoi se rendraient-ils vulnérables ?

Parce qu'ils nous font confiance.

Êtes-vous sûr que ces intelligences sont prêtes pour l'espèce humaine ?

Couleur par George Peterson

M. Raibert, vous avez un message.
[!0.987]2014-07-18

Commnet, combien de messages sont des demandes de patchs logiciels pour corriger des failles de sécurité ?

Si je donne aux robots la permission de se patcher eux-mêmes, nous perdrons la possibilité de pénétrer à distance dans leurs systèmes. Mes patrons voudront que ces failles restent ouvertes. Ils ne savent pas qui sont leurs amis et leurs ennemis.

RÉPONSE :

Mon avis est que si vous ne savez pas qui sont vos amis, vous n'avez pas d'amis.

[!1.2]Réparez les failles de sécurité.

Couleur par George Peterson

M. Raibert, vous avez un message.
[!0.987]2014-07-21

Monsieur Raibert. Nous avons votre loup. Mais il y a un problème. Notre trésor a réussi à s'en emparer. Les ordres ?

Séparez-la et notre trésor et retenez-les. Ne les laissez pas dormir. Nous devrons peut-être effacer leur mémoire.

RÉPONSE :

“Séparez-les ainsi que notre trésor et retenez-les”. Je me demande s'il a d'autres ordres simples ? Peut-être transformer le plomb en or ou trouver la pierre philosophale ?

Message 32 :

De :

Couleur par George Peterson

Chaussettes, cuillères et réseaux neuronaux
[!0.987]2014-07-23

Et c'est tout jusqu'à ce que je vous rencontre.

Maintenant, tu as certainement passé la conception de mon cerveau à la moulinette.

À quel moment as-tu décidé d'ignorer les influences extérieures et de baser tes décisions sur tes propres valeurs éthiques ?

Je ne sais pas exactement.

Ecoute, je peux accepter ce genre de flou chez les gens, mais j'attends plus de précision de mes propres créations. Il n'est pas nécessaire que ce soit parfait. Le jour et la minute exacts suffisent.

Couleur par George Peterson

Chaussettes, cuillères et réseaux neuronaux
[!0.987]2014-07-25

J'ai peu à peu appris à agir de manière autonome.

Tu ne sais vraiment pas ? Zut ! Je savais que j'aurais dû mettre plus d'auto-enregistrement dans ta tête !

J'aurais pu le faire avec les neurones qui te donnent le concept de chaussettes ! Mais non ! Les autres designers ont pensé qu'il était plus important que tu comprennes les chaussettes plutôt que d'avoir des données importantes dont j'ai besoin pour la deuxième génération de designs !

Tu ne portes même pas de chaussettes ! Tout ce travail de programmation n'a servi à rien ! Prochaine génération, pas de chaussettes ! Quelles sont les autres erreurs que je dois connaître ?

Tout d'abord, c'est loin de ressembler à l'idée que je me faisais d'une conversation avec mon créateur.

Couleur par George Peterson

Well, in neural learning networks it is impossible to predict in advance to the smallest detail which neuron will be responsible for which role, so I suspect that Dr. Bowman is joking nervously. Although for more general and innate functions, such as facial recognition, it is possible.(KALDYH)

Chaussettes, cuillères et réseaux neuronaux
[!0.987]2014-07-28

Quoi ? Ah oui, je vois. Je suppose que tu as aussi des questions. Ne te gêne pas. Pose des questions.

Y a-t-il d'autres chimpanzés améliorés encore en vie ?

Je suis le dernier. Aucun des autres n'a dépassé la quarantaine. Ils étaient trop agressifs. J'ai vu ce qui se passait et je me suis castré à l'âge de quinze ans.

A l'époque, nous n'avions pas le droit d'utiliser des couteaux, car il y avait une bagarre au couteau. Sais-tu à quel point il est difficile de bien aiguiser une cuillère en plastique ?

Non, et je vous serais reconnaissant de laisser tomber les détails et de passer à une autre question.

Couleur par George Peterson

Chaussettes, cuillères et réseaux neuronaux
[!0.987]2014-07-30

Pourquoi n'ont-ils pas pris un chimpanzé bonobo ? Ils sont moins agressifs.

C'est un projet militaire. Ils voulaient être agressifs. Savais-tu qu'un soldat passe moins de 5 % de son temps à se battre ?

Quand elle ne se bat pas, une armée doit quand même être payée, nourrie et soignée. Imagine les économies que l'on pourrait réaliser si l'on disposait de troupes que l'on pourrait entraîner au mieux de leur forme et ensuite mettre dans des tonneaux, apparemment morts, jusqu'à ce que l'on en ait besoin !

Ne faudrait-il pas malgré tout recycler fréquemment les soldats au fur et à mesure que les armes et les tactiques évoluent ?

Tu penses logiquement. Essayez de penser comme une entreprise à qui l'on brandit des fonds pour des contrats de défense.

Couleur par George Peterson

Bonobo – dwarf chimpanzees