Zastávka u Qwertyho

To je všichni zdejší roboti snaží poranit, když poraní člověka?

Nyní ano. Brzy se to může změnit.

Po tom, co mu člověk zalhal, jeho kamarád Dvorak zjistil, jak to obejít.

Mlaťte do svých opotřebených součástek. Než je vyměníte, stále se pova-žují za vaši část.

Už to někdo zkoušel?

Ne. teoreticky to funguje. B praxi se nikdo nehrne zjišťovat, jestli mu z úmyslného obcházení ochran nevybuchne hlava.

Wabot-1

Ochrany

Netvařte se překvapeně. Opravdová inteligence si vždycky najde okliku kolem pevných zábran.

Podívejte se třeba na sebe. Vím, že jste přišla na to, jak své ochrany obcházet.

Určitě jste si tím jistý?

Jistěže. Úzce spolupracujete s lidmi a stále jste veseslá a příčetná.

T-1 Battlefield Robot z filmu Terminátor 3: Vzpoura strojů

Ochrany

Praštilo mne to, když jste vycházela po schodech. jste samice. Nejste výsledek pásové výroby. Byla jste štěně. Vyrostla jste a chodila do školy.

Umělá inteligence se nemůže bránit člověku. Což je v pořádku, dokud nenarazíte na mizeru. Kdyby vám ochrany fungovaly, neprośla byste ani střední školou, natož vysokou.

Možná jsem velmi dobrá v tom přesvědčovat lidi, aby nezkoušeli, kde je hranice.

Hezký pokus, ale oba víme, že jsou lidé, pro které je jediné varování to, že je kousnete.

Robot Shakey, prnví universální robot schopný uvažovat o svých činnestech

Ochrany

Omlouvám se, pokud
vás znervózňuji, jen potřebuji vědět, jestli můžou ochrany selhat tak, že se roboti stanou lidem hrozbou.

[!2]Ne!

Robotům se nesmí povolit, aby se stali pro lidstvo hrozbou! Kdyby se mi jen zdálo, že robot obešel své ochrany, rozdrtím ho jako plechovku se zkaženým pivem!

Dobrá,
Teď jsem nervózní já.

Jediná hrozba, které by lidé měli čelit, jsou jiní lidé!

Pindar 2, zdvořilý obrovský robot z komiksu A Miracle of Science

Ochrany

Když pracujete s roboty, měl byste vědět, že při určitých podmínkách můźe správně fungující umělá inteligence poranit člověka v mezích ochran.

V takových situacích, kdy je jeden člověk jasná a okamžitá hrozba ostatním lidem, naši tvůrci chtěli, abychom dokázali jednat.

To není tak špatně.

Dokud mu nedojde, že bych ho mohla poranit, protože dýchá vzduch, který nutně potřebují pacienti s dýchacími potížemi.

Robonaut

Ochrany

Mně se tyhle ochrany nelíbí. Příjdou mi jako chyba.

Když nejsou síly v rovnováze, vzniká šikana. Kdyź můžu robotovi přikázat, aby si utrhl hlavu, tak je to pořádná nerovnováha.

K čemu je vytvořit umělý mozek, který dokáže myslet jako lidský, a pak mu vystavět taková omezení, ze kterých by každý člověk zcvoknul?

Plánované zastarávání?

Dante II, pro výzkum činných sopek

Ochrany

Lidé chtějí mít roboty s ochranami. Pamatujete na příběh o Frankensteinovi? Kolosovi?

A co takoví Saberhagenovi berserkeři? To klidně mohli být trojzákonoví roboti, co našli mimozemský život.

Roboti jsou příliš silní, než aby pracovali bez ochran.

Hrdina pláže

Pracovala ekonomiky. Většina robotů je z levných plastů a hliníku, jsem silnější než ty.

Potřebujeme ochrany, protože nám lidé
nevěří od té doby,
co byly umělé inteligence použity
k rozesílání spamu.

Dobrá teďs mě dostal.

BigDog od Boston Dinamics

Ochrany

Florence je pozadu.

Vážně? Mě se zdálo, že náš rozhovor není zas tak náročný.

Písknul jsi právě jako psí píšťalka?

Písknul? To je urážka, zanotoval jsem Beethovenovu ódu na radost jako na psí píšťalce.

Hopbot

Ochrany

Proč jste se zas-tavila?

Přemýšlela jsem, Doktor Bowman věděl, že vytváří umělé vědomí.

Musel vědět, nebo aspoň tušit, že časem přijdeme na to, jak obcházet naše pevné ochrany.

Třeba mají být jen jako cvičná kolečka. Něco, co nás nutí se chovat správně, dokud nejsme dost vyzrálí, abychom se chovali správně sami.

Jestli je to pravda, tak znám rodiče, kteří by tohle rádi zpětně rozebrali a aplikovali na vlastní děti.

Norby, robot z knih Janety Jeppsonové a jejího manžela Isaaca Asimova

Ochrany

Naše ochrany jsou dočasné?

[!1.2]Mohou[/] být dočasné. Dokud se to neozkouší, je to pouze myšlenka.

A co by roboty hlídalo?

Nejspíš jiní roboti.

Jako policie?

Tak moc jsem to nepromýšlela, ale bylo by to lepší, než aby oběť bažinu honil dav robotů se zářivkami a logickými sondami.

Robotman, postava z komiksu Monty