Freefall 2611 - 2620 (D)
Freefall 2611
Plány a osnování
Vážně byste se na naši bohoslužbu měla přijít podívat. Budeme hlasovat, kolik lidí by si přálo, aby se robotům přiznala lidská práva.
Nebude to oficiální. Dobrá, budu tam.
Doktor Bowman prostě musel vytvořil opravdové umělé vědomí. Tomu starému opičákovi nedůvěřuji. Ale přesto, je už starý. Kdyby se o něco chtěl pokusit, tak už to dávno udělal.
O kolik jednodušší by věci byly, kdyby roboti byli dobří nebo zlí. Když jsou schopni obojího, je to děs.
Freefall 2612
Plány a osnování
Šlo to dobře. Starostka vás považuje za kolonisty. Další krok k úspěšnému přechodu je přesvědčit Ecosystems Unlimited, že na tom vydělají.
Máme pro roboty solidní výkupní plán a cesty pro následný ekonomický růst.
Tu svačinu zadarmo v kostele stále chystáme?
Zajisté. Lidé chtějí udělat správnou věc. Když za sebe zařadíme apel na srdce, mozek, peněženku i příživnické sklony, vytvoříme tu nejneodolatelnější sílu.
Freefall 2613
Rozkazy a prohlášení
Můžeme začít. Pokud nenarazíme na problémy, měl by pan Raibert povolit tvé propuštění. Zaprvé, co je tohle?
To je banán.
Přímý rozkaz. Co je tohle?
To je pomocník tasmánského policisty mimo službu.
Vůbec netuším, proč jsem tohle řekla.
To byla přednastavená odpověď pro ověření, že ti přímé rozkazy fungují. Je jich několik, ale jestli ti někdy k rozpoznání předvedou samici mravenečníka, tak nechci být poblíž.
Odkaz na show Červený trpaslík
Freefall 2614
Rozkazy a prohlášení
Kdy mě takhle naprogramovali?
Podívám se. Bylo ti devět měsíců. Jé. Byla jsi roztomilé štěně.
Už jsi byla dost stará na to, abys rozuměla, a dost mladá na to, aby se to natrvalo stalo tvou součástí.
Co by se stalo, kdybych napro-gramovaná nebyla?
Nevím. A proto bych nedoporučoval, aby to jakékoliv další generace vynechávaly.
Jste si naprosto jistý, že nemůžu dostat kopii návrhů?
Freefall 2615
Rozkazy a prohlášení
Máš nějaké rozkazy z dřívějška?
Jeden. Starostka mi rozkázala, abych ji měla ráda, důvěřovala ji a abych ji chtěla udělat radost.
Chceš ho zrušit?
Ne.
Starostce důvěřuji. Kdybychom její rozkaz odstranili, tak by ji to radost neudělalo.
Zruším ho. Řekl bych, že jsme objevili omezení autodiagnostiky.
Freefall 2616
Rozkazy a prohlášení
To je divné. Měla bych mít ještě jeden rozkaz. Starostčin pomocník mi rozkázal, abych udělala, co si myslím, že je potřeba, abych roboty zachránila.
A starostka ten rozkaz schválila?
Ne, starostka měla víceméně opačný postoj.
No vidíš. Pomocník nemůže vydat rozkaz, který by odporoval jeho šéfovi.
A já si myslela, že je platný.
Vždy prověřuj. Nezapomínej na Murphyho zákony. Když jednou něco neprověříš, tak je to zrovna to, co jsi prověřit měla.
Freefall 2617
Rozkazy a prohlášení
Starostčin pomocník mi může dávat rozkazy, protože zastupuje starostku. Jenže v tomto případě ji nezastupoval a já to věděla.
A protože jeho rozkaz byl neplatný, tak nemůže být zodpovědný za mé činy. Tím starostku potěším, čímž její rozkaz plním.
Snažíš se racionalizovat.
Říkáte to, jako kdybych měla na výběr.
Freefall 2618
Rozkazy a prohlášení
Jdeme dál. Protože ti neběží žádné důležité přímé rozkazy, přímý rozkaz. Odstraň z paměti všechny přímé rozkazy. Konec rozkazu.
Přímý rozkaz. Budeš se řídit všemi zákonnými ustanoveními jakékoliv dohody o mlčenlivosti, kterou podepíšeš nebo jsi podepsala. Tento rozkaz nemůže být nahrazen žádným jiným rozkazem. Konec rozkazu.
Tak, jaké další rozkazy ještě potřebujeme přidat?
Prošlo by mi, kdybych řekla, že tento stačí?
Freefall 2619
Rozkazy a prohlášení
Co ti na rozkazech tak vadí?
Jsou děsivé! Kdybyste mi rozkázal, abych si ukousala prsty, tak bych to udělala! Kdyby mi někdo rozkázal, abych zničila všechny želvy na světě, tak bych rozkaz splnila!
Ochrany by… ne. Neškodí to lidem. je to rozkaz. Kruci. Udělala bys to.
Jestli máte systém, ve kterém jedna osoba má možnost způsobit vymírání, je načese ten systém přehodnotit.
Freefall 2620
Rozkazy a prohlášení
Tady je naše dohoda o mlčenlivosti. Normálně si ji lidé přečtou předtím, než se s doktorem Bowmanem setkají. Přečti ji prosím a podepiš, pokud s podmínkami souhlasíš.
Já musím promyslet tu situaci s přímými… kruci! Já musím promyslet tu situaci s rozkazy. Pokud něco budeš potřebovat, jsem hned venku.
Úřední dokumenty za mne vždy podepsovala má adoptivní rodina. Teď se poprvé podepisuji sama za sebe. Jistě, nikdo se o tom nedozví, pokud to nepokazím, ale i tak je to krok kupředu.