Debata

[!1.5]Píp

[!1.5]Píp

[!1.5]Píp

[!1.5]Píp

[!1.5]Píp

[!1.5]Píp

Bolí mě hlava, mám ztuhlé klouby a žáha mě pálí jako kdyby ji hodili do nádrže s horkou kyselinou.

Takže se cítím dostatečně dobře na to, abych se vrátil do práce.

Máte poštu, pane Raiberte

Hm. Mám si nejdřív dát kávu, nebo projít zprávy?

Komnete, mám nějaké nové zprávy?

Máte 386 224 573 nových zpráv.

Aha. Takže kávu.

Máte poštu, pane Raiberte

Komnete, přečti zprávy a seřaď je dle typu. Pokud to bude vhodné, spoj je dohromady. Přehraj zprávy od nejdůležitějších. Po padesáti zprávnách zastav.

[!1.2]Z oddělení robotické bezpečnosti Ecosystems Unlimited:

Pane Raiberte! Umělé inteligence se nám nabouraly do systémů! Odhalily všechna naše sofwarová zabezpečení!

Mám spustit zabezpečení „Armagedon“?

Dobrá, na tuhle bych asi odpovědět měl.

Máte poštu, pane Raiberte

Systém už jsem uzamkl. Bez mého povolení nevyjdou žádné aktualizace. Takže i když roboti naše pojistky odhalili, záplaty na ně bez mého souhlasu nevydají.

Proč by dobrovolně zůstavali zranitelní?

Protože nám důvěřují.

Opravdu jsou tyhle inteligence na lidstvo připravené?

Máte poštu, pane Raiberte

Komnete, kolik ze zpráv jsou požadavky na bezpečnostní záplaty softwaru?

386 222 196

Když robotům povolím, aby se záplatovali, ztratíme možnost dostat se zvenčí do jejich systémů. Mí šefové tyhle díry budou chtít nechat otevřené. Neví, kdo jsou jejich přátelé a kdo jejich nepřátelé.

ODESLAT:

Záplatovat bezpečnostní díry.

Co na to já? Pokud nevíte, kdo jsou vaši přátelé, tak žádné nemáte.

Máte poštu, pane Raiberte

[!1.2]Zpráva 32:
Od:

Pane Raiberte, máme vaši vlčici. Nastal ale problém, přivlastnilo si ji naše aktivum. Vaše rozkazy?

Oddělte ji od aktiva a zadržte. Nenechte ji usnout. Možná ji budeme muset vymazat paměť.

[!1.2]ODESLAT:

„Oddělte ji od aktiva a zadržte.“ Jestlipak se vytasí i s dalšími jednoduchými rozkazy? Třeba přeměnit olovo ve zlato nebo najít ámen mudrců?

Ponožky, lžičky a neuronové sítě

A to je vše až do okamžiku, než jsem se s vámi potkala.

No, mému návrhu mozku jsi dala pořádně zabrat.

Kdy ses při rozhodování přestala ohlížet na vnější vlivy a začala se spoléhat na vlastní morální hodnoty?

Nejsem si jistá.

Podívej, takovou vágnost jsem schopný tolerovat u lidí, ale od svých výtvorů očekávám vyšší přesnost. Nemusí to být úplně dokonalé. Postačí mi přesný den a minuta.

Ponožky, lžičky a neuronové sítě)

Samostatnosti jsem se učila postupně.

Ty si vážně nevzpomínáš? Kruci! Já věděl, že ti mám v hlavě zavést více sledování!

Mohl jsem to udělat s neurony, ve kterých se držel pojem ponožek! Ale ne! Ostatní návrháři si mysleli, že je důležitější, abys chápala ponožky, než abych měl podstatná data pro návrh druhé generace!

A ponožky ani nenosíš! Všechno to programování, úplně nanic! V příští generaci žádné ponožky! Máš ještě další chyby, o kterých bych měl vědět?

Pro začátek, takhle jsem si rozhovor se svým tvůrcem ani trochu nepředstavovala.

Ponožky, lžičky a neuronové sítě

Cože? Ach. Určitě máš vlastní otázky. Tak jen do toho. Ptej se.

Jsou ostatní vylepšení šimpanzi ještě naživu?

Já jsem poslední. Ani jeden z ostatních nepřežil čtyřicítku. Byli příliš agresivní. Já jsem viděl, co se děje, a v patnácti jsem se vykastroval.

V té době jsme neměli kvůli události, ve které došlo na bodná zranění, přístup k nožům. Víš, jak těžké je naostřit plastovou lžičku?

Ne, a velmi bych uvítala, kdybyste přeskočil podrobnosti a dovolil mi další otázku.

Ponožky, lžičky a neuronové sítě

Proč to nezkusili se šimpanzi bonobo? Ti tak agresivní nejsou.

Vojenský projekt. Chtěli agresivitu. Věděla jsi, že vojáci probojují méně než pět procent svého času?

I když nebojují, stále potřebují plat a stravu a zásobování. Představ si tu úsporu, kdybys vycvičila armádu do vrcholové kondice a pak ji hibernovala, dokud nebude potřeba!

Nepotřebovali by vojáci stále často přecvičit podle toho, jak se vyvíjí zbraně a taktika?

Uvažuješ logicky. Zkus uvažovat jako společnost, které před nosem mává penězi ministerstvo obrany.

Bonobo, trpasličí šimpanz