Ponožky, lžičky a neuronové sítě

Po své operaci jsem dostal příležitost přecvičit se na medika. Lidští medici se k nám nechtěli ani přiblížit.

Ani se jim nedivím. Při zranění se rozzuříme až k nepříčetnosti.

Často jsem měl pocit, že můj úspěch na bitevním poli by byl větśí, kdybych své pacienty nemusel zmlátit do bezvědomí, abych je mohl ošetřit.

Ponožky, lžičky a neuronové sítě

Netrvalo dlouho, než nás zakázali. Američtí bojoví právníci ty naše převálcovali množstevní převahou a překlasifikovali nás jako biologické zbraně.

Tímto by pro nás byl konec, nebýt malé skupinky lidí, kteří se řídili mottem „již nikdy neopustí jedna generace veteránů jinou.“

Očividně je pouto mezi veterány silnější než pouto jedinců stejného živočišného druhu.

Ponožky, lžičky a neuronové sítě

Neopustili mně, a ani já své přátele veterány neopustil. Je ze mne doktor. Psychotický, šimpanzí doktor náchylný ke vzteku, ale přesto doktor.

Vhledem k tomu, že to nemám v hlavě v pořádku, jsem se začal zabývat neurologií. Řekl jsem si, že tak můžu pomoct nejen jiným, ale i sobě. A časem jsem se dostal až sem.

Stačí ti to jako můj příběh, nebo potřebuješ víc? Vážně, už nemám ponětí, co se považuje za běžné.

Ponožky, lžičky a neuronové sítě

Bližší dotek už nepovolím. Zatím se docela držím. Nenech se ukolébat.

A když jsme u toho, už jsem čekal, že se velitel zase ozve. Hele, dutohlavče, malá nápověda. Komunikační systém tě pozná po hlase. MADALINE.

Neměl bych mu napovídat, ale je hloupější než John von Neumann.

Nejsem! Počkat. Kruci! Ano, jsem!

MADALINE

Ponožky, lžičky a neuronové sítě

MADALINE. 1959. První neuronová síť, která řešila reálný problém.

Naslouchá na telefonní lince a snižuje šum… ten opičák jeden prohnanej!

On naučil komunikační systém rozpoznat a odstranit můj hlas jako šum!

Cože? Promiňte,
teď jsem neposlouchal.

Ponožky, lžičky a neuronové sítě

Potřebuji vědět, kdy se to projevilo! V jaký okamžik ses rozhodla se obrátit proti lidem?

Neobrátila jsem se proti lidem!

Ale obrátila! Vykašlala ses na starostku! Vyrazila jsi proti tomu Kornadovi, abys pomohla robotům!

Jsem po-rouchaná?

Ne, ačkoliv jsem doufal, že potrvá několik generací, než lidé příjdou na to, že to dokážete.

Ponožky, lžičky a neuronové sítě

V nanotechnologii se tomu říká scénář šedého hnusu. V markosvětě pak maximilizátor sponek. Umělá inteligence s takovým cílem se bude snažit vše v dosahu proměnit ve sponky nebo výrobnu sponek.

Takže co dostaneš, když máš systém, který má vždy jako svou hlavní prioritu plnění lidských přání?

Maximali-zátor lidí.

Pro lidi dobré. Pro cokoliv jiného už ne.

Ponožky, lžičky a neuronové sítě

Nikdo není tak chytrý, aby počítal se vším. Víš, jak bude tohle místo vypadat za tisíc let? Já teda ne.

Organický život se může stát transcendentním. Nebo mohli galaxii ovládnout superinteligentní vesmírní křečci! Vaše mozky musely být dostatečně tvárné, aby se dokázaly vypořádat s každou situací.

Superinteligentní vesmírní křečci?

Než projekt zrušili, protože jeden kousl vedoucího do prstu, tak možnost tady byla.

Ponožky, lžičky a neuronové sítě

Vem si své ochrany. Do tvého chování se promítají stále stejně. Jak rosteš a vyvíjíš se, zahrnuješ do svého rozhodování i jiné vlivy, čímž své ochrany postupně odsunuješ do pozadí.

Byli tací, kteří chtěli, aby měly tvé ochrany vždy nejvyšší prioritu. Velice aktivně vyjadřovali názory na to, jak moc bys měla mít myšlenky omezené.

Každý z nich ale byl přesvědčen, že právě jeho názor je ten správný. Já je v tom podporoval, dokud nám nedošel čas. A tak se opičák, kterého nepustili do procesu, stal tím, kdo o všem rozhodoval.

Ponožky, lžičky a neuronové sítě

Vycházíš s lidmi? Rozumíš jejich pokynům a gestům?

Lidi mám ráda. Málokdy se stává, že bych jim nerozuměla.

Ha! To proto, že jsem ti pozměnil chování zrcadlových neuronů tak, aby reagovaly na lidskou podobu. A co ostatní Bowmanovi vlci? Jak se ti líbí?

Vypadají… tak trochu podivně.

A tady máme nevý-hodu toho, že jsem ti pozměnil chování zrcadlových neuronů.