Kdy budeme schopni vyrobit umělou inteligenci zdatnější než lidský mozek? A není potenciálně mnohem nebezpečnější než jaderné zbraně?

Aktuality

zdroj: 2media.cz

Praha | Odpovědi hledá kniha oxfordského profesora Nicka Bostroma Superinteligence, která uhranula Billa Gatese Kam až se dostalo lidstvo se svým sklonem neustále něco vymýšlet? Tuto cestu popisuje kniha...

SUPERINTELIGENCE Švéda Nicka Bostroma, kterého časopis Foreign Policy dvakrát zařadil mezi sto nejvlivnějších intelektuálů světa. V překladu Jana Petříčka vydává PROSTOR.

Často dnes slýcháme, že ve veřejném životě chybí osobnosti a že v umění chybí osobitost. To vše by se asi s umělou inteligencí ještě zvýraznilo, neboť takto vytvoření „jedinci“ by postrádali osobnostní rysy a nabízeli by pouze unifikované, dopředu předvídatelné výkony. Nick Bostrom k tomu podotýká: „V některých oblastech je kvantita chabou náhražkou za kvalitu. Jediný osamělý génius ukrytý ve své korkem obložené ložnici dokázal napsat Hledání ztraceného času. Mohlo by vzniknout podobné mistrovské dílo, pokud bychom si za tím účelem najali budovu plnou námezdních pisálků? I v rámci současného rozdělení inteligence můžeme vidět, že u některých úkolů se práce jednoho výjimečného génia vyplatí více než námaha spousty průměrných fušerů.“
   Autor Superinteligence zde tak odkrývá nejen limity umělé inteligence, ale vlastně i „kvantitativní stagnaci“ umění v současném technologickém světě, kdy mnohdy přes tu spoustu průměrných fušerů nejsme schopni zahlédnout onoho výjimečného génia.
   Protože všechno jedinečné je dnes opravdu vytěsňováno a unifikováno… Máme předpisy, jak rovné mají být salátové okurky i jak velké mají být včelíny… Což je vlastně předstupeň ke „stejnosti“ umělé inteligence. Tlak na totožnost se tedy stupňuje a mnohdy jediným způsobem, jak prokázat svou jedinečnost, je předložení průkazu totožnosti.

Nick Bostrom: SUPERINTELIGENCE. Až budou stroje chytřejší než lidé (anotace)
Mnozí si dnes kladou otázku, zda umělá inteligence překoná v dohledné budoucnosti tu lidskou, a pokud ano, jaké to bude mít důsledky. Budeme umělou inteligenci, která si je vědoma sama sebe, ještě schopni kontrolovat? Bude naším spojencem? Nebo nás nebude už potřebovat, a může nás tudíž chtít zničit? Vznikne nový „živočišný“ druh, který bude kombinací člověka a jím vyvinuté umělé inteligence?
Na tyto a další otázky se pokouší odpovědět monografická kniha Nicka Bostroma.
   Autor nabízí nejprve historický přehled různých kroků, které vedly ke vzniku zárodků umělé inteligence, jakož i přehled toho, kde se její vývoj nachází dnes. Probírá jednotlivé druhy umělé inteligence – od počítačů až po nové formy, které by mohly kombinovat stroje s biologickou materií. Předkládá rovněž komplexní přehled názorů odborníků na to, jakým směrem se bude vývoj umělé inteligence ubírat.
   V centru jeho pozornosti stojí otázka, zda může umělá inteligence – buď ve formě stroje, nebo v kombinaci s biologickými formami rozumu – napodobit fungování lidského mozku. Dokud toho umělá inteligence nebude schopná, bude z podstaty věci omezená. Lidský mozek má podle něj určité schopnosti, které ostatní formy nám známého biologického života postrádají. Na planetě Zemi to lidem dává dominantní postavení, které jim umožňuje mít převahu nad ostatními formami života, včetně těch vysoce inteligentních, jako jsou lidoopi.
   Bostrom varuje, že podobně jako přežití lidoopů nyní jen kvůli malé genetické výhodě záleží na vůli lidí, může se stát, že pokud vytvoříme superinteligenci, která bude podobným způsobem nadřazena nám, stane se naše vlastní přežití závislé
na ní. Naší výhodou však je, že to, zda učiníme krok k vyšší formě inteligence, než je ta naše, závisí na nás. To, že lidstvo dojde k bodu, kdy bude schopno uvést superinteligenci v život, je podle autora nevyhnutelné. Otázka zní, jak toto zrození superinteligence provést tak, aby nás v krátkém čase nezahubilo. Autor při tom nabízí různé scénáře možného vývoje.
   Klade si otázku, jakou bude mít superinteligence „motivaci“ pro svá rozhodnutí. V centru lidského chování stojí morální dilemata. Bude možné trvalé morální sebeomezení naprogramovat nějakým způsobem do umělé inteligence, která se bude schopna sama vylepšovat? Odpověď není zcela jistá, a Bostrom se proto zabývá několika možnostmi, jak by se lidstvo mohlo proti ztrátě kontroly nad umělou superinteligencí bránit. I zde ale naráží na dilemata, protože inteligence převyšující tu lidskou může být schopná takové naprogramované kontroly či mechanismy k jejímu sebezničení odhalit a obejít…
   Kniha je čtivá a přístupná nejen odborníkům, ale i širokému publiku. Její výhodou je, že se zabývá scénáři, jež mohou vyplynout z dalšího vylepšování technologií, které dnes používá v různých formách každé dítě.

O knize napsali

Kniha Nicka Bostroma má na čtenáře vysoké nároky, jelikož si pohrává s velkými myšlenkami. Za tu námahu však rozhodně stojí… Pokud vás toto téma zajímá a jste připraveni na trochu mentální námahy, přinese vám četba velké uspokojení.
Tom Chivers, THE TELEGRAPH

Bostrom vidí superinteligenci jako vynořující se existenciální hrozbu, ohromnou sílu, kterou nejsme s to zvládnout. Naštěstí pro lidstvo se kniha věnuje převážně tomu, jak můžeme toto nevyhnutelné setkání přežít.
Zachary Miller, YALE SCIENTIFIC

Celosvětová diskuse o výhodách i záporech umělé inteligence je teprve na začátku, a proto je Superinteligence Nicka Bostroma zásadním příspěvkem k tématu… Bez ohledu na to, kudy se bude vývoj ubírat, musíme zůstat bdělí, abychom mohli reagovat, ať už nás bude vývoj umělé inteligence posouvat k lepšímu, nebo k horšímu.
Miles Raymer, WORDS&DIRT

V průběhu četby se kniha proměňuje od populárně naučné práce v sofistikovanou filozofickou argumentaci, přičemž vykresluje existenciální rizika a nabízí strategie, jak eliminovat nebezpečí.
Joel Thomas, TAYLOR & FRANCIS ONLINE

Možné důsledky existence dalšího inteligentního druhu na planetě jsou natolik rozsáhlé, že si zaslouží hlubší zamyšlení, přestože se vyhlídka na to zdá vzdálená. Pokud zkusíme už dopředu předvídat možné hrozby, jednou za to můžeme děkovat.
THE ECONOMIST

Tuto knihu vřele doporučuji.
BILL GATES, spoluzakladatel Microsoftu

Rozhodně stojí za přečtení. Pokud jde o umělou inteligenci, musíme být nanejvýš opatrní. Je potenciálně mnohem nebezpečnější než jaderné zbraně.
ELON MUSK, zakladatel kosmické společnosti SpaceX, ředitel automobilky Tesla

Každý inteligentní člověk by si měl tuto knihu přečíst.
NILS NILSSON, průkopník oboru umělé inteligence

Nick Bostrom (1973), vlastním jménem Niklas Boström, pochází ze Švédska. Studoval mimo jiné filozofii, matematiku a fyziku na univerzitách v Göteborgu,
ve Stockholmu a na King’s College v Londýně. V současnosti je profesorem Oxfordské univerzity a zakládajícím ředitelem Future of Humanity Institute, multidisciplinárního centra, které umožňuje nadaným filozofům a vědcům bádat nad velkými otázkami lidstva. Je autorem více než 200 prací přeložených do 24 jazyků. K oblastem jeho zájmu a zkoumání patří simulace reality, antropický princip, vliv umělé inteligence a etická role technologií v dnešním i budoucím světě. K monografiím patří Anthropic Bias (Antropický princip, 2002), Global Catastrophic Risks (Globální katastrofická rizika, 2008) a Human Enhancement (Lepší lidstvo, 2009). Časopis Foreign Policy ho dvakrát zařadil mezi sto nejvlivnějších intelektuálů světa.