Před vámi je druhý díl článku ze série „Počkejte, jak to všechno může být skutečné, proč se o tom stále nemluví na každém rohu“. V předchozí sérii vyšlo najevo, že k lidem planety Země se postupně vkrádá exploze inteligence, snaží se vyvinout od úzce zaměřené k univerzální inteligenci a nakonec k umělé superinteligenci.
"Možná stojíme před extrémně obtížným problémem a není známo, kolik času je věnováno jeho řešení, ale budoucnost lidstva může záviset na jeho řešení." - Nick Bostrom.
První část článku začala dost nevinně. Diskutovali jsme o úzce zaměřené umělé inteligenci (AI, která se specializuje na řešení jednoho konkrétního problému, jako je určování tras nebo hraní šachů), v našem světě je toho hodně. Poté analyzovali, proč je tak obtížné rozvíjet obecnou směrovou umělou inteligenci (AGI nebo AI, která se z hlediska intelektuálních schopností může při řešení jakéhokoli problému srovnávat s člověkem), je tak obtížná. Došli jsme k závěru, že exponenciální míra technologického pokroku naznačuje, že AGI může být za rohem docela brzy. Nakonec jsme se rozhodli, že jakmile stroje dosáhnou lidské inteligence, může se hned stát následující:
Jako obvykle se díváme na obrazovku, nevěříme, že se během našeho života může objevit umělá superinteligence (ISI, která je mnohem chytřejší než kdokoli jiný), a vybíráme si emoce, které by nejlépe odrážely náš názor na tento problém.
Než se ponoříme do specifik ISI, připomeňme si, co to znamená, že stroj je superinteligentní.
Hlavní rozdíl spočívá mezi rychlou superinteligencí a kvalitní superinteligencí. První věc, která vás při přemýšlení o superinteligentním počítači napadne, je, že dokáže myslet mnohem rychleji než člověk - milionkrát rychleji, a během pěti minut pochopí, co by člověku trvalo deset let. („Znám kung -fu!“)
Zní to působivě a ISI by měl opravdu přemýšlet rychleji než kdokoli jiný - ale hlavním oddělovacím prvkem bude kvalita jeho inteligence, která je zcela odlišná. Lidé jsou mnohem chytřejší než opice, ne proto, že by mysleli rychleji, ale proto, že jejich mozek obsahuje řadu důmyslných kognitivních modulů, které provádějí komplexní jazykové reprezentace, dlouhodobé plánování, abstraktní myšlení, čehož opice nejsou schopné. Pokud tisíckrát zrychlíte mozek opice, nebude chytřejší než my - ani po deseti letech nebude schopen sestavit konstruktéra podle pokynů, což by člověku zabralo maximálně pár hodin. Jsou věci, které se opice nikdy nenaučí, bez ohledu na to, kolik hodin stráví nebo jak rychle pracuje její mozek.
Opice navíc neví, jak lidsky, protože její mozek prostě není schopen realizovat existenci jiných světů - opice možná ví, co je člověk a co je to mrakodrap, ale nikdy nepochopí, že mrakodrap postavil lidé. V jejím světě všechno patří přírodě a makak nejen že nedokáže postavit mrakodrap, ale také pochopit, že ho vůbec může postavit kdokoli. A to je výsledek malého rozdílu v kvalitě inteligence.
V obecném schématu inteligence, o kterém mluvíme, nebo jednoduše podle standardů biologických bytostí, je rozdíl v kvalitě inteligence mezi lidmi a opicemi malý. V předchozím článku jsme umístili biologické kognitivní schopnosti na žebřík:
Abyste pochopili, jak vážný bude superinteligentní stroj, umístěte jej o dva stupně výše než osoba na tomto žebříku. Tento stroj je možná trochu superinteligentní, ale jeho převaha nad našimi kognitivními schopnostmi bude stejná jako u našich - nad opicemi. A stejně jako šimpanz nikdy nepochopí, že lze postavit mrakodrap, možná nikdy nepochopíme, čemu porozumí stroj o pár kroků výše, i když se nám to stroj pokusí vysvětlit. Ale to je jen pár kroků. Chytřejší stroj v nás uvidí mravence - ze své pozice nás bude roky učit ty nejjednodušší věci a tyto pokusy budou zcela beznadějné.
Typ superinteligence, o které si dnes povíme, leží daleko za tímto žebříčkem. Toto je exploze inteligence - když je auto chytřejší, tím rychleji může zvýšit svoji vlastní inteligenci a postupně zvyšovat hybnost. Může trvat roky, než stroj, jako je tento, překoná šimpanze v inteligenci, ale možná pár hodin, než nás překoná pár zářezů. Od té chvíle už auto dokáže každou sekundu přeskočit čtyři kroky. Proto bychom měli pochopit, že velmi brzy poté, co se objeví první zpráva, že stroj dosáhl úrovně lidské inteligence, můžeme čelit realitě soužití na Zemi s něčím, co bude na tomto žebříčku mnohem vyšší než my (nebo možná, a milionkrát vyšší):
A protože jsme zjistili, že je zcela zbytečné pokoušet se pochopit sílu stroje, který je jen dva kroky nad námi, definujme jednou provždy, že neexistuje způsob, jak pochopit, co ISI udělá a jaké důsledky bude mít to bude pro nás. Každý, kdo tvrdí opak, prostě nechápe, co znamená superinteligence.
Evoluce pomalu a postupně vyvíjela biologický mozek po stovky milionů let, a pokud lidé vytvoří superinteligentní stroj, v jistém smyslu evoluci překročíme. Nebo to bude součástí evoluce - evoluce možná funguje tak, že se inteligence vyvíjí postupně, dokud nedosáhne bodu zvratu, který ohlašuje novou budoucnost pro všechny živé věci:
Z důvodů, o kterých budeme diskutovat později, velká část vědecké komunity věří, že otázkou není, zda se dostaneme do tohoto bodu zlomu, ale kdy.
Kde skončíme po tomto?
Myslím, že nikdo na tomto světě, ani já, ani vy, nebudete schopni říci, co se stane, když dosáhneme bodu zvratu. Oxfordský filozof a přední teoretik AI Nick Bostrom věří, že můžeme všechny možné výsledky shrnout do dvou širokých kategorií.
Nejprve, když se podíváme do historie, víme o životě následující: druhy se objevují, existují po určitou dobu a pak nevyhnutelně spadnou z kladiny a vymřou.
„Všechny druhy vymírají“byly v historii stejně spolehlivým pravidlem jako „všichni lidé jednoho dne zemřou“. 99,9% druhů padlo ze kulatiny života a je zcela jasné, že pokud druh na této kládě visí příliš dlouho, poryv přirozeného větru nebo náhlý asteroid poleno převrátí. Bostrom nazývá vyhynutí stav atraktoru - místo, kde se všechny druhy vyrovnávají, aby nespadly tam, kde se ještě žádný druh nevrátil.
A ačkoli většina vědců připouští, že ISI bude mít schopnost odsoudit lidi k zániku, mnozí také věří, že využití schopností ISI umožní jednotlivcům (a druhu jako celku) dosáhnout druhého stavu atraktoru - nesmrtelnosti druhu. Bostrom věří, že nesmrtelnost druhu je stejně přitažlivá jako vymírání druhu, to znamená, že pokud se k tomu dostaneme, budeme odsouzeni k věčné existenci. I kdyby tedy všechny druhy až dosud spadly z tohoto klacku do víru vyhynutí, Bostrom věří, že kláda má dvě strany, a na Zemi se prostě neobjevila taková inteligence, která by chápala, jak spadnout na druhou stranu.
Pokud mají Bostrom a další pravdu a soudě podle všech informací, které máme k dispozici, možná ano, musíme přijmout dvě velmi šokující skutečnosti:
Vznik ISI poprvé v historii otevře druhu cestu k dosažení nesmrtelnosti a vypadnutí ze smrtelného cyklu vyhynutí.
Vznik ISI bude mít tak nepředstavitelně obrovský dopad, že s největší pravděpodobností vytlačí lidstvo z tohoto deníku jedním nebo druhým směrem.
Je možné, že když evoluce dosáhne takového zlomového bodu, vždy ukončí vztah lidí k proudu života a vytvoří nový svět, s lidmi i bez nich.
To vede k zajímavé otázce, kterou by si neřekl jen bummer: kdy se dostaneme do tohoto bodu zlomu a kam nás to přivede? Nikdo na světě nezná odpověď na tuto dvojitou otázku, ale mnoho chytrých lidí se na to snaží přijít už desítky let. Ve zbytku článku zjistíme, odkud pocházejí.
* * *
Začněme první částí této otázky: kdy bychom měli dosáhnout bodu zlomu? Jinými slovy: kolik času zbývá, než první stroj dosáhne superinteligence?
Názory se případ od případu liší. Mnozí, včetně profesora Vernora Vingeho, vědce Bena Herzela, spoluzakladatele Sun Microsystems Bill Joy, futuristy Ray Kurzweila, souhlasili s odborníkem na strojové učení Jeremym Howardem, když na TED Talk představil následující graf:
Tito lidé sdílejí názor, že ISI bude brzy - tento exponenciální růst, který se nám dnes zdá pomalý, v příštích několika desetiletích doslova vybuchne.
Jiní, jako spoluzakladatel Microsoftu Paul Allen, výzkumný psycholog Gary Marcus, počítačový expert Ernest Davis a technologický podnikatel Mitch Kapor, se domnívají, že myslitelé jako Kurzweil vážně podceňují velikost problému a domnívají se, že nejsme tak blízko bod zvratu.
Kurzweilův tábor tvrdí, že jediným podceněním, které nastává, je ignorování exponenciálního růstu a pochybovače lze přirovnat k těm, kteří se v roce 1985 podívali na pomalu se rozvíjející internet a tvrdili, že v blízké budoucnosti nebude mít na svět žádný dopad.
Pochybovači se mohou domnívat, že pro pokrok je obtížnější provést každý další krok, pokud jde o exponenciální vývoj inteligence, který neutralizuje typickou exponenciální povahu technologického pokroku. Atd.
Třetí tábor, ve kterém je Nick Bostrom, nesouhlasí ani s prvním, ani s druhým a tvrdí, že a) to vše se může absolutně stát v blízké budoucnosti; a b) neexistuje žádná záruka, že k tomu vůbec dojde nebo že to bude trvat déle.
Jiní, jako filozof Hubert Dreyfus, věří, že všechny tři skupiny naivně věří, že vůbec dojde k bodu zvratu a že se s největší pravděpodobností k ISI nikdy nedostaneme.
Co se stane, když dáme dohromady všechny tyto názory?
V roce 2013 Bostrom provedl průzkum, ve kterém pohovořil se stovkami odborníků na AI na sérii konferencí na následující téma: „Jaké budou vaše předpovědi pro dosažení AGI na lidské úrovni?“a požádal nás, abychom pojmenovali optimistický rok (ve kterém budeme mít AGI s 10procentní šancí), realistický předpoklad (rok, ve kterém budeme mít AGI s 50procentní pravděpodobností) a sebevědomý předpoklad (nejranější rok, ve kterém AGI se objeví od 90 procentní pravděpodobnosti). Zde jsou výsledky:
* Průměrný optimistický rok (10%): 2022
* Průměrný realistický rok (50%): 2040
* Průměrný pesimistický rok (90%): 2075
Průměrní respondenti se domnívají, že za 25 let budeme mít AGI spíše než ne. 90procentní šance, že se AGI vyskytne do roku 2075, znamená, že pokud jste teď ještě docela mladí, s největší pravděpodobností se to stane během vašeho života.
Samostatná studie, kterou nedávno provedl James Barratt (autor uznávané a velmi dobré knihy Náš nejnovější vynález, úryvky z Předložil jsem do pozornosti čtenářů Hi-News.ru) a Ben Hertzel na konferenci AGI, výroční konferenci AGI, jednoduše ukázali názory lidí na rok, ve kterém se na AGI dostaneme: 2030, 2050, 2100, později nebo nikdy. Zde jsou výsledky:
* 2030: 42% respondentů
* 2050: 25%
* 2100: 20%
Po 2100: 10%
Nikdy: 2%
Podobné jako výsledky Bostroma. V Barrattově hlasování více než dvě třetiny dotázaných věří, že AGI zde bude do roku 2050, a méně než polovina věří, že AGI se objeví v příštích 15 letech. Je také zarážející, že pouze 2% respondentů v zásadě nevidí AGI v naší budoucnosti.
Ale AGI není bod zvratu jako ISI. Kdy podle odborníků budeme mít ISI?
Bostrom se zeptal odborníků, kdy dosáhneme ASI: a) dva roky po dosažení AGI (to znamená téměř okamžitě kvůli výbuchu inteligence); b) po 30 letech. Výsledek?
Průměrný názor je, že k rychlému přechodu z AGI na ISI dojde s 10% pravděpodobností, ale za 30 let nebo méně k němu dojde se 75% pravděpodobností.
Z těchto údajů nevíme, jaké datum by respondenti nazvali 50procentní šancí na ASI, ale na základě výše uvedených dvou odpovědí předpokládejme, že je to 20 let. To znamená, že přední světoví experti na AI věří, že zlom nastane v roce 2060 (AGI se objeví v roce 2040 + přechod z AGI na ISI bude trvat 20 let).
Všechny výše uvedené statistiky jsou samozřejmě spekulativní a jednoduše představují názor odborníků v oblasti umělé inteligence, ale také naznačují, že většina zainteresovaných lidí souhlasí s tím, že do roku 2060 AI pravděpodobně dorazí. Za pouhých 45 let.
Přejdeme k druhé otázce. Když se dostaneme do bodu zlomu, která strana osudové volby nás určí?
Superinteligence bude mít nejsilnější moc a kritická otázka pro nás bude následující:
Kdo nebo co bude tuto moc ovládat a jaká bude jejich motivace?
Odpověď na tuto otázku bude záviset na tom, zda ISI dosáhne neuvěřitelně silného vývoje, nesmírně děsivého vývoje nebo něčeho mezi tím.
Odborná komunita se samozřejmě snaží odpovědět i na tyto otázky. Bostromův průzkum analyzoval pravděpodobnost možných důsledků dopadu AGI na lidstvo a ukázalo se, že s 52procentní šancí vše proběhne velmi dobře a s 31procentní šancí vše dopadne buď špatně, nebo extrémně špatně. Anketa připojená na konci předchozí části tohoto tématu, provedená mezi vámi, milí čtenáři Hi-News, ukázala přibližně stejné výsledky. Pro relativně neutrální výsledek byla pravděpodobnost pouze 17%. Jinými slovy, všichni věříme, že AGI bude velký problém. Za zmínku také stojí, že se tento průzkum týká vzniku AGI - v případě ISI bude procento neutrality nižší.
Než půjdeme hlouběji do přemýšlení o dobrých a špatných stránkách otázky, spojme obě strany otázky - „kdy k tomu dojde?“a "je to dobré nebo špatné?" do tabulky, která pokrývá názory většiny odborníků.
Promluvíme si o hlavním táboře za minutu, ale nejprve rozhodněte o své pozici. Je pravděpodobné, že jste na stejném místě jako já, než jsem začal pracovat na tomto tématu. Existuje několik důvodů, proč lidé nad tímto tématem vůbec neuvažují:
* Jak již bylo zmíněno v první části, filmy vážně popletly lidi a fakta a představovaly nerealistické scénáře s umělou inteligencí, což vedlo k tomu, že bychom AI neměli brát vůbec vážně. James Barratt přirovnal tuto situaci k vydání Centra pro kontrolu nemocí (CDC) s vážným varováním před upíry v naší budoucnosti.
* Kvůli takzvaným kognitivním předsudkům je pro nás velmi těžké uvěřit, že je něco skutečné, dokud nemáme důkaz. Lze si s jistotou představit, že počítačoví vědci z roku 1988 pravidelně diskutují o dalekosáhlých důsledcích internetu a o tom, čím by se mohl stát, ale lidé stěží uvěřili, že to změní jejich životy, dokud se to skutečně nestane. Prostě počítače v roce 1988 nevěděly, jak to udělat, a lidé se jen podívali na své počítače a říkali si: „Vážně? Je to to, co změní svět? Jejich představivost byla omezena tím, co se naučili z osobní zkušenosti, věděli, co je počítač, a bylo těžké si představit, čeho bude počítač v budoucnu schopen. Totéž se nyní děje s AI. Slyšeli jsme, že to bude vážná věc, ale protože jsme se s tím ještě nesetkali tváří v tvář a obecně pozorujeme v našem moderním světě spíše slabé projevy AI, je pro nás docela těžké uvěřit, že to bude radikálně změnit náš život. Proti těmto předsudkům stojí řada odborníků ze všech táborů i zájemců o to, aby se pokusili upoutat naši pozornost hlukem každodenního kolektivního egocentrismu.
* I kdybychom tomu všemu věřili - kolikrát jste dnes přemýšleli o tom, že strávíte zbytek věčnosti v nicotě? Trochu, souhlas. I když je tato skutečnost mnohem důležitější než cokoli, co děláte den za dnem. Důvodem je, že náš mozek je obvykle zaměřen na malé každodenní věci, bez ohledu na to, jak klamná je dlouhodobá situace, ve které se ocitáme. Prostě jsme stvořeni.
Jedním z cílů tohoto článku je dostat vás z tábora s názvem „Rád přemýšlím o jiných věcech“a dostat vás do tábora odborníků, i když právě stojíte na křižovatce mezi dvěma tečkovanými čarami na náměstí výše, zcela nerozhodnutý.
V průběhu výzkumu je zřejmé, že názory většiny lidí se rychle ubírají směrem k „hlavnímu táboru“a tři čtvrtiny odborníků spadají do dvou subkempů v hlavním táboře.
Oba tyto tábory navštívíme v plném rozsahu. Začněme zábavou.
Proč by budoucnost mohla být naším největším snem?
Při zkoumání světa AI nacházíme překvapivě mnoho lidí v naší komfortní zóně. Lidé na pravém horním náměstí bzučí vzrušením. Věří, že padneme na dobrou stranu klády, a také věří, že k tomu nevyhnutelně dojdeme. Budoucnost je pro ně jen to nejlepší, o čem se dá jen snít.
Pointa, která tyto lidi odlišuje od ostatních myslitelů, není to, že by chtěli být na šťastné straně - ale že si jsou jisti, že to je ona, kdo na nás čeká.
Tato důvěra vychází z kontroverzí. Kritici věří, že to pochází z oslnivého vzrušení, které zastiňuje potenciální negativní stránky. Zastánci ale tvrdí, že chmurné předpovědi jsou vždy naivní; technologie pokračuje a vždy nám pomůže více než ublížit.
Můžete si svobodně vybrat kterýkoli z těchto názorů, ale skepsi odložte a dobře se podívejte na šťastnou stránku kladiny a snažte se přijmout fakt, že vše, o čem jste si přečetli, se již možná stalo. Pokud byste ukázali lovcům a sběračům náš svět pohodlí, technologie a nekonečné hojnosti, připadalo by jim to jako kouzelná fikce - a my se chováme celkem skromně, neschopně si připustit, že nás stejná nepochopitelná proměna čeká i v budoucnosti.
Nick Bostrom popisuje tři cesty, kterými se superinteligentní systém AI může ubírat:
* Věštec, který dokáže odpovědět na jakoukoli přesnou otázku, včetně obtížných otázek, na které lidé nemohou odpovědět - například „jak zefektivnit motor automobilu?“Google je primitivní typ „orákulum“.
* Džin, který provede jakýkoli příkaz na vysoké úrovni - pomocí molekulárního assembleru vytvoří novou, efektivnější verzi automobilového motoru - a bude čekat na další příkaz.
* Suverén, který bude mít široký přístup a schopnost svobodně fungovat ve světě, rozhodovat se sám a zlepšovat proces. Vymyslí levnější, rychlejší a bezpečnější způsob soukromé dopravy než auto.
Tyto otázky a úkoly, které se nám zdají obtížné, budou superinteligentnímu systému připadat, jako by někdo požádal o zlepšení situace „moje tužka spadla ze stolu“, ve které byste ji jednoduše zvedli a dali zpět.
Eliezer Yudkowski, americký specialista na umělou inteligenci, to vyjádřil dobře:
"Neexistují žádné těžké problémy, pouze problémy, které jsou pro určitou úroveň inteligence těžké."Jděte o krok výš (z hlediska inteligence) a některé problémy se rázem přesunou z kategorie „nemožné“do tábora „zjevných“. O krok výš - a všechny budou zřejmé. “
Existuje mnoho netrpělivých vědců, vynálezců a podnikatelů, kteří si z našeho stolu vybrali zónu sebevědomého pohodlí, ale k tomu, abychom v tom nejlepším ze světů kráčeli nejlépe, potřebujeme jen jednoho průvodce.
Ray Kurzweil je nejednoznačný. Někteří jeho idoly zbožňují, někteří jím pohrdají. Někteří zůstávají uprostřed - Douglas Hofstadter, diskutující o myšlenkách Kurzweilových knih, výmluvně poznamenal, že „je to, jako byste si vzali hodně dobrého jídla a malého psího hovínka, a pak vše smíchali tak, že to nelze pochopit co je dobré a co špatné."
Ať se vám jeho nápady líbí nebo ne, bez stínu zájmu je nelze minout. Začal vymýšlet věci jako teenager a v následujících letech vynalezl několik důležitých věcí, včetně prvního plochého skeneru, prvního skeneru pro převod textu na řeč, známého hudebního syntetizátoru Kurzweil (první skutečné elektrické piano) a první komerčně úspěšný rozpoznávač řeči. Je také autorem pěti senzačních knih. Kurzweil je oceňován za své odvážné předpovědi a jeho výsledky jsou docela dobré - na konci 80. let, kdy byl internet ještě v plenkách, předpověděl, že v roce 2000 se z webu stane celosvětový fenomén. The Wall Street Journal označil Kurzweila za „neklidného génia“, Forbes za „stroj na globální myšlení“, Inc. Časopis - „Edisonův právoplatný dědic“, Bill Gates - „nejlepší z těch, kteří předpovídají budoucnost umělé inteligence“. V roce 2012 pozval spoluzakladatel společnosti Google Larry Page Kurzweila na pozici CTO. V roce 2011 spoluzaložil Univerzitu Singularity, kterou pořádá NASA a částečně ji sponzoruje Google.
Na jeho biografii záleží. Když Kurzweil mluví o své vizi budoucnosti, zní to jako šílený blázen, ale opravdu šílené na tom je, že k šílenství má daleko - je neuvěřitelně chytrý, vzdělaný a rozumný člověk. Můžete si myslet, že se ve svých předpovědích mýlí, ale není to blázen. Kurzweilovy předpovědi sdílí mnoho odborníků na komfortní zóny, Peter Diamandis a Ben Herzel. To si myslí, že se stane.
Chronologie
Kurzweil věří, že počítače dosáhnou úrovně obecné umělé inteligence (AGI) do roku 2029 a do roku 2045 budeme mít nejen umělou superinteligenci, ale také zcela nový svět - dobu takzvané singularity. Jeho chronologie AI je stále považována za nehorázně přehnanou, ale za posledních 15 let rychlý vývoj vysoce zaměřených systémů umělé inteligence (AI) přinutil mnoho odborníků postavit se na stranu Kurzweila. Jeho předpovědi jsou stále ambicióznější než předpovědi v Bostromově průzkumu (AGI do roku 2040, ISI do roku 2060), ale ne o mnoho.
Podle Kurzweila je singularita roku 2045 poháněna třemi simultánními revolucemi v biotechnologiích, nanotechnologiích a hlavně v AI. Než však budeme pokračovat - a nanotechnologie bedlivě sleduje umělou inteligenci - udělejme si chvilku na nanotechnologie.
Pár slov o nanotechnologiích
Obvykle nazýváme nanotechnologické technologie, které se zabývají manipulací s hmotou v rozmezí 1-100 nanometrů. Nanometr je jedna miliardtina metru nebo miliontina milimetru; v rozsahu 1-100 nanometrů mohou být umístěny viry (průměr 100 nm), DNA (šířka 10 nm), molekuly hemoglobinu (5 nm), glukóza (1 nm) a další. Pokud se nám nanotechnologie někdy stane předmětem, bude dalším krokem manipulace s jednotlivými atomy, které jsou menší než jeden řád (~, 1 nm).
Abychom pochopili, kde lidé narážejí na problémy se snahou manipulovat hmotou v takovém měřítku, přeskočme do většího měřítka. Mezinárodní vesmírná stanice je 481 kilometrů nad Zemí. Pokud by lidé byli obři a zasáhli ISS hlavami, byli by 250 000krát větší, než jsou nyní. Zvětšíte -li cokoli od 1 do 100 nanometrů 250 000krát, získáte 2,5 centimetru. Nanotechnologie je ekvivalentem člověka, který obíhá kolem ISS a snaží se manipulovat s věcmi o velikosti zrnka písku nebo oční bulvy. Aby se obr dostal na další úroveň - ovládání jednotlivých atomů - bude muset opatrně umísťovat předměty o průměru 1/40 milimetru. Běžní lidé budou potřebovat mikroskop, aby je viděli.
Poprvé hovořil Richard Feynman o nanotechnologiích v roce 1959. Poté řekl: „Fyzikální principy, pokud vím, nemluví proti možnosti ovládat věci atom po atomu. V zásadě by fyzik mohl syntetizovat jakoukoli chemikálii, kterou chemik zapsal. Jak? Umístěním atomů tam, kde chemik říká, aby získal látku. “V tom je celá ta jednoduchost. Pokud víte, jak přesouvat jednotlivé molekuly nebo atomy, můžete dělat téměř cokoli.
Nanotechnologie se stala vážným vědeckým oborem v roce 1986, kdy inženýr Eric Drexler představil své základy ve své klíčové knize Machines of Creation, ale sám Drexler věří, že ti, kdo se chtějí dozvědět více o moderních myšlenkách v nanotechnologii, by si měli přečíst jeho knihu z roku 2013. Plná hojnost “(Radical Hojnost).
Několik slov o „šedém goo“
Ponoříme se hlouběji do nanotechnologie. Zejména téma „gýč“je jedním z nepříliš příjemných témat z oblasti nanotechnologií, které nelze ignorovat. Starší verze teorie nanotechnologie navrhovaly metodu nano-montáže zahrnující vytvoření bilionů drobných nanorobotů, které by spolupracovaly na vytvoření něčeho. Jedním ze způsobů, jak vytvořit biliony nanorobotů, je vytvořit takový, který se dokáže sám replikovat, to znamená od jednoho do dvou, od dvou do čtyř atd. Za den se objeví několik bilionů nanorobotů. To je síla exponenciálního růstu. Vtipné, že?
Je to zábavné, ale přesně tak dlouho, dokud to nevede k apokalypse. Problém je v tom, že síla exponenciálního růstu, což z něj dělá docela pohodlný způsob, jak rychle vytvořit bilion nanobotů, dělá z vlastní replikace dlouhodobě děsivou věc. Co když systém havaruje a místo zastavení replikace na pár bilionů se nanoboti nadále rozmnožují? Co když celý tento proces závisí na uhlíku? Biomasa Země obsahuje 10 ^ 45 atomů uhlíku. Nanobot by měl mít řádově 10 ^ 6 atomů uhlíku, takže 10 ^ 39 nanobotů pohltí veškerý život na Zemi v pouhých 130 replikacích. Planetu zaplaví oceán nanobotů („grey goo“). Vědci si myslí, že nanoboti se dokážou replikovat za 100 sekund, což znamená, že jednoduchá chyba může zabít veškerý život na Zemi za pouhých 3,5 hodiny.
Mohlo by to být ještě horší - pokud se teroristé a nepřízniví specialisté dostanou do rukou nanotechnologií. Mohli by vytvořit několik bilionů nanobotů a naprogramovat je tak, aby se za pár týdnů potichu rozšířili po celém světě. Poté pouhým stisknutím tlačítka za pouhých 90 minut sežerou vůbec všechno, bez šance.
I když se o tomto hororovém příběhu široce diskutuje už roky, dobrou zprávou je, že je to jen hororový příběh. Eric Drexler, který vytvořil termín „šedý goo“, nedávno řekl následující: „Lidé milují hororové příběhy a toto je jeden ze zombie hororových příběhů. Tato myšlenka už sama o sobě požírá mozek. “
Jakmile se dostaneme na dno nanotechnologií, můžeme je použít k vytvoření technických zařízení, oblečení, potravin, bioproduktů - krvinek, bojovníků proti virům a rakovině, svalové tkáně atd. - čehokoli. A ve světě, který využívá nanotechnologie, již nebudou náklady na materiál vázány na jeho nedostatek nebo složitost jeho výrobního procesu, ale spíše na složitost jeho atomové struktury. Ve světě nanotechnologií by diamant mohl být levnější než guma.
Ještě tam nejsme ani blízko. A není úplně jasné, zda složitost této cesty podceňujeme nebo přeceňujeme. Vše však směřuje k tomu, že nanotechnologie nejsou daleko. Kurzweil předpokládá, že do roku 2020 je budeme mít. Světové státy vědí, že nanotechnologie mohou slibovat velkou budoucnost, a proto do nich investují mnoho miliard.
Jen si představte, jaké možnosti by měl superinteligentní počítač, kdyby se dostal ke spolehlivému asanátoru v nanoměřítku. Ale nanotechnologie je náš nápad a snažíme se na něm jezdit, je to pro nás těžké. Co když jsou pro systém ISI jen vtipem a samotný ISI přichází s technologiemi, které budou mnohonásobně výkonnější než cokoli, co v zásadě můžeme předpokládat? Shodli jsme se: nikdo si nedokáže představit, čeho bude umělá superinteligence schopná? Věří se, že náš mozek není schopen předpovědět ani minimum toho, co se stane.
Co by pro nás mohla AI udělat?
ISI, vyzbrojený superinteligencí a všemi technologiemi, které superinteligence dokázala vytvořit, bude pravděpodobně schopná vyřešit všechny problémy lidstva. Globální oteplování? ISI nejprve zastaví emise uhlíku vynalezením řady efektivních způsobů výroby energie, které nesouvisejí s fosilními palivy. Poté přijde s efektivním a inovativním způsobem, jak odstranit přebytečný CO2 z atmosféry. Rakovina a další nemoci? Není problém - zdravotnictví a medicína se změní způsobem, který je nepředstavitelný. Světový hlad? ISI použije nanotechnologie k vytvoření masa, které je totožné s přírodním, od nuly skutečným masem.
Nanotechnologie bude schopná proměnit hromadu odpadků na kádi s čerstvým masem nebo jiným jídlem (ne nutně dokonce ve své obvyklé podobě - představte si obří kostku jablka) a pomocí vyspělých dopravních systémů distribuovat toto všechno jídlo po celém světě. Samozřejmě to bude skvělé pro zvířata, která již nemusí umírat kvůli jídlu. ISI může také dělat mnoho dalších věcí, například chránit ohrožené druhy nebo dokonce přivést vyhynulé z uložené DNA. ISI dokáže vyřešit naše nejtěžší makroekonomické problémy - naše nejtěžší ekonomické debaty, etické a filozofické otázky, globální obchod - to vše bude pro ISI bolestně zřejmé.
Ale je tu něco velmi zvláštního, co by pro nás ISI mohl udělat. Lákavé a lákavé, které by vše změnilo: ISI nám může pomoci vyrovnat se se smrtelností … Postupným chápáním schopností AI možná přehodnotíte všechny své představy o smrti.
Nebyl důvod, aby evoluce prodloužila naši životnost déle než nyní. Pokud žijeme dost dlouho na to, abychom porodili a vychovali děti natolik, že se o sebe dokážou postarat samy, stačí evoluce. Z evolučního hlediska stačí na vývoj 30 a více let a není důvod, aby mutace prodlužovaly život a snižovaly hodnotu přirozeného výběru. William Butler Yates nazval náš druh „duší připoutanou k umírajícímu zvířeti“. Není to moc zábavné.
A protože všichni jednou zemřeme, žijeme s myšlenkou, že smrti je nevyhnutelné. Myslíme na stárnutí v průběhu času - pokračujeme v pohybu vpřed a nemůžeme tento proces zastavit. Myšlenka na smrt je ale zrádná: zajati ji, zapomínáme žít. Richard Feynman napsal:
"V biologii je úžasná věc: v této vědě není nic, co by hovořilo o nutnosti smrti." Pokud chceme vytvořit stroj s trvalým pohybem, uvědomíme si, že jsme ve fyzice našli dostatek zákonů, které buď naznačují nemožnost toho, nebo že jsou zákony špatné. V biologii ale není nic, co by naznačovalo nevyhnutelnost smrti. To mě přivádí k domněnce, že to není tak nevyhnutelné, a je jen otázkou času, kdy biologové odhalí příčinu tohoto problému, této hrozné univerzální nemoci, bude vyléčen. “
Faktem je, že stárnutí nemá s časem nic společného. Stárnutí je, když se fyzické materiály těla opotřebují. Díly aut také degradují - je však stárnutí nevyhnutelné? Pokud auto opravíte, protože se díly opotřebovávají, vydrží vám věčně. Lidské tělo se nijak neliší - jen je složitější.
Kurzweil hovoří o inteligentních nanobotech připojených k Wi-Fi v krevním oběhu, které by mohly provádět nespočet úkolů pro lidské zdraví, včetně pravidelné opravy nebo výměny opotřebovaných buněk kdekoli v těle. Zlepšení tohoto procesu (nebo nalezení alternativy navržené chytřejším ASI) nejen udrží tělo zdravé, ale může zvrátit stárnutí. Rozdíl mezi tělem 60letého a 30letého je hrstka fyzických problémů, které by bylo možné napravit správnou technologií. ISI by mohla postavit auto, do kterého by člověk vstoupil, když je mu 60 let, a odjel, když mu bude 30 let.
I degradovaný mozek mohl být obnoven. ISI by určitě věděla, jak to udělat, aniž by to ovlivnilo mozková data (osobnost, vzpomínky atd.). Devadesátiletý muž trpící úplnou degradací mozku by mohl podstoupit rekvalifikaci, obnovu a návrat na začátek svého života. Může se to zdát absurdní, ale tělo je hrstka atomů a ISI by s nimi určitě mohla snadno manipulovat, jakékoli atomové struktury. Není to tak absurdní.
Kurzweil také věří, že umělé materiály se postupem času začlení do těla stále více. Pro začátek mohly být orgány nahrazeny super pokročilými verzemi strojů, které by trvaly navždy a nikdy neselhaly. Pak bychom mohli udělat kompletní redesign těla a nahradit červené krvinky dokonalými nanoboty, které se samy pohybují, a úplně tak eliminovat potřebu srdce. Mohli bychom také zlepšit své kognitivní schopnosti, začít myslet miliardkrát rychleji a přistupovat ke všem informacím, které má lidstvo k dispozici, prostřednictvím cloudu.
Možnosti porozumění novým horizontům by byly opravdu nekonečné. Lidem se podařilo vybavit sex novým účelem, dělají to pro potěšení, nejen pro reprodukci. Kurzweil věří, že totéž můžeme udělat s jídlem. Nanoboti by mohli dodávat ideální výživu přímo do buněk těla, což umožní tělu procházet nezdravé látky. Nanotechnologický teoretik Robert Freitas již vyvinul náhradu za krvinky, která mu po implementaci v lidském těle umožní nedýchat 15 minut - a to vymyslel člověk. Představte si, kdy ISI získá moc.
Kurzweil ostatně věří, že lidé dosáhnou bodu, kdy se stanou zcela umělými; doba, kdy se díváme na biologické materiály a přemýšlíme o tom, jak primitivní byly; doba, kdy budeme číst o raných fázích lidské historie, užasnutí nad tím, jak by zárodky, nehody, nemoci nebo prostě stáří mohly zabít člověka proti jeho vůli. Nakonec lidé porazí svou vlastní biologii a stanou se věčnými - to je cesta ke šťastné straně kladiny, o které jsme mluvili od samého začátku. A lidé, kteří tomu věří, si jsou také jisti, že nás taková budoucnost čeká velmi, velmi brzy.
Pravděpodobně vás nepřekvapí, že Kurzweilovy myšlenky vyvolaly silnou kritiku. Jeho jedinečnost v roce 2045 a následný věčný život pro lidi byl nazýván „vzestup pitomců“nebo „inteligentní stvoření lidí s IQ 140“. Jiní zpochybňovali optimistický časový rámec, chápání lidského těla a mozku, připomínali Moorův zákon, který ještě nezmizel. Na každého odborníka, který věří Kurzweilovým myšlenkám, existují tři, kteří si myslí, že se mýlí.
Nejzajímavější na tom ale je, že většina odborníků, kteří s ním nesouhlasí, celkově netvrdí, že to není možné. Místo toho, aby řekli „kecy, tohle se nikdy nestane“, říkají něco jako „tohle všechno se stane, pokud se dostaneme k ISI, ale tohle je ten problém“. Bostrom, jeden z uznávaných odborníků na AI varující před nebezpečím AI, také připouští:
"Nezůstal téměř žádný problém, který by superinteligence nemohla vyřešit, nebo nám dokonce pomoci vyřešit." Nemoci, chudoba, ničení životního prostředí, utrpení všeho druhu - to vše superinteligence s pomocí nanotechnologie dokáže vyřešit během chvilky. Superintelligence nám také může poskytnout neomezenou životnost zastavením a zvrácením procesu stárnutí pomocí nanomedicíny nebo možností nahrát nás do cloudu. Superinteligence může také vytvářet příležitosti pro nekonečné zvyšování intelektuálních a emočních schopností; může nám pomoci vytvořit svět, ve kterém budeme žít v radosti a porozumění, přistupovat ke svým ideálům a pravidelně si plnit sny. “
Toto je citát jednoho z Kurzweilových kritiků, který však připouští, že to vše je možné, pokud dokážeme vytvořit bezpečný ASI. Kurzweil jednoduše definoval, čím by se z umělé superinteligence měla stát, pokud je to vůbec možné. A jestli je dobrý bůh.
Nejviditelnější kritikou zastánců komfortní zóny je, že mohou být zatraceně špatní, když hodnotí budoucnost ISI. Kurzweil ve své knize The Singularity věnoval 20 stran ze 700 potenciálních hrozeb ISI. Otázkou není, kdy se dostaneme k ISI, otázkou je, jaká bude jeho motivace. Kurzweil na tuto otázku odpovídá opatrně: „ISI vychází z mnoha různorodých snah a bude hluboce integrován do infrastruktury naší civilizace. Ve skutečnosti bude pevně zakotven v našem těle a mozku. Bude odrážet naše hodnoty, protože bude jedním s námi. “
Pokud však zní odpověď, proč se tolik chytrých lidí v tomto světě obává o budoucnost umělé inteligence? Proč Stephen Hawking říká, že rozvoj ISI „by mohl znamenat konec lidstva“? Bill Gates říká, že „nerozumí lidem, kterým to nevadí“. Elon Musk se obává, že „svoláváme démona“. Proč mnozí odborníci považují ISI za největší hrozbu pro lidstvo?
O tom si povíme příště.
