Důvod, proč tento (a další) článek vyšel najevo, je prostý: umělá inteligence možná není jen důležitým tématem k diskusi, ale nejdůležitějším v kontextu budoucnosti. Každý, kdo alespoň trochu pronikne do podstaty potenciálu umělé inteligence, uznává, že toto téma nelze ignorovat. Někteří - a mezi nimi Elon Musk, Stephen Hawking, Bill Gates, ne nejhloupější lidé na naší planetě - se domnívají, že umělá inteligence představuje pro lidstvo existenciální hrozbu srovnatelnou v rozsahu s úplným vyhynutím nás jako druhu. Pohodlně se usaďte a udělejte bod i pro sebe.
"Jsme na pokraji změn srovnatelných se vznikem lidského života na Zemi" (Vernor Vinge).
Co to znamená být na pokraji takové změny?
Zdá se, že to není nic zvláštního. Musíte si ale pamatovat, že být na takovém místě v grafu znamená, že nevíte, co je napravo. Měli byste cítit něco takového:
Pocity jsou celkem normální, let probíhá dobře.
Přichází budoucnost
Představte si, že vás stroj času přenesl do roku 1750 - do doby, kdy svět zažíval neustálé přerušování dodávek elektřiny, komunikace mezi městy znamenala výstřely z děla a veškerá doprava jela na seno. Řekněme, že se tam dostanete, někoho vezmete a přivedete do roku 2015, ukažte, jak to tady je. Nejsme schopni pochopit, jaké by to pro něj bylo, kdyby viděl všechny ty lesklé kapsle létat po silnicích; mluvit s lidmi na druhé straně oceánu; podívejte se na sportovní hry vzdálené tisíc kilometrů; slyšet hudební představení nahrané před 50 lety; pohrajte si s kouzelným obdélníkem, který dokáže pořídit fotografii nebo zachytit živý okamžik; postavit mapu s paranormální modrou tečkou označující její polohu; dívat se někomu do tváře a komunikovat s ním mnoho kilometrů daleko atd. To vše je pro téměř tři sta let staré lidi nevysvětlitelné kouzlo. Nemluvě o internetu, Mezinárodní vesmírné stanici, Velkém hadronovém urychlovači, jaderných zbraních a obecné relativitě.
Taková zkušenost pro něj nebude překvapivá ani šokující - tato slova nesdělují celou podstatu mentálního kolapsu. Náš cestovatel může úplně zemřít.
Ale je tu zajímavý bod. Pokud se vrátí do roku 1750 a začne žárlit, že jsme chtěli vidět jeho reakci na rok 2015, může si s sebou vzít stroj času a zkusit to samé udělat třeba s 1500. Přiletí tam, najde člověka, vyzvedne ho v roce 1750 a všechno ukáže. Chlap od roku 1500 bude šokován nad míru - ale pravděpodobně nezemře. Ačkoli bude samozřejmě překvapen, rozdíl mezi lety 1500 a 1750 je mnohem menší než mezi lety 1750 a 2015. Člověk od roku 1500 bude v některých okamžicích překvapen z fyziky, bude překvapen, čím se Evropa pod tvrdou patou stala imperialismu, nakreslí mu v hlavě novou mapu světa … Ale každodenní život v roce 1750 - doprava, komunikace atd. - ho pravděpodobně k smrti nepřekvapí.
Ne, aby se chlapík z roku 1750 bavil stejně jako my, musí jít mnohem dál - třeba rok takhle v 12 000 př. N. L. Př. N. L., Ještě před první zemědělskou revolucí zrodila první města a koncept civilizace. Pokud někdo ze světa lovců a sběračů, z doby, kdy lidé byli ještě více jiným živočišným druhem, viděl obrovské lidské říše z roku 1750 s jejich vysokými kostely, loděmi plujícími přes oceány, jejich konceptem být „uvnitř“budovy, všechno tyto znalosti - pravděpodobně by zemřel.
A potom, po smrti, by záviděl a chtěl udělat to samé. Vrátí se před 12 000 lety, ve 24 000 př. N. L. e., by vzal člověka a přivedl ho včas. A nový cestovatel mu řekl: „No, to je v pořádku, děkuji.“Protože v tomto případě jde o osobu z roku 12 000 př. N. L. NS. bylo by nutné vrátit se o 100 000 let zpět a poprvé ukázat místním domorodcům oheň a jazyk.
Pokud potřebujeme někoho transportovat do budoucnosti, abychom byli k smrti překvapeni, musí pokrok urazit určitou vzdálenost. Musí být dosaženo bodu pokroku smrti (TPP). To znamená, že pokud v době lovců a sběračů trvalo TSP 100 000 let, další zastávka proběhla již v 12 000 př. N. L. NS. Poté už byl pokrok rychlejší a radikálně změnil svět do roku 1750 (zhruba). Pak to trvalo pár stovek let a jsme tady.
Tento obrázek - kde se lidský pokrok pohybuje rychleji - futurista Ray Kurzweil nazývá zákon zrychlujících návratů v historii lidstva. Důvodem je, že vyspělejší společnosti mají schopnost posouvat pokrok rychlejším tempem než méně rozvinuté společnosti. Lidé 19. století věděli více než lidé z 15. století, a tak není divu, že pokrok v 19. století byl rychlejší než v 15. století atd.
V menším měřítku to také funguje. Návrat do budoucnosti byl vydán v roce 1985 a minulost byla v roce 1955. Když se ve filmu v roce 1955 vrátil Michael J. Fox, překvapila ho novost televizorů, cena sody, nedostatek lásky ke zvuku kytary a variace ve slangu. Byl to samozřejmě jiný svět, ale kdyby se film točil dnes a minulost byla v roce 1985, rozdíl by byl mnohem globálnější. Marty McFly, čas v dobách osobních počítačů, internetu, mobilních telefonů, by byl mnohem irelevantnější než Marty, který od roku 1985 odešel do roku 1955.
To vše je dáno zákonem o zrychlení návratnosti. Průměrná rychlost vývoje v letech 1985 až 2015 byla vyšší než v letech 1955 až 1985 - protože v prvním případě byl svět vyspělejší, byl nasycen úspěchy za posledních 30 let.
Čím více úspěchů, tím rychleji změny nastanou. Nemělo by nám to ale zanechat určité rady do budoucna?
Kurzweil naznačuje, že pokrok celého 20. století mohl být dosažen za pouhých 20 let na úrovni vývoje roku 2000 - to znamená, že v roce 2000 byla míra pokroku pětkrát rychlejší než průměrná rychlost pokroku 20. století. Věří také, že pokrok celého 20. století byl ekvivalentní pokroku v období od roku 2000 do roku 2014 a pokrok dalšího 20. století bude ekvivalentní období do roku 2021 - tedy za pouhých sedm let. Po několika desetiletích bude veškerý pokrok 20. století probíhat několikrát za rok a poté za pouhý měsíc. Nakonec nás zákon zrychlujících návratů dovede do bodu, že pokrok v celém 21. století bude 1000krát větší než pokrok ve 20. století.
Pokud mají Kurzweil a jeho příznivci pravdu, rok 2030 nás překvapí stejně, jako by chlapík z roku 1750 překvapil náš rok 2015 - to znamená, že další TSP bude trvat jen několik desetiletí - a svět roku 2050 bude tak odlišný z té moderní, kterou jen stěží zjistíme. A to není fikce. To je názor mnoha vědců, kteří jsou chytřejší a vzdělanější než vy a já. A když se podíváte do historie, pochopíte, že tato předpověď vyplývá z čisté logiky.
Proč tedy, když stojíme tváří v tvář tvrzením „svět se za 35 let změní k nepoznání“, skepticky pokrčíme rameny? Naše skepse ohledně budoucích předpovědí má tři důvody:
1. Pokud jde o historii, myslíme v přímých liniích. Při pokusu o vizualizaci pokroku v příštích 30 letech pohlížíme na vývoj předchozích 30 jako na indikátor toho, kolik se toho pravděpodobně stane. Když přemýšlíme o tom, jak se náš svět změní v 21. století, vezmeme si vývoj 20. století a přidáme jej do roku 2000. Stejnou chybu dělá náš chlap z roku 1750, když dostane někoho z roku 1500 a pokusí se ho překvapit. Intuitivně myslíme lineárně, když bychom měli být exponenciální. Futurista by se v zásadě měl pokusit předpovědět postup příštích 30 let, nehledět na předchozích 30, ale soudě podle aktuální úrovně pokroku. Pak bude předpověď přesnější, ale stále u brány. Abyste správně přemýšleli o budoucnosti, musíte vidět, jak se věci pohybují mnohem rychlejším tempem, než se pohybují nyní.
[/střed]
2. Trajektorie nedávné historie je často zkreslená. Za prvé, i strmá exponenciální křivka vypadá lineárně, když vidíte její malé části. Za druhé, exponenciální růst není vždy plynulý a rovnoměrný. Kurzweil věří, že pokrok se pohybuje v hadovitých křivkách.
Taková křivka prochází třemi fázemi: 1) pomalý růst (raná fáze exponenciálního růstu); 2) rychlý růst (výbušná, pozdní fáze exponenciálního růstu); 3) stabilizace ve formě specifického paradigmatu.
Když se podíváte na poslední příběh, ta část křivky S, ve které se právě nacházíte, může skrývat rychlost postupu před vaším vnímáním. Nějaký čas v letech 1995 až 2007 byl věnován explozivnímu rozvoji internetu, představení veřejnosti Microsoftu, Googlu a Facebooku, zrodu sociálních sítí a vývoji mobilních telefonů a poté chytrých telefonů. Toto byla druhá fáze naší křivky. Ale období od roku 2008 do roku 2015 bylo méně rušivé, alespoň z technologického hlediska. Těm, kteří dnes myslí na budoucnost, může trvat několik let, než změří celkové tempo pokroku, ale nevidí celkový obraz. Ve skutečnosti se nyní možná chystá nová a silná fáze 2.
3. Naše vlastní zkušenost z nás dělá nevrlé staré lidi, pokud jde o budoucnost. Své představy o světě zakládáme na vlastní zkušenosti a tato zkušenost pro nás samozřejmostí udává tempo růstu v nedávné minulosti. Stejně tak naše představivost je omezená, protože pomocí našich zkušeností předpovídají - ale častěji prostě nemáme nástroje, které nám umožňují přesně předpovídat budoucnost. Když slyšíme předpovědi budoucnosti, které jsou v rozporu s naším každodenním vnímáním toho, jak věci fungují, instinktivně je považujeme za naivní. Pokud vám řeknu, že se dožijete 150 nebo 250 let, nebo možná nezemřete vůbec, budete si instinktivně myslet, že „to je hloupost, z historie vím, že během této doby všichni zemřeli“. Je to tak: takových let se nikdo nedožil. Před vynálezem letadel ale neletělo ani jedno letadlo.
Přestože se vám skepse zdá rozumná, je častěji špatná. Měli bychom přijmout, že pokud se vyzbrojíme čistou logikou a budeme čekat na obvyklé historické kličkování, musíme přiznat, že se v příštích desetiletích musí velmi, velmi, velmi mnoho změnit; mnohem více než intuitivně. Logika také říká, že pokud nejpokročilejší druhy na planetě budou i nadále dělat obrovské skoky vpřed, rychleji a rychleji, v určitém okamžiku bude skok tak závažný, že radikálně změní život, jak ho známe. Něco podobného se stalo v procesu evoluce, kdy se člověk stal tak chytrým, že zcela změnil život jakéhokoli jiného druhu na planetě Zemi. A pokud si uděláte trochu času a přečtete si, co se právě děje ve vědě a technice, možná začnete vidět nějaké vodítka o tom, jaký bude další obrovský skok.
Cesta k superinteligenci: co je AI (umělá inteligence)?
Jako mnoho lidí na této planetě jste zvyklí považovat umělou inteligenci za hloupou sci -fi myšlenku. Ale v poslední době hodně vážných lidí projevuje obavy z této hloupé myšlenky. Co je špatně?
Kolem pojmu AI existují tři důvody, které vedou k nejasnostem:
Spojujeme AI s filmy. "Hvězdné války". „Terminátor“. „Vesmírná odysea 2001“. Ale jako roboti, AI v těchto filmech je fikce. Hollywoodské kazety tedy ředí úroveň našeho vnímání, AI se stává známou, známou a samozřejmě zlou.
Toto je široká oblast použití. Začíná to kalkulačkou v telefonu a vývojem samořiditelných aut do něčeho daleko do budoucnosti, které způsobí revoluci ve světě. AI znamená všechny tyto věci a je to matoucí.
AI používáme každý den, ale často si to ani neuvědomujeme. Jak řekl John McCarthy, vynálezce pojmu „umělá inteligence“v roce 1956, „jakmile to funguje, už tomu nikdo neříká AI“. AI se stala spíše mýtickou předpovědí budoucnosti než něčím skutečným. Toto jméno má zároveň příchuť něčeho z minulosti, co se nikdy nestalo realitou. Ray Kurzweil říká, že slyší lidi spojující AI s fakty z 80. let, které lze přirovnat k „tvrzením, že internet zemřel společně s dotcomy na počátku dvacátých let“.
Pojďme si ujasnit. Nejprve přestaňte myslet na roboty. Robot, který je kontejnerem pro AI, někdy napodobuje lidskou podobu, někdy ne, ale samotná AI je počítač uvnitř robota. AI je mozek a robot je tělo, pokud vůbec nějaké tělo má. Například software a data Siri jsou umělá inteligence, ženský hlas je zosobněním této AI a v tomto systému nejsou žádní roboti.
Za druhé, pravděpodobně jste slyšeli výraz „singularita“nebo „technologická singularita“. Tento termín je v matematice používán k popisu neobvyklé situace, kdy obvyklá pravidla již nefungují. Ve fyzice se používá k popisu nekonečně malého a hustého bodu černé díry nebo původního bodu Velkého třesku. Fyzikální zákony v něm opět nefungují. V roce 1993 napsal Vernor Vinge slavný esej, ve kterém použil tento termín na okamžik v budoucnosti, kdy inteligence našich technologií převýší naši vlastní - v tomto okamžiku se život, jak jej známe, navždy změní a obvyklá pravidla jeho existence už nebude fungovat …. Ray Kurzweil tento termín dále upřesnil a poukázal na to, že singularity bude dosaženo, když zákon zrychlujícího zpětného rázu dosáhne extrémního bodu, kdy technologický pokrok postupuje tak rychle, že si jeho úspěchů přestaneme všímat, téměř nekonečně rychle. Pak budeme žít ve zcela novém světě. Mnoho odborníků však tento termín přestalo používat, takže se na něj nebudeme a nebudeme často odvolávat.
Nakonec, i když existuje mnoho typů nebo forem AI, které vyplývají z širokého konceptu AI, hlavní kategorie AI závisí na ráži. Existují tři hlavní kategorie:
Zaostřená (slabá) umělá inteligence (AI). UII se specializuje na jednu oblast. Mezi těmito AI jsou tací, kteří mohou porazit mistra světa v šachu, ale o tom to je. Existuje jeden, který může nabídnout nejlepší způsob ukládání dat na pevný disk, a je to.
Obecná (silná) umělá inteligence. Někdy se také označuje jako AI na lidské úrovni. AGI označuje počítač, který je stejně chytrý jako člověk - stroj, který je schopen provádět jakékoli intelektuální jednání, které je člověku vlastní. Vytváření AGI je mnohem obtížnější než AGI a k tomu jsme se ještě nedostali. Profesorka Linda Gottfredsonová popisuje inteligenci jako „v obecném smyslu psychický potenciál, který mimo jiné zahrnuje schopnost uvažovat, plánovat, řešit problémy, myslet abstraktně, chápat složité myšlenky, rychle se učit a učit se ze zkušenosti“. AGI by to všechno mělo umět tak snadno jako vy.
Umělá superinteligence (ISI). Oxfordský filozof a teoretik AI Nick Bostrom definuje superinteligenci jako „inteligenci, která je mnohem chytřejší než nejlepší lidské mysli prakticky v každé oblasti, včetně vědecké tvořivosti, obecné moudrosti a sociálních dovedností“. Umělá superinteligence zahrnuje jak počítač, který je o něco chytřejší než člověk, tak počítač, který je bilionkrát chytřejší v jakémkoli směru. ISI je důvodem rostoucího zájmu o AI a také toho, že se v takových diskusích často objevují slova „vyhynutí“a „nesmrtelnost“.
V dnešní době lidé již v mnoha ohledech dobyli úplně první stupeň kalibru AI - AI. Revoluce AI je cesta od AGI přes AGI k ISI. Tuto cestu možná nepřežijeme, ale rozhodně všechno změní.
Podívejme se podrobně na to, jak tuto cestu vidí přední myslitelé v oboru a proč by k této revoluci mohlo dojít rychleji, než byste si mohli myslet.
Kde jsme v tomto streamu?
Zaostřená umělá inteligence je strojová inteligence, která je stejná nebo vyšší než lidská inteligence nebo účinnost při plnění konkrétního úkolu. Několik příkladů:
* Automobily jsou plné systémů ICD, od počítačů, které určují, kdy by měl protiblokovací systém vstoupit do počítače, který určuje parametry systému vstřikování paliva. Samořiditelná auta Google, která jsou v současné době testována, budou obsahovat robustní systémy AI, které vnímají svět kolem sebe a reagují na něj.
* Váš telefon je malá továrna na ICD. Když používáte aplikaci mapy, dostáváte doporučení ke stahování aplikací nebo hudby, kontrolujete počasí na zítra, mluvíte se Siri nebo děláte cokoli jiného - používáte AI.
* Váš filtr nevyžádané pošty je klasickým typem umělé inteligence. Začíná to tak, že zjistíte, jak oddělit nevyžádanou poštu od použitelných e -mailů, a poté se dozví, jak zpracovává vaše e -maily a preference.
* A tento trapný pocit, když jste včera hledali ve vyhledávači šroubovák nebo novou plazmu, ale dnes vidíte nabídky užitečných obchodů na jiných stránkách? Nebo když vám sociální síť doporučuje přidat si zajímavé lidi jako přátele? To vše jsou systémy AI, které spolupracují, určují vaše preference, načítají o vás data z internetu, jsou vám stále blíž. Analyzují chování milionů lidí a na základě těchto analýz vyvozují závěry s cílem prodat služby velkých společností nebo zlepšit jejich služby.
* Google Translate, další klasický systém AI, je v některých věcech působivě dobrý. Stejně tak rozpoznávání hlasu. Když vaše letadlo přistane, terminál pro něj není identifikován osobou. Cena lístku je stejná. Nejlepší dáma na světě, šachy, vrhcáby, buldozer a další hry jsou dnes zastoupeny úzce zaměřenou umělou inteligencí.
* Google Search je jedna obrovská AI, která používá neuvěřitelně chytré metody k hodnocení stránek a určování SERP.
A to je pouze v konzumním světě. Sofistikované systémy IMD jsou široce používány ve vojenském, výrobním a finančním průmyslu; v lékařských systémech (myslím Watson společnosti IBM) a tak dále.
Systémy IMD ve své současné podobě nepředstavují hrozbu. V nejhorším případě může buggy nebo špatně naprogramovaná AI vést k místní katastrofě, výpadkům elektřiny, kolapsu finančních trhů a podobně. Ale zatímco AGI není oprávněna vytvářet existenciální hrozbu, musíme vidět věci širší - čeká nás ničivý hurikán, jehož předzvěstí je AII. Každá nová inovace v AGI přidává jeden blok na cestě vedoucí k AGI a ISI. Nebo, jak dobře poznamenal Aaron Saenz, AI našeho světa jsou jako „aminokyseliny prvotní polévky mladé Země“- přesto neživé složky života, které se jednoho dne probudí.
Cesta z AGI do AGI: proč je to tak obtížné?
Nic neodhalí složitost lidské inteligence více než snaha vytvořit stejně chytrý počítač. Stavět mrakodrapy, létat do vesmíru, tajemství Velkého třesku - to vše je nesmysl ve srovnání s opakováním našeho vlastního mozku nebo alespoň s jeho porozuměním. Lidský mozek je v současné době nejsložitějším objektem ve známém vesmíru.
Možná ani nemáte podezření, jaký je problém při vytváření AGI (počítač, který bude chytrý jako člověk, obecně, a ne jen v jedné oblasti). Sestavení počítače, který dokáže znásobit dvě desetimístná čísla za zlomek sekundy, je stejně snadné jako loupání hrušek. Vytvořit někoho, kdo se dokáže podívat na psa a kočku a říct, kde je pes a kde kočka, je neuvěřitelně obtížné. Vytvořit AI, která dokáže porazit velmistra? Vyrobeno. Nyní ho zkuste přimět, aby přečetl odstavec z šest let staré knihy a porozuměl nejen slovům, ale i jejich významu. Google za to utrácí miliardy dolarů. S komplexními věcmi - jako jsou výpočty, výpočty strategií finančního trhu, překlady jazyka - se počítač snadno vyrovná, ale s jednoduchými věcmi - vize, pohyb, vnímání - ne. Jak řekl Donald Knuth: „AI nyní dělá téměř vše, co vyžaduje„ myšlení “, ale nedokáže se vyrovnat s tím, co lidé a zvířata dělají bez přemýšlení.“
Když se zamyslíte nad důvody, uvědomíte si, že věci, které se nám zdají jednoduché, se zdají jen tak, protože byly pro nás (a zvířata) optimalizovány během stovek milionů let evoluce. Když natáhnete ruku k předmětu, svaly, klouby, kosti ramen, loktů a rukou okamžitě provedou dlouhé řetězce fyzických operací, synchronně s tím, co vidíte, a pohybujete paží ve třech rozměrech. Zdá se vám to jednoduché, protože za tyto procesy je zodpovědný ideální software ve vašem mozku. Tento jednoduchý trik usnadňuje postup při registraci nového účtu zadáním křivě napsaného slova (captcha) a pekelným nebezpečným robotem. Pro náš mozek to není obtížné: stačí jen vidět.
Na druhou stranu znásobení velkého počtu nebo hraní šachů jsou pro biologické tvory novými aktivitami a my jsme neměli dostatek času se v nich zdokonalovat (ne miliony let), takže není těžké, aby nás počítač porazil. Zamyslete se nad tím: Chtěli byste raději vytvořit program, který dokáže znásobit velká čísla, nebo program, který rozezná písmeno B v milionech hláskování, v těch nejnepředvídatelnějších písmech, ručně nebo s holí ve sněhu?
Jeden jednoduchý příklad: když se na to podíváte, vy a váš počítač si uvědomíte, že se jedná o střídající se čtverce dvou různých odstínů.
Pokud ale odstraníte černou, okamžitě popíšete kompletní obrázek: válce, roviny, trojrozměrné úhly, ale počítač to nedokáže.
Popíše, v čem vidí různé dvojrozměrné tvary v různých odstínech, což je v zásadě pravda. Váš mozek odvede spoustu práce s interpretací hloubky, stínové hry a světla v obraze. Na obrázku níže počítač uvidí dvourozměrnou bílo-šedočernou koláž, když ve skutečnosti existuje trojrozměrný kámen.
A to, co jsme právě nastínili, je špičkou ledovce, pokud jde o porozumění a zpracování informací. Aby počítač dosáhl stejné úrovně s člověkem, musí pochopit rozdíl v jemné mimice, rozdíl mezi potěšením, smutkem, uspokojením, radostí a proč je Chatsky dobrý a Molchalin ne.
Co dělat?
První krok k vybudování AGI: zvýšení výpočetního výkonu
Jednou z nezbytných věcí, které se musí stát, aby bylo možné AGI, je zvýšení výkonu výpočetního hardwaru. Pokud má být systém umělé inteligence tak chytrý jako mozek, musí odpovídat mozku v surové výpočetní síle.
Jedním ze způsobů, jak tuto schopnost zvýšit, je celkový počet výpočtů za sekundu (OPS), které mozek dokáže vyrobit, a toto číslo můžete určit tak, že zjistíte maximální OPS pro každou strukturu mozku a dáte je dohromady.
Ray Kurzweil dospěl k závěru, že stačí vzít profesionální odhad OPS jedné struktury a její hmotnosti vzhledem k hmotnosti celého mozku a poté jej proporcionálně znásobit, aby byl získán celkový odhad. Zní to trochu pochybně, ale udělal to mnohokrát s různými odhady různých oblastí a vždy přišel se stejným číslem: řádově 10 ^ 16, neboli 10 kvadrilionů OPS.
Nejrychlejší superpočítač na světě, čínský Tianhe-2, již toto číslo překonal: je schopen provést zhruba 32 quadrillion operací za sekundu. Tianhe-2 ale zabírá 720 metrů čtverečních prostoru, spotřebuje 24 megawattů energie (náš mozek spotřebuje pouhých 20 wattů) a stojí 390 milionů dolarů. Nemluvíme o komerčním nebo rozšířeném používání.
Kurzweil navrhuje, abychom posuzovali zdraví počítačů podle toho, kolik OPS si můžete koupit za 1 000 $. Když toto číslo dosáhne lidské úrovně - 10 kvadrilionů OPS - AGI se může stát součástí našich životů.
Moorův zákon - historicky spolehlivé pravidlo, že maximální výpočetní výkon počítačů se každé dva roky zdvojnásobuje - naznačuje, že rozvoj výpočetní techniky, stejně jako pohyb člověka historií, roste exponenciálně. Porovnáme -li to s Kurzweilovým tisícem dolarovým pravidlem, můžeme si nyní dovolit 10 bilionů OPS za 1 000 dolarů.
Počítače za 1 000 dolarů ve svém výpočetním výkonu obcházejí mozek myši a jsou tisíckrát slabší než lidé. To se jeví jako špatný ukazatel, dokud si nevzpomeneme, že počítače byly bilionkrát slabší než lidský mozek v roce 1985, miliarda v roce 1995 a milion v roce 2005. Do roku 2025 bychom měli mít dostupný počítač, který se vyrovná výpočetní síle našeho mozku.
Surový výkon požadovaný pro AGI je tedy již technicky dostupný. Do 10 let opustí Čínu a rozšíří se do celého světa. Samotný výpočetní výkon však nestačí. A další otázka zní: jak zajistíme inteligenci na lidské úrovni se vší touto mocí?
Druhý krok k vytvoření AGI: dát jí inteligenci
Tato část je docela ošidná. Po pravdě řečeno, nikdo opravdu neví, jak ze stroje udělat inteligentního - stále se snažíme přijít na to, jak vytvořit inteligenci na úrovni člověka, která dokáže rozeznat kočku od psa, izolovat B nakreslené ve sněhu a analyzovat film druhé kategorie. Existuje však několik strategií uvažujících dopředu a v jednu chvíli by jedna z nich měla fungovat.
1. Opakujte mozek
Tato možnost je jako by vědci byli ve stejné třídě s dítětem, které je velmi chytré a umí odpovídat na otázky; a i když se pilně pokoušejí pochopit vědu, nepřiblíží se ani k dohánění chytrého dítěte. Nakonec se rozhodnou: do háje, jen odepište odpovědi na jeho otázky. Dává to smysl: neumíme postavit superkomplexní počítač, tak proč si jako základ nevzít jeden z nejlepších prototypů ve vesmíru: náš mozek?
Vědecký svět usilovně pracuje na tom, aby zjistil, jak fungují naše mozky a jak evoluce vytvořila tak složitou věc. Podle nejoptimističtějších odhadů se jim to podaří až v roce 2030. Jakmile ale pochopíme všechna tajemství mozku, jeho účinnost a sílu, můžeme se inspirovat jeho metodami při vytváření technologie. Například jednou z počítačových architektur, které napodobují fungování mozku, je neurální síť. Začíná sítí tranzistorů „neuronů“propojených navzájem vstupem a výstupem a neví nic - jako novorozenec. Systém se „učí“snahou plnit úkoly, rozpoznávat ručně psaný text a podobně. Spojení mezi tranzistory je v případě správné odpovědi posíleno a v případě nesprávné je oslabeno. Po mnoha cyklech otázek a odpovědí systém vytvoří inteligentní neurální vazby, které jsou optimalizovány pro konkrétní úkoly. Mozek se učí podobným způsobem, ale mnohem složitějším způsobem, a jak jej nadále studujeme, objevujeme neuvěřitelné nové způsoby, jak zlepšit neurální sítě.
Ještě extrémnější plagiátorství zahrnuje strategii nazývanou plná emulace mozku. Účel: Chcete -li rozřezat skutečný mozek na tenké plátky, naskenujte je, poté pomocí softwaru přesně zrekonstruujte 3D model a poté jej převeďte do výkonného počítače. Pak budeme mít počítač, který oficiálně dokáže všechno, co mozek: jen se musí naučit a sbírat informace. Pokud se to inženýrům podaří, dokážou napodobit skutečný mozek s tak neuvěřitelnou přesností, že po stažení do počítače zůstane skutečná identita a paměť mozku nedotčena. Pokud mozek patřil Vadimovi, než zemřel, počítač se probudí v roli Vadima, který bude nyní AGI na lidské úrovni, a my zase z Vadima učiníme neuvěřitelně inteligentního ISI, což určitě bude být potěšen.
Jak daleko jsme od úplné emulace mozku? Po pravdě řečeno, emulovali jsme mozek milimetrového plochého červa, který obsahuje celkem 302 neuronů. Lidský mozek obsahuje 100 miliard neuronů. Pokud se vám pokouší dostat k tomuto číslu marně, přemýšlejte o exponenciálním tempu růstu. Dalším krokem bude emulace mravenčího mozku, pak tam bude myš a pak je člověk na dosah.
2. Pokuste se jít po stopě evoluce
Pokud se rozhodneme, že odpovědi chytrého dítěte jsou příliš složité na to, abychom je mohli odepsat, můžeme se pokusit jít v jeho stopách učení a přípravy na zkoušky. Co víme? Je docela možné postavit počítač tak silný jako mozek - vývoj našeho vlastního mozku to dokázal. A pokud je mozek na emulaci příliš složitý, můžeme se pokusit napodobit evoluci. Jde o to, že i když můžeme napodobit mozek, může to být jako pokus postavit letadlo směšným máváním rukou, které napodobují pohyby křídel ptáků. Více často než ne, se nám podaří vytvořit dobré stroje pomocí strojově orientovaného přístupu, spíše než přesnou imitací biologie.
Jak simulovat evoluci k vybudování AGI? Tato metoda zvaná „genetické algoritmy“by měla fungovat zhruba takto: musí existovat produktivní proces a jeho hodnocení a bude se opakovat znovu a znovu (stejným způsobem, jakým biologická stvoření „existují“a „jsou hodnocena“podle jejich schopností reprodukovat). Skupina počítačů bude plnit úkoly a nejúspěšnější z nich bude sdílet své vlastnosti s ostatními počítači, „výstup“. Méně úspěšní budou nemilosrdně vyhozeni na smetiště dějin. Prostřednictvím mnoha a mnoha iterací tento přirozený výběrový proces přinese lepší počítače. Výzva spočívá ve vytváření a automatizaci cyklů šlechtění a hodnocení, aby proces evoluce pokračoval sám.
Temnější stránkou kopírování evoluce je to, že evoluci trvá miliardy let, než se něco udělá, a my k tomu potřebujeme jen několik desetiletí.
Na rozdíl od evoluce ale máme spoustu výhod. Za prvé, nemá dar předvídavosti, funguje náhodou - rozdává například zbytečné mutace - a můžeme proces řídit v rámci zadaných úkolů. Za druhé, evoluce nemá žádný cíl, včetně touhy po inteligenci - někdy v prostředí určitý druh nevyhraje na úkor inteligence (protože ta spotřebovává více energie). Na druhé straně se můžeme zaměřit na zvýšení inteligence. Za třetí, aby si evoluce zvolila inteligenci, musí provést řadu vylepšení třetích stran - například přerozdělení spotřeby energie buňkami - můžeme jednoduše odstranit přebytek a používat elektřinu. Bezpochyby budeme rychlejší než evoluce - ale opět není jasné, zda ji dokážeme překonat.
3. Nechte počítače pro sebe
Toto je poslední šance, když jsou vědci úplně zoufalí a pokusí se naprogramovat program pro vlastní rozvoj. Tato metoda se však může ukázat jako nejslibnější ze všech. Myšlenkou je, že stavíme počítač, který bude mít dvě základní dovednosti: zkoumat AI a změny kódu sám o sobě - což mu umožní nejen více se naučit, ale také vylepšit vlastní architekturu. Můžeme vycvičit počítače tak, aby byly jejich vlastními počítačovými inženýry, aby se mohli sami rozvíjet. A jejich hlavním úkolem bude přijít na to, jak být chytřejší. Budeme o tom hovořit podrobněji.
To vše se může stát velmi brzy
Rychlé pokroky v hardwaru a experimentování se softwarem běží souběžně a AGI může vzniknout rychle a neočekávaně ze dvou hlavních důvodů:
1. Exponenciální růst je intenzivní a to, co vypadá jako šnečí kroky, se může rychle rozvinout do skoků na sedm mil - tento-g.webp
animovaný obrázek: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. Pokud jde o software, pokrok se může zdát pomalý, ale pak jeden průlom okamžitě změní rychlost pokroku (dobrý příklad: v dobách geocentrického pohledu na svět bylo pro lidi obtížné vypočítat práci vesmíru, ale objev heliocentrismu vše velmi usnadnil). Nebo pokud jde o počítač, který se sám vylepšuje, věci se mohou zdát extrémně pomalé, ale někdy ho od tisíckrát vyšší efektivity ve srovnání s lidskou nebo starší verzí oddělí jen jedna změna systému.
Cesta z AGI do ISI
V určitém okamžiku určitě dostaneme AGI - obecnou umělou inteligenci, počítače s obecnou úrovní inteligence člověka. Počítače a lidé budou žít společně. Nebo nebudou.
Jde o to, že AGI se stejnou úrovní inteligence a výpočetního výkonu jako lidé budou mít stále oproti lidem značné výhody. Například:
Zařízení
Rychlost. Mozkové neurony pracují na 200 Hz, zatímco moderní mikroprocesory (které jsou výrazně pomalejší, než jaké získáme v době, kdy se vytvoří AGI) pracují na frekvenci 2 GHz, tedy 10 milionůkrát rychleji než naše neurony. A vnitřní komunikace mozku, který se může pohybovat rychlostí 120 m / s, jsou výrazně horší než schopnost počítačů využívat optiku a rychlost světla.
Velikost a skladování. Velikost mozku je omezena velikostí našich lebek a nemůže se zvětšit, jinak bude interní komunikace rychlostí 120 m / s trvat příliš dlouho, než se bude cestovat z jedné struktury do druhé. Počítače se mohou rozšířit na jakoukoli fyzickou velikost, používat více hardwaru, zvýšit RAM, dlouhodobou paměť - to vše přesahuje naše možnosti.
Spolehlivost a trvanlivost. Nejen paměť počítače je přesnější než paměť člověka. Počítačové tranzistory jsou přesnější než biologické neurony a jsou méně náchylné ke zhoršení (a ve skutečnosti je lze vyměnit nebo opravit). Mozek lidí se rychleji unaví, zatímco počítače mohou pracovat nepřetržitě, 24 hodin denně, 7 dní v týdnu.
Software
Možnost úprav, modernizace, širší spektrum možností. Na rozdíl od lidského mozku lze počítačový program snadno opravit, aktualizovat a experimentovat s ním. Oblasti, ve kterých je lidský mozek slabý, lze také upgradovat. Lidský software pro vidění je skvěle navržen, ale z inženýrského hlediska jsou jeho možnosti stále velmi omezené - vidíme pouze ve viditelném spektru světla.
Kolektivní schopnost. Lidé jsou nadřazeni jiným druhům, pokud jde o velkou kolektivní inteligenci. Počínaje vývojem jazyka a formováním velkých komunit, procházením vynálezů psaní a tisku a nyní nabitými nástroji, jako je internet, je kolektivní inteligence lidí důležitým důvodem, proč se můžeme nazývat korunou evoluce. Ale počítače budou stále lepší. Celosvětová síť umělých inteligencí pracujících na jednom programu, neustále synchronizovaná a rozvíjející se vám umožní okamžitě přidat nové informace do databáze, ať ji získáte kdekoli. Taková skupina bude také schopná pracovat na jednom cíli jako celku, protože počítače netrpí disentem, motivací a vlastním zájmem jako lidé.
AI, která se pravděpodobně stane AGI prostřednictvím programovaného sebezdokonalování, nebude vnímat „inteligenci na úrovni člověka“jako důležitý milník-tento milník je důležitý pouze pro nás. Nebude mít důvod se na této pochybné úrovni zastavovat. A vzhledem k výhodám, které bude mít i AGI na lidské úrovni, je zcela zřejmé, že lidská inteligence pro ni bude krátkým zábleskem v závodě o intelektuální převahu.
Tento vývoj událostí nás může velmi, velmi překvapit. Faktem je, že z našeho pohledu a) jediným kritériem, které nám umožňuje určit kvalitu inteligence, je inteligence zvířat, která je ve výchozím nastavení nižší než ta naše; b) pro nás jsou ti nejchytřejší VŽDY chytřejší než ti nejhloupější. Takhle:
To znamená, že zatímco se AI pokouší dosáhnout naší úrovně vývoje, vidíme, jak se stává chytřejším a blíží se úrovni zvířete. Když se dostane na první lidskou úroveň - Nick Bostrom používá výraz „country idiot“- budeme potěšeni: „Páni, už je jako debil. Chladný! Jediná věc je, že v obecném spektru inteligence lidí, od vesnického idiota po Einsteina, je rozsah malý - proto poté, co se AI dostane na úroveň idiota a stane se AGI, bude najednou chytřejší než Einstein.
A co bude dál?
Výbuch inteligence
Doufám, že vás to zaujalo a bavilo, protože od té chvíle se téma, o kterém diskutujeme, stává nenormálním a strašidelným. Měli bychom se pozastavit a připomenout si, že každá skutečnost uvedená výše i dále je skutečnou vědou a skutečnými předpověďmi budoucnosti od nejvýznamnějších myslitelů a vědců. Jen mějte na paměti.
Jak jsme tedy naznačili výše, všechny naše moderní modely pro dosažení AGI zahrnují možnost, když se AI sama vylepšuje. A jakmile se stane AGI, i systémy a metody, na nichž vyrostl, se stanou dostatečně chytrými, aby se zlepšili - pokud chtějí. Vzniká zajímavý koncept: rekurzivní sebezdokonalování. Funguje to takto.
Určitý systém AI na určité úrovni - řekněme vesnický idiot - je naprogramován tak, aby zlepšoval vlastní inteligenci. Když se takový systém vyvinul - řekněme na úroveň Einsteina - začíná se rozvíjet již s Einsteinovým intelektem, jeho vývoj zabere méně času a skoky jsou stále větší. Umožňují systému překonat jakoukoli osobu a být stále více. Díky rychlému rozvoji se AGI ve své inteligenci vznáší do nebeských výšin a stává se superinteligentním systémem ISI. Tento proces se nazývá exploze inteligence a je to nejjasnější příklad zákona zrychlujících výnosů.
Vědci se hádají o tom, jak rychle AI dosáhne úrovně AGI - většina věří, že AGI získáme do roku 2040, za pouhých 25 let, což je na standardy technologického vývoje velmi, velmi málo. Při pokračování v logickém řetězci je snadné předpokládat, že přechod z AGI na ISI proběhne také extrémně rychle. Takhle:
"Trvalo desítky let, než první systém AI dosáhl nejnižší úrovně obecné inteligence, ale nakonec se to stalo." Počítač je schopen porozumět světu kolem jako čtyřletý člověk. Najednou, doslova hodinu po dosažení tohoto milníku, systém vytvoří skvělou teorii fyziky, která kombinuje obecnou relativitu a kvantovou mechaniku, což žádný člověk nedokáže. Po hodině a půl se AI stane ISI, 170 000krát chytřejším než kterýkoli člověk. “
Nemáme ani správné termíny pro popis superinteligence této velikosti. V našem světě „chytrý“znamená osobu s IQ 130, „hloupý“- 85, ale nemáme žádné příklady lidí s IQ 12 952. Naši vládci na to nejsou stvořeni.
Historie lidstva nám říká jasně a jasně: spolu s intelektem přichází síla a síla. To znamená, že když vytvoříme umělou superinteligenci, bude to nejmocnější stvoření v historii života na Zemi a všechny živé bytosti, včetně lidí, budou zcela v její moci - a to se může stát za dvacet let.
Pokud by naše skrovné mozky dokázaly přijít s Wi-Fi, pak něco chytřejšího než nás stokrát, tisíckrát a miliardkrát dokáže snadno vypočítat polohu každého atomu ve vesmíru v daném okamžiku. Všechno, co lze nazvat magií, jakákoli síla, která je připisována všemohoucímu božstvu - to vše bude k dispozici ISI. Vytváření technologie pro zvrácení stárnutí, léčba jakékoli nemoci, odstranění hladu a dokonce i smrti, ovládání počasí - všechno bude najednou možné. Je také možné okamžité ukončení veškerého života na Zemi. Nejchytřejší lidé na naší planetě se shodují, že jakmile se ve světě objeví umělá superinteligence, bude to znamenat vzhled Boha na Zemi. A důležitá otázka zůstává.
