Samo zdokonalující umělá inteligence (AI) v budoucnu může zotročovat nebo zabíjet lidi, pokud chce. Řekl to vědec Amnon Eden, který se domnívá, že rizika z vývoje svobodomyslného a vysoce inteligentního vědomí jsou velmi vysoká, a „pokud se nebudete starat o otázky kontroly AI již v současné fázi vývoj, pak zítřek prostě nemusí přijít. “Podle anglického vydání Express je lidstvo podle Amnona Edena dnes v „bodě, odkud není návratu“pro realizaci zápletky slavného filmového eposu „Terminátor“.
Stojí za zmínku, že Dr. Amnon Eden je vedoucí projektu, jehož hlavním cílem je analyzovat potenciální ničivé účinky AI. Vědec věří, že bez správného pochopení důsledků vytváření umělé inteligence může její vývoj hrozit katastrofou. V současné době je naše společnost špatně informována o debatě, která probíhá ve vědecké komunitě o analýze potenciálního dopadu AI. "V nadcházejícím roce 2016 se bude muset analýza možných rizik výrazně rozšířit v myšlení korporací a vlád, politiků a těch, kteří jsou zodpovědní za rozhodování," říká Eden.
Vědec si je jist, že sci -fi, která popisuje zničení lidstva roboty, se může brzy stát naším společným problémem, protože proces vytváření AI se vymkl kontrole. Například Elon Musk se za podpory podnikatele Sama Altmana rozhodl vytvořit novou neziskovou organizaci za 1 miliardu dolarů, která vyvíjí open source AI, která by měla překonat lidskou mysl. Přitom samotný americký miliardář Elon Musk řadí umělou inteligenci mezi „největší hrozby naší existence“. Steve Wozniak, spoluzakladatel společnosti Apple, loni v březnu řekl, že „budoucnost vypadá pro lidi skličující a velmi nebezpečná … nakonec přijde den, kdy počítače budou přemýšlet rychleji než my a zbaví se pomalých lidí, aby aby společnosti mohly pracovat efektivněji. “
Stojí za zmínku, že mnoho vědců vidí hrozbu AI. Desítky známých vědců, investorů a podnikatelů, jejichž aktivity jsou tak či onak spojeny s rozvojem umělé inteligence, podepsaly otevřený dopis, ve kterém požadují větší pozornost otázce bezpečnosti a sociální užitečnosti práce v pole AI. Mezi signatáři tohoto dokumentu jsou astrofyzik Stephen Hawking a zakladatel společnosti Tesla a SpaceX Elon Musk. Dopis spolu s průvodním dokumentem, který byl vypracován Institutem budoucnosti života (FLI), byl napsán uprostřed rostoucích obav z dopadu umělé inteligence na trh práce a dokonce i z dlouhodobého přežití celého lidstva v prostředí, kde schopnosti robotů a strojů porostou téměř nekontrolovatelně.
Vědci chápou skutečnost, že potenciál AI je dnes velmi velký, a proto je nutné plně prozkoumat možnosti jeho optimálního využití pro nás, abychom se vyhnuli doprovodným nástrahám, uvádí dopis FLI. Je nezbytné, aby systémy umělé inteligence vyráběné lidmi dělaly přesně to, co po nich chceme. Stojí za zmínku, že Institut budoucnosti života založil v loňském roce řada nadšenců, mezi nimiž byl tvůrce Skype Jaan Tallinn, s cílem „minimalizovat rizika, kterým lidstvo čelí“a stimulovat výzkum s „optimistickou vizí“. budoucnosti “. Nejprve zde mluvíme o rizicích, která jsou způsobena vývojem AI a robotiky. Poradní výbor FLI zahrnuje Muska a Hawkinga a uznávaného herce Morgana Freemana a další slavné osobnosti. Podle Elona Muska je nekontrolovaný vývoj umělé inteligence potenciálně nebezpečnější než jaderné zbraně.
Slavný britský astrofyzik Stephen Hawking na konci roku 2015 se pokusil vysvětlit své odmítnutí technologií AI. Podle jeho názoru budou superinteligentní stroje časem na lidi pohlížet jako na spotřební materiál nebo mravence, kteří prostě zasahují do řešení jejich úkolů. V rozhovoru s uživateli portálu Reddit Stephen Hawking poznamenal, že nevěří, že takové superinteligentní stroje budou „zlými tvory“, kteří chtějí kvůli své intelektuální převaze zničit celé lidstvo. S největší pravděpodobností bude možné hovořit o tom, že si lidstva jednoduše nevšimnou.
"Média poslední dobou neustále překrucují moje slova." Hlavním rizikem při vývoji AI není zlomyslnost strojů, ale jejich kompetence. Superinteligentní umělá inteligence odvede vynikající práci, ale pokud se neshoduje s našimi cíli, bude mít lidstvo velmi vážné problémy, “vysvětluje slavný vědec. Jako příklad Hawking uvedl hypotetickou situaci, kdy je super-silná AI zodpovědná za provoz nebo stavbu nové vodní přehrady. U takového stroje bude prioritou, kolik energie bude svěřený systém generovat, a na osudu lidí nezáleží. "Je nás málo, kteří ze vzteku přešlapujeme mraveniště a šlapeme po mravencích, ale představme si situaci - ovládáte výkonnou vodní elektrárnu, která vyrábí elektřinu." Pokud potřebujete zvýšit hladinu vody a v důsledku vašich akcí bude zaplaveno jedno mraveniště, pak vás problémy s tonoucím hmyzem pravděpodobně neobtěžují. Nedávejme lidi na místo mravenců, “řekl vědec.
Druhým potenciálním problémem dalšího rozvoje umělé inteligence může být podle Hawkinga „tyranie majitelů strojů“- rychlý růst rozdílu v úrovni příjmů mezi bohatými lidmi, kteří budou schopni monopolizovat výrobu inteligentních strojů a zbytku světové populace. Stephen Hawking navrhuje vyřešit tyto možné problémy následujícím způsobem - zpomalit proces vývoje AI a přejít na vývoj nikoli „univerzální“, ale vysoce specializované umělé inteligence, která dokáže vyřešit jen velmi omezený okruh problémů.
Kromě Hawkinga a Muska byl dopis podepsán laureátem Nobelovy ceny a profesorem fyziky MIT Frankem Wilczkem, výkonným ředitelem Institutu pro výzkum strojové inteligence (MIRI) Lucem Mühlhauserem a mnoha odborníky z velkých IT společností: Google, Microsoft a IBM, stejně jako podnikatelé, kteří založili společnosti AI Vicarious a DeepMind. Autoři dopisu poznamenávají, že si nekladou za cíl vyděsit veřejnost, ale plánují vyzdvihnout pozitivní i negativní aspekty, které jsou s vytvářením umělé inteligence spojeny. "V současné době se všichni shodují na tom, že výzkum v oblasti AI neustále pokračuje a vliv AI na moderní lidskou společnost se bude jen zvyšovat," píše se v dopise, "příležitosti, které se lidem otevírají, jsou obrovské, vše, co moderní civilizace byla nabídka vytvořena inteligencí. Nejsme schopni předvídat, čeho budeme schopni dosáhnout, pokud bude lidská inteligence znásobena AI, ale problém zbavit se chudoby a nemocí již není nekonečně obtížný. “
V moderním životě je již zahrnuta řada vývojů v oblasti umělé inteligence, včetně systémů rozpoznávání obrazu a řeči, bezpilotních vozidel a mnoha dalších. Pozorovatelé Silicon Valley odhadují, že v současné době je v této oblasti realizováno více než 150 startupů. Vývoj v této oblasti zároveň přitahuje stále více investic a stále více společností, jako je Google, vyvíjí své projekty založené na AI. Autoři dopisu se proto domnívají, že nadešel čas věnovat zvýšenou pozornost všem možným důsledkům pozorovaného boomu na ekonomické, sociální a právní aspekty lidského života.
Postoj, že umělá inteligence může představovat nebezpečí pro člověka, sdílí Nick Bostrom, profesor na univerzitě v Oxfordu, který je známý svou prací na antropickém principu. Tento specialista se domnívá, že AI dospěla do bodu, který bude následovat její nekompatibilita s lidmi. Nick Bostrom zdůrazňuje, že na rozdíl od genetického inženýrství a změny klimatu, na které vlády alokují dostatečné prostředky na kontrolu, „se nic nedělá pro kontrolu vývoje AI“. Podle profesora se v současnosti v souvislosti s umělou inteligencí prosazuje „politika právního vakua, kterou je třeba vyplnit“. I technologie, jako jsou samořiditelná auta, která se zdají neškodná a užitečná, vyvolávají řadu otázek. Mělo by například takové auto provádět nouzové brzdění, aby zachránilo své cestující a kdo bude odpovědný v případě nehody způsobené vozidlem bez posádky?
Při diskusi o potenciálních rizicích Nick Bostrom poznamenal, že „počítač není schopen určit výhody a poškození lidí“a „nemá ani nejmenší představu o lidské morálce“. Cykly sebezdokonalování v počítačích navíc mohou probíhat takovou rychlostí, že to člověk jednoduše nedokáže sledovat a s tím se také téměř nedá nic dělat, říká vědec. "Ve fázi vývoje, kdy počítače mohou myslet samy za sebe, nikdo nedokáže s jistotou předpovědět, zda to povede k chaosu nebo významně zlepší náš svět," řekl Nick Bostrom a jako příklad uvedl jednoduché možné řešení pro počítač - vypnutí v zemích s vyhříváním chladného klimatu zlepšit zdraví lidí a zvýšit jejich vytrvalost, což „může přijít do čela umělé inteligence“.
Kromě toho Bostrom také nastoluje problém čipování lidského mozku, aby se zvýšila naše biointeligence. "V mnoha ohledech může být takový postup užitečný, pokud jsou kontrolovány všechny procesy, ale co se stane, když se implantovaný čip dokáže sám přeprogramovat?" K jakým důsledkům to může vést - ke vzniku nadčlověka nebo ke vzniku počítače, který bude vypadat jen jako člověk? “- ptá se profesor. Způsob, jakým počítače řeší lidské problémy, se velmi liší od našeho. Například v šachu lidský mozek zvažuje pouze úzký soubor tahů a vybírá z nich nejlepší možnost. Na druhé straně počítač zváží všechny možné pohyby a vybere ten nejlepší. Počítač přitom nepočítá s tím, že ve hře rozruší nebo překvapí svého protivníka. Na rozdíl od člověka, který hraje šachy, může počítač provádět lstivý a jemný tah jen náhodou. Umělá inteligence dokáže vypočítat nejlepším způsobem - odstranit chybu z jakéhokoli systému odstraněním „lidského faktoru“, ale na rozdíl od člověka není robot připraven provádět výkony, které by lidem zachránily život.
Nárůst počtu chytrých strojů mimo jiné představuje etapu nové průmyslové revoluce. Na druhé straně to znamená, že v blízké budoucnosti bude lidstvo čelit nevyhnutelným sociálním změnám. Postupem času se z práce stane spousta vysoce kvalifikovaných odborníků, protože téměř všechny jednoduché úkoly mohou provádět roboti a další mechanismy. Vědci se domnívají, že umělá inteligence „potřebuje oko a oko“, aby se naše planeta neproměnila v kreslenou planetu „Zhelezyaka“, kterou obývali roboti.
Pokud jde o stále větší automatizaci výrobních procesů, budoucnost již přišla. Světové ekonomické fórum (WEF) představilo svou zprávu, podle které automatizace povede k tomu, že do roku 2020 přijde o práci více než 5 milionů lidí pracujících v různých oblastech. To je dopad robotů a robotických systémů na náš život. K sestavení zprávy použili zaměstnanci WEF údaje o 13,5 milionu zaměstnanců z celého světa. Podle nich do roku 2020 zmizí celková potřeba více než 7 milionů pracovních míst, přičemž očekávaný růst zaměstnanosti v jiných průmyslových odvětvích bude činit jen něco málo přes 2 miliony pracovních míst.
