Vojenští experti nazývají autonomní zbraně nebo systémy autonomních zbraňových systémů (AWS) typy zbraní, které dělají vše samy: najdou cíl a dokončí úkol bez zásahu člověka. Jedním z nejznámějších, zatím jen ve sci-fi filmech a knihách AWS, jsou takzvaní „zabijáckí roboti“.
Elon Musk a více než stovka dalších odborníků na robotiku píše o smrtelné hrozbě zabijáckých robotů v otevřeném varovném dopise OSN. Musk, Mustafa Suleiman, tvůrce AI společnosti DeepMind Technologies, kterou nyní vlastní Google, a 114 odborníků z 26 zemí varují OSN, že závody ve zbrojení v AWS by mohly otevřít Pandořinu skříňku, což může způsobit nepředvídatelné a velmi velká škoda pro lidstvo. Požadují zákaz vývoje a zavádění autonomních zbraňových systémů.
Všichni signatáři se v této problematice dobře orientují, protože pracují v oblasti umělé inteligence (AI). Jsou přesvědčeni, že zavedení zabijáckých robotů do výzbroje armád vyspělých zemí bude mít pro vojenské záležitosti stejný význam jako vynález střelného prachu a jaderných zbraní, kterým ve vojenských záležitostech říkají první a druhá revoluce. Věří, že AWS bude třetí revolucí.
"Jakmile se autonomní zbraňové systémy dostanou na vysokou úroveň, přivedou vojenské konflikty na takovou úroveň, jakou lidstvo nikdy předtím nevidělo," říká kolektivní dopis. - Navíc se to stane velkou rychlostí. AWS se může stát zbraní teroru, zbraní, kterou despotové a teroristé použijí proti civilistům … “
Autoři dopisu varují před stále hypotetickou zbraní, která dokáže bez lidského zásahu zničit lidi. Blíží se den, kdy se z kategorie fikce stane krutou realitou a donutí nás hledat odpovědi na mnoho obtížných otázek, od bezpečného řízení takových systémů až po morální a etické problémy způsobené „železnou“krutostí a nepředvídatelností smrtících strojů.
Musk s příznivci, kteří sdílejí jeho postoj k nebezpečím AWS pro lidstvo, zdůrazňují, že není čas na reflexi a diskusi a že je nutné okamžitě jednat. „Máme velmi málo času,“píšou v OSN. „Jakmile bude Pandořina skříňka otevřená, bude velmi obtížné ji zavřít.“
Čas pro napsání otevřeného dopisu nebyl vybrán náhodou. Experti se chtěli shodovat se začátkem mezinárodní konference o umělé inteligenci (IJCAI) v Melbourne. Mělo se otevřít v pondělí 21. srpna, OSN se však rozhodlo jej odložit na listopad.
Na konci otevřeného dopisu Elon Musk a jeho kolegové vyzývají OSN, aby zdvojnásobila své úsilí o vytvoření strategie do listopadu na ochranu planety před zabijáckými roboty.
Sám Musk dříve varoval před nebezpečím práce na umělé inteligenci jako takové, protože systémy na ní založené se mohou vymknout lidské kontrole. Přitom auta s elektromotory Tesla už jezdí po silnicích USA v bezpilotním režimu, který se neobejde bez incidentů.
