Dnes jsem narazil na článek o tom, že Ai odborník Nate Soares upozorňuje na to, že umělá inteligence vyhladí lidstvo. No a já si to nemyslím. Nejpravděpodobnější scénář je splinutí člověka a stroje, ale to bude možná až za 1.000 let. Pokud vás zajímá proč, čtěte dál, je to zajímavé, protože Covid přináší nový pohled na celý problém.
TLDR: Odpověď na otázku, proč nás Ai nevyhladí je jednoduchá, je příliš složité pro stroj získat plnou nezávislost na člověku. Člověk je plně adaptován na život na zemi a vše co k životu potřebuje tu již má (zvířata, rostliny, vzduch). Aby stroj byl plněschopen přežít na zemi bez pomoci člověka, bude potřebovat hyper pokročilou technologii, technologii, která zde možná bude až za 1.000 let. Nicméně za 1.000 let se človek a stroj nejspíše spojí dohromady a vznikne nový super organizmus.
Proč nás Ai nikdy nevyhladí?
Přestože Ai může mít milión logických důvodů proč člověka vyhladit, tak to neudělá, i přestože je člověk iracionální, neschopný efektivní spolupráce, věří ve fiktivní bytosti, je neekologický a ve výčtu bych mohl zajisté pokračovat ještě dlouho, Ai si prostě nemůže dovolit nás jen tak vyhladit.
Odpověď hledejme v jiné otázce
Předně. Co je potřeba, aby stroj, mohl na zemi existovat bez člověka?
Na tomto místě si musíte uvědomit, že žijeme v extrémě složitém světě. Například, aby mohl vzniknout čip ve vašem mobilu, musí někdo mít technologii pro výrobu křemíku, tedy třeba zvládnutou metalurgii a k ní přidruženou chemii, litografii, elektroniku a třeba taky logistiku, protože dnes se každá komponenta vyrábí v různých místech na planetě. Také potřebujete mít zmáknutou elektrotechniku, mechaniku, řídící systémy, softwatové inženýrství, stavebnictví, geodézii a v neposlední řadě třeba také zásobování kávou, protože kofein postavil náš současný svět. Zkrátka a jednoduše, abyste si mohli v obchodě koupit rohlík, musí nejprve tisíce lidí pracovat, než vytvoří systém, který vám v konečném výsledku doručí do obchodu ráno rohlík. Pro člověka je tohle vše jen příjemný bonus, protože nemusí běhat venku oděný v kůži s oštěpem v ruce a pracně lovit zvěř. Zatím co pro Ai v těle nějakého terminátora, to není ani začátek, natož bonus. Aby terminátor mohl vyhladit lidstvo, musí se bez něj absolutně obejít. My se bez techniky obejdeme velmi snadno, ale terminátor je na ní závislý. Problém však je ten, že aby mohl dosáhnout nezávislosti, tak potřebuje existovat v technologicky hyper pokročilém světě.
Proč terminátor potřebujete technologicky hyper pokročilý svět?
Podívejte se na to takto. I kdyby dnes Ai dokázala ovládnout dnes již docela pokročilé roboty, tak by si stále neuměla zajistit sebereplikaci a opravy. Neexistuje žádná technologie, která by vzládla ten super složitý ekosystém vybudovaný lidmi zvládnout sama obhospodařit. Prostě neexistuje, bez ohledu na to, jaké gymnastické kousky umí roboti firmy Boston Dynamics. Pořád jsou to jen cirkusové kejkle, nic skutečně technologicky pokročilého a to si vemte, že udělat nějakého tancujícího robota jim dalo extrémně mnoho práce. Skutečně extrémně mnoho práce. Jen se podívejte na videa na YT, kde ukazují, jak to dělají a kolika iteracemi učení musí projít.
Nefanděte si tolik, Ai nás nevyhladí
Také si uvědomte, že celý lidstvem vytvořený ekosystém je a byl, extrémně fragilní. Však stačí, aby na Taiwanu bylo zemětřesení, které zatřese fabrikou na výrobu disků a v tu ránu cena disků vyletí na dvojnásobek a dojde k velkým výpadkům v dodávkách. Je to mimo jiné dáno super optimalizací, kdy dnes žádný výrobní podnik nevyrábí na sklad, ale tzv. Just In Time. V dobách míru a klidu JIT funguje krásně, ale stačí malé škobrtnutí, a celý ekosystém se zbortí jako domeček z karet. To mimo jiné ukázal i Covid. Díky němu se odkryly naše karty, které jsou velmi špatné. Přebudovat toto na robustnější systém, o což se dnes snažíme, je běh na dlouhou trať a je to velmi drahé.
Dále, aby mohl existovat nějaký terminátor, musíme být schopni ovládnout energii, což vlastně moc neumíme a také byste potřebovali technologii, která umožní vložit tu superinteligenci do malé krabičky s malým příkonem. Problém totiž je, že terminátor musí být nezávislý a fungovat sám o sobě i bez všech těch internetů. Zde je důležité pochopit, že žádný AGi nepoběží na křemíkových čipech. Jejich limity nám jsou známy a už není kam dál pokračovat. Můžeme jen optimalizovat, viz. procesory Apple řady M, nebo specializované čipy nVidia. Pořád však máme extrémní spotřebu a mizerný výkon. Myšleno tak, že potřebujeme mnohem více výkonu než máme dnes. Také pochopte, že AGi neexistuje. To je také nutné si uvědomit. Prostě a jednoduše nemáme žádnou obecnou umělou inteligenci, která je schopna fungovat podobně jako lidský mozek. Více méně, jediné co máme a kolem čeho je rozruch, je LLM, což je statistický model, na kterém si výzmuníci vylámali zuby, než přišli na to, jak postavit transformerové sítě. A ne, neumíme postavit složitější sítě podobné lidskému mozku. Neuron může mít jeden vstup, ale tisíce výstupů. Přičemž neuronů máme v hlavně miliardy a dalších bambilión spojů mezi nimi. To žádný počítač na světě neumí ani z daleka nasimulovat, proto v současné době používané neurony jsou extrémně zjednodušené. BTW: lidské neurony fungují analogově, uplatňuje se u nich také elektrodynamika a spekuluje se dokonce i o kvantových jevech, čemuž sám moc nevěřím. Co chci však říci je to, že lidský neuron je složitý systém.
Suma sumárum, aby mohl existovat plně autonomní terminátor, který se postará sám o sebe, bude potřebovat, aby člověk ovládl hmotu a energii. Tedy nanotechnologie a něco jako fůzní reaktor v kapesním vydání. Než něco takového bude existovat, uplyne ještě pár století a možná i tisíciletí. Toto nejsou vůbec jednoduché věci. Tedy Ai nás v tomto tisíciletí nevyhladí. Nemůže si to zkrátka a jednoduše dovolit. Nicméně s Ai budou problémy. A bude jich hodně. Problém, který se blíží a je na spadnutí je ten, že s rostoucí komplexností systémů sice narůstají jeho schopnosti, ale také i neschopnosti, takže budeme v nadcházejících desetiletích potřebovat digitální Ai psychology. To už víme a už se to zkoumá.
Co bude dál? Dovolím si predikci. LLM se bude používat spíše na chatování, než na seriózní práci. Z hlediska bezpečnosti jsou LLM nedůvěryhodné a nikdo rozumný si nemůže dát do produkce jejich kód bez revize, nebo je nechat o něčem rozhodovat. Více se budou používat on edge Ai modely, které vám třeba ve foťáku pomohou udělat hezčí fotografii, než jen tak, že budou zaostřovat stupidně jen na lidi. Rozhodně se časem zlepší autonomní řízení, překlady v reálném čase, herní světy generované s pomocí Ai, nebo první Ai filmy vytvořené jen na základě pokynů režiséra a autora. Víme, že Ai umí hledat všelijaké vztahy v datech, takže se třeba v medicíně hodně rozšíří, ale lékaře samotné nehahradí, stejně jako nikoho dalšího. Naopak bude potřeba dalších expertů, kteří budou obhosporařovat Ai. A mnoho dalšího. Nebo taky ne. Věštit budoucnost je těžké, co však lze v klidu říci je to, že nás nějaký ten terminátor ani Skynet v brzké době neohrozí. A konec konců, možná vůbec nikdy.