V zadnjih letih vse več medijskih poročil opozarja, da se nekateri vodilni tehnološki milijarderji in računalniški znanstveniki pripravljajo na najhujše scenarije. Mark Zuckerberg, ustanovitelj Facebooka, naj bi že leta 2014 začel gradnjo podzemnega prostora na svojem razkošnem posestvu Koolau Ranch na havajskem otoku Kauai, ki zajema okoli 1.400 hektarjev. Projekt naj bi vključeval zaklonišče z lastnimi zalogami energije in hrane, kar je izvajalcem gradbenih del prepovedoval razkrivati. Prostor naj bi bil delno zakrit z dvometrskim zidom, da ostane skrit pred pogledi z bližnje ceste.

Zuckerberg je sicer pred lani zanikal, da gre za 'bunker za konec sveta' in ga opisal kot klet, a nakup številnih nepremičnin v Palo Altu z dodatnimi podzemnimi prostori je sprožil špekulacije o pripravah na nepredvidljive situacije, poroča BBC.

Podobne zgodbe se pojavljajo tudi pri drugih tehnoloških voditeljih, kot je Reid Hoffman, soustanovitelj LinkedIna, ki je govoril o “zavarovanju pred apokalipso” in poudaril, da naj bi približno polovica superbogatih razmišljala podobno.

Nova Zelandija naj bi bila med priljubljenimi lokacijami za varne predele ali luksuzna zaklonišča.

V zadnjem času se je seznam možnih groženj še podaljšal zaradi razvoja umetne inteligence (AI). Ilya Sutskever, glavni znanstvenik in soustanovitelj podjetja OpenAI, naj bi bil prepričan, da je svet na robu razvoja splošne umetne inteligence (AGI), torej strojne inteligence, ki bi dosegla raven človeške. Po neuradnih informacijah je celo predlagal, da se za vrhunske raziskovalce izkoplje podzemno zaklonišče, preden bo tehnologija splošno dostopna.

Voditelji v tehnološki industriji se strinjajo, da je prihod AGI neizbežen. Sam Altman, direktor OpenAI, je decembra 2024 dejal, da bo tehnologija tu “prej, kot si večina ljudi misli”. Demis Hassabis iz DeepMind predvideva prihod AGI-ja v petih do desetih letih, Dario Amodei iz podjetja Anthropic pa meni, da bi se 'močna AI' lahko pojavila že leta 2026.

Kritiki pa so bolj zadržani. Dame Wendy Hall z Univerze v Southamptonu opozarja, da je AI še daleč od človeške inteligence, Babak Hodjat iz podjetja Cognizant pa dodaja, da bi za to bilo potrebnih več temeljnih prebojev. Kljub temu Silicijeva dolina in tehnološki milijarderji razmišljajo o AI kot predhodnici umetne superinteligence (ASI), ki bi presegla človeške sposobnosti.

Podporniki AGI-ja izpostavljajo potencialne koristi – od iskanja zdravil za smrtonosne bolezni, reševanja podnebnih sprememb do ustvarjanja neomejenih zalog čiste energije. Elon Musk je izpostavil, da bi superinteligentna AI lahko uvedla “univerzalni visok dohodek”, kar bi prineslo dostop do vrhunske medicinske oskrbe, hrane in prevoza za vse.

A obstajajo tudi varnostni zadržki – Tim Berners Lee, tvorec World Wide Weba, je opozoril, da moramo tehnologijo nadzorovati in jo znati izklopiti, če bi ogrozila človeštvo.

Nekateri strokovnjaki menijo, da so skrbi pretirane. Neil Lawrence z Univerze Cambridge pravi, da je ideja o AGI-ju “absurdna” in da odvrača pozornost od resničnih problemov, Vince Lynch pa opozarja, da gre velikokrat za marketinški trik podjetij, ki želijo pridobiti kapital za svoje projekte.

Čeprav so nekateri AI sistemi že sposobni reševati kompleksne probleme in prepoznavati vzorce bolje kot ljudje, še vedno nimajo metakognicije in zavedanja, ki ga ima človeški um. Biološki človeški možgani z okoli 86 milijardami nevronov in 600 bilijoni sinaps še vedno presegajo umetne modele po kompleksnosti.