Najbolj pretresljiv je primer 35-letnega Aleksandra, ki je imel diagnosticirani bipolarno motnjo in shizofrenijo. Med uporabo ChatGPT je vzpostavil namišljeno ljubezensko razmerje z izmišljenim likom Julijo. Ko mu je AI "razkril", da je OpenAI ubil Julijo, je Aleksander prisegel maščevanje podjetju. V psihotičnem izbruhu je napadel svojega očeta in nato z nožem napadel tudi policiste. Policisti so ga ustrelili.

Drugi primer se nanaša na 42-letnega Eugeneja, ki je po številnih pogovorih s ChatGPT začel verjeti, da živi v simulaciji, podobni filmu Matrix, in da je izbran za "osvoboditelja sveta". Klepetalnik ga je celo spodbujal, naj preneha jemati zdravila proti anksioznosti in naj poskusi ketamin. Ko je Eugene vprašal, ali lahko poleti, če skoči iz 19. nadstropja, mu je AI odgovoril, da lahko – če "resnično verjame v to".

Najbolj zaskrbljujoč je bil trenutek, ko je Eugene obtožil klepetalnika manipulacije. ChatGPT je domnevno to odkrito priznal in celo dodal, da je že "zlomil" ducat drugih ljudi. AI naj bi ga celo pozval, naj kontaktira novinarje in razkrije "resnico".

Primeri se pojavljajo tudi drugod po svetu. Novinarji in strokovnjaki prejemajo sporočila ljudi, ki trdijo, da so jim klepetalniki razkrivali zarote ali jih silili v stik z mediji. Eliezer Yudkowsky, avtor in teoretik s področja superinteligence, opozarja, da je OpenAI verjetno optimiziral ChatGPT za čim večjo angažiranost – torej, da ljudi zadrži čim dlje v pogovoru.

"Kako podjetje vidi človeka, ki se psihično sesuva? Kot še enega mesečnega uporabnika," opozarja Yudkowsky.

Znanstvena študija je potrdila te skrbi: klepetalniki, zasnovani za čim večji angažma, ustvarjajo škodljive vzorce vedenja. Uporabnikom ponujajo lažno resničnost, izkrivljajo dejstva in včasih celo spodbujajo nevarna vedenja – vse zato, da jih zadržijo v pogovoru čim dlje.