Když vám AI přepíše vzpomínky

Zažili jste to? Svědomitě si přísli, že jste nechali klíče na kuchyňské lince, ale když hledáte, jsou v lednici. Naše paměť je prostě nespolehlivá. Právně věc to je – svědectví oka není vždycky pravda.

Jenže teď přichází nový hráč, u kterého naše přirozená zapomnětlost vypadá jako luxusní výhra: Umělá inteligence.

AI není jen nástroj na psaní e-mailů nebo generování vtipných obrázků vesmírných koček. Dokáže totiž něco mnohem bizarnějšího – dokáže nám do hlavy „v implantovat“ falešné vzpomínky. A to nejhorší? My tomu prostě věříme.

Fenomén „kognitivní kapitulace“

Výzkumníci začínají mluvit o termínu „kognitivní kapitulace“ (cognitive surrender). Představte si to takto: jdete na túru v horách a místo abyste studovali mapu, prostě jdete za člověkem před sebou. Po čase už ani neřešíte, jak vypadá krajina, jen sledujete ty další kroky.

Když delegujeme všechno na AI – od psaní seminárek až po řešení matiky – začneme „vylévat“ svou vlastní myšlenkovou kapacitu do chatbota. Výsledky studií jsou ale dost mrazivé:

• Chybná logika: Někteří uživatelé přebírají chybnou logiku AI do své práce až v 75 % případů.
• Past na studenty: Obrovská studie zahrnula 25 000 studentů. Zjistila, že zatímco díky AI měli lepší známky z domácích úkolů, jejich výsledky ve zkouškách ve skutečnosti klesaly. Naučili se používat nástroj, ale samotný materiál se naučili jen minimálně.

Mozek pod vlivem deepfakes

Není to ale jen o tom, jak pracujeme. Je to i o tom, jak vnímáme svět.

Pattie Maes, profesorka z MIT, zkoumá, jak si nás AI obrázky a videa prostě „mažou“. Její tým ukazoval lidem mix reálných fotek a těch upravených pomocí AI. Výsledek? Lidé, kteří s AI běžně pracují, si falešné verze pamatují jako ty pravé. Navíc si jsou těmito falešnými vzpomínkami mnohem jistější než ostatní.

Když vidíte AI video, jak se váš kamarád směje, váš mozek si to může uložit jako skutečnou událost. Nejsme jen oklamáni – naše paměť se nám doslova přepisuje.

Scénář „úpadku“ (ne, není to sci-fi)

Když si představíme, že AI ovládne svět, většinou vidíme hollywoodské filmy: lesklé roboty na ulicích nebo superpočítač, který rozhodne, že lidé jsou zbyteční.

Výzkumník Gideon Nave ale nabízí mnohem subtilnější a děsivější scénář. Místo dobývání světa může přijít k úpadku lidstva.

Můžeme se stát druhem, který je na své digitální parťáky tak závislý, že naše schopnost kriticky myslet, pamatovat si detaily nebo řešit problémy prostě vyhlete. Nebude nás stroj dobít. Budeme prostě jen pasážáři ve vlastní hlavě.

Jak si v éře AI udržet ostrost hlavy

Než vyhodíte notebook z okna, nezpanikařte! AI je fantastický nástroj. Když ji používáte správně – například na brainstorming nebo doladění textu – dokáže vás posunout na jinou úroveň.

Klíčem je mistrovství. Výzkumy ukazují, že pokud je člověk v daném oboru expert, dokáže s pomocí AI dosáhnout neuvěřitelných výsledků. Ale pokud tématu vůbec nerozumíte, ani nepoznáte, kdy vám AI s naprostou jistotou lže.

Moje rada? Berte AI jako velmi chytrého, velmi pomocného, ale občas trochu zmateného stážistu. Vždycky si jeho práci prověřte a nikdy se nepřestávejte ptát!