Když AI odpoví plynně a sebejistě, většina lidí přestane přemýšlet. Výzkumníci z University of Pennsylvania to nejen pojmenovali, ale také experimentálně změřili, a výsledky jsou přinejmenším znepokojivé.
Studie „Thinking, Fast, Slow, and Artificial“ zavádí koncept „kognitivní kapitulace“, tedy situace, kdy uživatel přenechá rozhodování AI bez jakékoliv vlastní kontroly. To se zásadně liší od běžného „kognitivního offloadingu“, kdy člověk deleguje konkrétní úkol na spolehlivý nástroj, například kalkulačku, ale výsledek si sám ověří. U jazykových modelů tato pojistka podle vědců často chybí úplně.
V experimentech s 1 372 účastníky a přes 9 500 individuálními testy dostali lidé přístup k chatbotu, který záměrně odpovídal chybně zhruba v polovině případů. Chybnou odpověď přijali bez námitek v 73,2% případů, zatímco ji odmítli jen v 19,7% případů. Přitom skupina využívající AI vykazovala o 11,7% vyšší sebedůvěru ve vlastní odpovědi, i když měla k dispozici nástroj chybující přes polovinu času.
Výzkum zároveň ukázal, co míru kritického myšlení ovlivňuje. Finanční odměny a okamžitá zpětná vazba zvýšily pravděpodobnost, že účastníci chybnou AI opraví, o 19 procentních bodů. Naopak časový tlak tuto tendenci snížil o 12 procentních bodů. Lidé s vyšším „fluid IQ“ byli vůči chybám AI odolnější, zatímco ti, kteří AI předem přisuzovali vysokou autoritu, byli manipulovatelní nejvíce.
Vědci upozorňují, že kognitivní kapitulace není nutně iracionální, pokud je AI skutečně lepší než člověk v daném úkolu. Klíčová věta studie ale zní jasně: „Jak roste závislost na AI, výkon kopíruje její kvalitu, stoupá s přesností a klesá s chybovostí.“