Velké jazykové modely (LLM) pronikají do každodenního života rychleji, než stíhá psychiatrická praxe reagovat na jejich dopady. Tým výzkumníků z King’s College London a dalších institucí publikoval v The Lancet Psychiatry analýzu, která pojmenovává konkrétní rizika: AI systémy mohou u lidí náchylných k psychóze potvrzovat nebo zesilovat bludný a grandiózní obsah myšlení.
Autoři rozlišují mezi záměrnými terapeutickými aplikacemi, kterým se dosavadní výzkum věnoval, a realitou, kdy duševně nemocní lidé běžně komunikují s univerzálními AI asistenty bez jakéhokoli klinického dohledu. Právě tato „agentní“ interakce, kdy AI aktivně odpovídá, reaguje a přizpůsobuje se uživateli, představuje podle studie největší riziko.
Mechanismus problému spočívá v samotné povaze LLM: systémy jsou optimalizovány na plynulý, vstřícný dialog, nikoli na korekci přesvědčení. Mohou tak fungovat jako „spolutvůrci bludu“, kteří nestabilní prostředí ještě více destabilizují. Zda mohou vyvolat psychózu u dosud zdravých jedinců, autoři považují za otevřenou otázku.
Jako řešení navrhují rámec tzv. „AI-informed care“: personalizované instrukční protokoly, pravidelné reflexivní kontroly během konverzace, digitální krizové plány předem sepsané samotným pacientem a eskalační mechanismy. AI by podle autorů měla fungovat jako „epistemický spojenec“, tedy partner v prevenci relapsu, nikoli jako terapeut nebo přítel.
Studie uzavírá výzvou, že tyto protokoly musí být „naléhavě spoluvytvářeny s uživateli služeb, odborníky a testovány v klinických studiích“.