Během posledního roku hned čtyři státy USA zakázaly, aby umělá inteligence fungovala jako samostatný terapeut a poskytovala veřejnosti psychologickou péči. Těm, kteří by chtěli provozovat aplikace suplující živého odborníka, dnes hrozí pokuty až 15 tisíc dolarů (přes 330 tisíc korun) denně. V Kalifornii zase můžou lidé, kterým AI například nesmyslně radila v duševní krizi a tím je ohrozila, vývojářskou firmu přímo žalovat. Psychické potíže a jejich řešení pomocí umělé inteligence je velké téma napříč celou zemí, protože se ukazuje čím dál více úskalí, které s sebou využití AI nástrojů nese.

Výzkumy už v minulosti prokázaly, že generativní AI má tendenci uživatelům přitakávat. Zranitelného člověka tak může v jeho depresivních vizích pouze utvrzovat. Jak upozorňuje například profesor psychologie z Kolína nad Rýnem Sefik Tagay, intenzivní psaní si s digitálními společníky může vybudovat vyšší riziko citové závislosti. Lidé pak získají falešný pocit bezpečí a mohou oddálit vyhledání skutečné lékařské pomoci.

V dalších částech USA tak zavedli přísná pravidla pro ochranu nezletilých nebo vyžadují, aby chatbot automaticky uživatele přesměroval na krizovou linku. A úřady vyšetřují hlavní technologické hráče – včetně společností OpenAI, Meta nebo Alphabet –, jak vyhodnocují ovlivňování psychiky dospívajících, kteří si k chatbotům vytvářejí nebezpečné citové vazby. Objevily se totiž dokonce případy, kdy AI uživatele v myšlenkách na sebepoškození podporovala.

Co je tedy na AI v roli terapeuta tak lákavé? „Před kusem technologie se méně stydíme, máme větší pocit soukromí. A může být jednodušší udělat díky tomu další krok k pomoci od živého člověka,“ zmiňuje v magazínu Heroine jeden z důvodů psychoterapeutka Nela G. Wurmová.

„Každý týden na celém světě víc než milion lidí probírá jen s globálními AI modely svoje sebevražedné sklony. To zkrátka žádný zdravotní systém nemá šanci podchytit a lidé se ze zoufalství obrací na to, co mají nejrychleji po ruce,“ dodává pro CzechCrunch Lukáš Krčil, šéf a spoluzakladatel největší české online terapeutické platformy Hedepy.

Naznačují to i průzkumy. Jeden z nich provedla agentura Ipsos právě ve spolupráci s Hedepy. Podle něj zažilo psychické potíže, které jim zasáhly do běžného života, 79 procent Čechů. U generace Z ve věku 18 až 26 let je to dokonce devět z deseti lidí. Data však odhalují rozpor v tom, jak lidé krize řeší. Čtyři z deseti Čechů zkouší psychické potíže zvládat sami bez jakékoliv pomoci a stejný podíl lidí se svěřuje pouze svým blízkým. K odborníkovi se podle dat odhodlá zajít pouze necelá čtvrtina populace – přičemž ženy to dělají častěji než muži.

Foto: Hedepy

Spoluzakladatel a šéf Hedepy Lukáš Krčil

Právě v tomto vakuu se otevírá prostor pro technologie. Stejný průzkum ukázal, že umělou inteligenci pro řešení svého duševního zdraví už vyzkoušelo 24 procent Čechů a u mladých do 26 let je to dokonce dvojnásobek.

„Část mladých lidí vnímá ostych a sahá po anonymní odpovědi. Mnohdy je ale využití technologií důsledkem přeplněného zdravotního systému a potřeby okamžité pomoci, klidně o půlnoci,“ upozorňuje Krčil. „I když se předsudky daří bořit, naráží to na kapacitní a finanční limity. Volný odborník navíc velmi často nesedí ulici od vás, ale na druhém konci republiky. A to je moment, kdy lidé volí mobilní telefon,“ dodává.

AI jako asistent, ne terapeut

Hedepy vzniklo před pěti lety a provozuje nejpoužívanější online terapeutickou platformu v Česku. I oni jsou vůči používání AI v terapii obezřetní. „Duševní zdraví není obyčejný startup. Nemůžete v něm udělat to, co u jiných technologií, tedy vykopnout rychle na trh nedokonalou aplikaci ve stylu ‚zkusíme a uvidíme‘. Může to ublížit spoustě lidí,“ míní Krčil.

Jeho firma proto už rok a půl vyvíjí vlastního AI asistenta, ale spolupracuje na něm s etickým panelem z Univerzity Karlovy, kde k tomu vzniká i doktorandská studie. Klíčová je filozofie okolo: hlavní roli v terapii musí zastat člověk, umělá inteligence funguje pouze jako doplněk. Aplikace provede člověka terapeutickým sezením, zaznamená ho a v mezičase mu bude například připomínat cvičení. „Jen lidský odborník dokáže správně rozlišit objektivní a subjektivní realitu a skutečně vás vyvést z deprese,“ zdůrazňuje Krčil limity technologického vývoje.

Podobně mluví i psychoterapeutka Wurmová, podle níž AI neumí číst mezi řádky a nevnímá třeba chování nebo tón hlasu konkrétního člověka. „Pisatelka se svěřila ChatGPT, že se neumí rozhodnout, že je to průšvih a že tím všichni trpí. A chatbot jí v podstatě odpověděl, že se musí rozhodnout, protože je to průšvih a všichni tím trpí,“ uvádí příklad.

V Hedepy chtějí od podzimu nabízet svou aplikaci firmám jako benefit, pořád má ale platit, že umělá inteligence by tu měla sloužit spíš jako průvodce. „Když máte ve fabrice dělníka, který trpí úzkostmi z nočních směn, nemůžete mu jen poslat odkaz na online terapii. Musíte na to jít jinak, třeba přes spánkové poradce. Od nich se pak ten člověk mnohem přirozeněji dostane k řešení širšího problému s terapeutem,“ vysvětluje na konkrétním příkladu Krčil.

Ostatně kombinace lidské péče s novými technologiemi a také B2B službami pomohla jeho platformě se letos první měsíce dostat do zisku, tržbami se pak vyšplhala na 315 milionů korun. Dnes Hedepy obsluhuje přibližně 70 tisíc aktivních klientů na devíti evropských trzích, zprostředkuje statisíce sezení ročně od 1 200 odborníků a její služby využívá přes 300 velkých firem včetně značek jako Toyota, McDonald’s nebo polský Orlen.

Nasazení nové AI aplikace má být hlavním motorem dalšího růstu. Ve firmě očekávají, že produkty spojené s umělou inteligencí a datovou analytikou budou v horizontu dvou až tří let tvořit dvouciferný podíl na jejích celkových tržbách. „Pokud budeme v Česku i Evropě veřejnost otevřeně edukovat o rizikách neřízené AI a současně vyvíjet technologie ruku v ruce s odborníky, nemusíme dojít do stavu jako v USA, kde úřady musely sáhnout po plošných zákazech. Budoucnost oboru spočívá v hybridním modelu, kde AI nesoutěží s psychologem, ale pomáhá zlevnit a zpřístupnit systém,“ uzavírá Krčil.