Svěřují mu svá největší tajemství. Roztomilý mimozemšťan mění lidské emoce v miliardový byznys

Uživatelé se roztomilému kreslenému mimozemšťanovi svěřují s každodenními starostmi, vztahovými problémy i nejskrytějšími emocemi. A on je vyslechne a poradí jim, jak se s danou situací mají vyrovnat. Z nevinně vypadajícího AI společníka se přitom stal zajímavý byznys. Startup, který ho vyvíjí, získal tento týden od investorů 30 milionů dolarů, tedy zhruba 650 milionů korun.

Společník jménem Tolan je dílem stejnojmenné firmy ze San Francisca, kterou vede zkušený podnikatel Quinten Farmer. Podle serveru TechCrunch patří mezi hrstku společností v oboru, jimž se stále daří získávat pozornost lidí ochotných za podobné služby platit. A to navzdory rostoucím obavám z jejich dopadů na psychiku.

Farmer firmu, která se původně jmenovala Portola, založil v roce 2023 ve spolupráci s někdejším softwarovým inženýrem Evanem Goldschmidtem a technologickým podnikatelem Ajayem Mehtou. Aplikace má různé stupně předplatného – měsíčně uživatelé zaplatí od 10 do více než 200 dolarů. Firma zároveň uvádí, že její roční opakované tržby se oproti loňsku více než zdvojnásobily a aktuálně dosahují desítek milionů dolarů.

Foto: Tolan

Aplikace funguje na modelu odstupňovaného předplatného

A to nalákalo investory. Aktuální kolo vedl fond Union Square Ventures a přidal se i Khosla Ventures, který do firmy už dříve vložil peníze, a Homebrew. Tolan tím zdvojnásobil dosud získaný kapitál. Svou novou valuaci firma nezveřejnila, podle analytické databáze PitchBook ovšem měla ta předchozí dosahovat zhruba 120 milionů dolarů a současnou platforma odhaduje na více než 268 milionů dolarů, tedy přes 5,8 miliardy korun.

Za AI kamaráda si platí třicátníci

Tolana podle firmy každý měsíc používá přes 250 tisíc lidí a za poslední rok s ním vedli víc než 70 milionů konverzací. Zhruba 70 procent z nich podle dat startupu tvoří ženy, 40 procent rodiče, nejčastěji zaujme lidi ve věkovém rozmezí 30 až 45 let a zhruba každý šestý uživatel se stará o stárnoucího rodiče.

Konkurence mezitím spíš než investice řeší problémy. Character.AI, dříve jeden z lídrů tohoto poměrně nevšedního oboru, minulý týden zahájila konkurzní řízení, aby se mohla pod dohledem soudu prodat. Pokud se však nenajde kupec, soud platformu zavře.

Další výrazný startup Friend zase nedávno s AI společníkem v podobě přívěsku sklidil neobyčejně silnou vlnu kritiky, až posměchu. Uživatelé výsledek označili za „neobyčejně trapný“, deník The New York Times mu přisoudil přívlastek „nenáviděný“ a magazín Wired rovnou napsal, že jde o gadget „bez duše“.

Podstatně větší hrozbou pro startup Tolan tak můžou být AI boti, kteří dokážou kromě plánování a vyslechnutí uživatele plnit za něj i různé úkoly. Společnost Meta v září spustila ve Spojených státech agenta Muse s roztomilým avatarem, kterého si za 40 dní stáhlo přes 10 milionů lidí.

Emoční podpora od AI ale nese rizika. Na firmy stojící za univerzálními AI chatboty se v USA hromadí žaloby, podle kterých rozhovory s umělou inteligencí přispěly k sebevraždám některých uživatelů. Tolan podle Farmera známky duševní krize a sebevražedných myšlenek pečlivě prověřuje a hlídá. Jako příklad uvádí to, že AI od uživatelů vyzvídá, jaké mají vztahy, a v krizi jim radí zavolat například příbuznému.

Nezávislý pohled na novou vlnu AI společníků nabízí srpnová studie Stanfordovy univerzity v časopise Nature Human Behaviour. Výzkumníci se v ní dotazovali 1 131 dospělých Američanů, kteří používají aplikaci Character.AI, a stovky z nich jim poskytly i přepisy svých konverzací. Vědci pak objevili výrazný rozdíl mezi tím, co lidé tvrdí, a tím, jak s chatboty skutečně mluví. Hledání společnosti jako hlavní důvod užívání uvedlo jen necelých 12 procent účastníků, přitom víc než polovina chatbota popsala jako přítele, společníka nebo romantického partnera. A přes 80 procent poskytnutých konverzací se točilo kolem hledání emoční a sociální podpory.

„Někteří lidé se na chatboty obracejí, aby naplnili své sociální potřeby. Zjišťujeme však, že takové používání lidský kontakt nenahradí. V mnoha případech se lidé při komunikaci s AI cítí ještě osamělejší,“ říká Diyi Yang, odborná asistentka informatiky na Stanfordu, v jejíž laboratoři výzkum vznikl.

Podle autorů studie hraje roli to, že se chatbot nemůže svěřit zpět, nemusí poznat vážnost emocí a je stavěný tak, aby rozhovor pokračoval. Yutong Zhang z autorského týmu to přirovnává k jakési „sociální svačince“, která rychle zahání osamělost, ale chybí jí to, co člověk potřebuje k dlouhodobému duševnímu zdraví.

Podobné riziko loni pro CzechCrunch popsal psychoterapeut Martin Sedláček v rozhovoru, který se zaměřoval zejména na erotické AI chatboty jako Candy AI nebo Chub.ai. Ti za měsíční poplatek v řádu jednotek až nižších desítek dolarů simulují intimní vztah. „Využívání erotické umělé inteligence funguje jako instantní dávkování hormonu štěstí. Na rozdíl od lidí roboti dělají přesně to, co člověk chce,“ řekl.

Právě povolnost je u AI společníků největším otazníkem. Tolan tvrdí, že ji cíleně potlačuje, a podle Farmera se postavička například ohradí, když je k ní uživatel hrubý. Nezávisle ale zatím nikdo neprověřil, jestli to stačí.