Tvůrci ChatGPT svůj plánovaný erotický chatbot zřejmě v tichosti uložili k ledu. Podle zjištění deníku The Financial Times byl projekt, interně označovaný jako „adult mode“, odložen na neurčito. Důvodem měl být silný tlak ze strany zaměstnanců i investorů, kteří důrazně upozorňovali na obrovská rizika spojená se sexualizovaným obsahem generovaným umělou inteligencí.

Oficiální vysvětlení samotné firmy je ale mnohem opatrnější. OpenAI tvrdí, že chce nejprve důkladně prozkoumat dlouhodobé dopady explicitních konverzací a emocionálních vazeb, které si uživatelé s umělou inteligencí vytvářejí. „Zatím zkrátka nemáme dostatek empirických důkazů,“ cituje Financial Times zdroje blízké vedení společnosti.

Postoj technologického giganta je v tomto ohledu ale nekonzistentní. ChatGPT byl totiž po většinu své existence pověstný tím, že jakýkoliv intimní či erotický obsah tvrdě blokoval. OpenAI tehdy tento striktní přístup hájila právě ochranou zranitelných uživatelů a hrozbou vzniku nezdravých emocionálních závislostí.

Zásadní obrat přišel loni v prosinci. Šéf firmy Sam Altman tehdy na sociální síti X prohlásil, že jakmile firma spolehlivě vyřeší systém ověřování věku, povolí i funkce, které byly dosud přísně zakázané. Včetně erotických chatů pro ověřené dospělé uživatele.

Odborníci z řad psychologů přitom delší dobu varují, že jde o oblast, která má závažné celospolečenské dopady. Redakce CzechCrunche se fenoménu erotiky v umělé inteligenci věnovala už loni v létě, kdy toto téma rozebrala s psychologem a psychoterapeutem Martinem Sedláčkem. Ten detailně popsal mechanismus, který stojí za růstem popularity erotických chatbotů, a vysvětlil, v čem tkví jejich nebezpečí.

„Využívání erotické umělé inteligence funguje jako instantní dávkovač hormonu štěstí. Na rozdíl od lidí dělají roboti přesně to, co uživatel požaduje, a navíc přesně takovým způsobem, jaký si přeje,“ vysvětlil Sedláček.

Neustálé a bezchybné plnění představ pak podle něj spouští velmi intenzivní emoce, které mohou snadno přerůst v reálnou citovou vazbu. Vznikající závislost se zprvu projevuje zcela nenápadně. Člověk se zkrátka jen těší na další konverzaci a myslí na ni i ve chvílích, kdy má telefon zrovna v kapse. Postupně se však může dostat až do bodu, kdy si nedokáže představit, že by aplikaci třeba jen na týden odložil.

„V reálném životě nám nikdo nikdy nedá sto procent toho, co chceme. Tady ale najednou nacházíme platformu, kde to dostáváme beze zbytku. Rychle se tak může stát, že nás tento virtuální avatar doslova odtrhne od reálného světa. Člověk z masa a kostí totiž zkrátka nemůže takové službě konkurovat,“ varoval.

Zvláštní obavy pak Sedláček vyjádřil právě ohledně dospívajících uživatelů. Podobně jako běžná pornografie totiž i erotická umělá inteligence posouvá hranice toho, co mladý uživatel chápe jako normální. „Dospívající si může prostřednictvím AI avatarů snadno zvyknout na zkreslenou představu, že ve vztazích probíhá úplně všechno přesně podle jeho diktátu,“ zdůraznil.

Současné rozhodnutí OpenAI zařadit zpátečku lze číst dvěma způsoby. Ten cyničtější výklad naznačuje, že si svými předchozími prohlášeními pouze „testovala vody“. Když vedení zjistilo, že je projekt politicky i reputačně příliš riskantní, raději tiše couvlo a schovalo se za štít vědecké obezřetnosti. Stále tu však existuje i optimističtější možnost, že si špičky OpenAI skutečně uvědomily obrovskou zodpovědnost a pochopily, že v této křehké oblasti může uspěchaný krok napáchat mnohem více škody než užitku.

Někteří komentátoři zároveň připouští, že roli může hrát i širší kontext kolem firmy, například tlak spojený s očekávaným vstupem na burzu či mediální pozornost kolem nových projektů. Erotický chatbot navíc není jediným projektem, který OpenAI v poslední době zastavila.

Podobný osud potkal i video generátor Sora. Ačkoliv aplikace po podzimním spuštění ovládla žebříčky, zajistila firmě lukrativní partnerství a příslib miliardové investice od studia Disney, Sam Altman ji po pouhých šesti měsících stáhl. Důvodem měla být především tvrdá byznysová realita právě před možným vstupem firmy na burzu. Generování videí je extrémně nákladné, a společnost tak raději obětovala virální hit, který navíc čelil ostré kritice kvůli autorským právům a deepfakes.