Možnost ptát se na internetu na cokoliv v kombinaci s testovací verzí softwaru, co by se tak mohlo pokazit? Společnost Meta, stojící za Facebookem, začala ve Spojených státech testovat svůj nový konverzační program. Vývojáři si od veřejného testování slibují, že se bude jejich bot zdokonalovat v mimice lidské konverzace. Což vlastně dělá, v některých případech ale program opakuje konspirační teorie nebo různě kontroverzní hlášky.

Podle šéfa Mety Marka Zuckerberga je třetí verze chatovacího robota pod názvem BlenderBot 3 dosud nejvyvinutější. Zvládat má nezávaznou konverzaci, dokáže také poradit s výběrem restaurace nebo plánováním cesty. Mimo jiné se zvládne učit i z konverzace a co je podle Mety přelomové, umí přitom vyhledávat informace na internetu v reálném čase. Teoreticky je tak podle společnosti „schopný chatovat o téměř jakémkoliv tématu“.

Meta prý už po necelém týdnu vidí, že se program zlepšuje. „Prvotní experimenty ukazují, že čím více lidí si s botem povídá, tím víc se učí a tím lepší a bezpečnější je,“ uvedla firma pro britský The Guardian. Dodává ale, že bezpečnost použití nového programu zůstává otevřeným problémem.

V průběhu týdne se totiž objevily zprávy o tom, že BlenderBot v některých konverzacích zatím nepředvádí zrovna přesvědčivé výkony. V odpovědích reportérovi The Wall Street Journal Jeffu Horwitzovi třeba tvrdil, že prezidentem Spojených států je stále Donald Trump a také za šíření falešných zpráv kritizoval sociální síť Facebook.

Zuckerberga pak v konverzaci s novináři agentury Bloomberg označil za „podivína a manipulátora.“ Novináři serveru BuzzFeed News dokonce napsal, že by Zuckerberga poslal do vězení a BBC řekl, že Zuckerberg vykořisťuje lidi. Bloomberg ale upozorňuje, že jeho postoje nejsou konzistentní, protože v jiné konverzaci bot napsal, že se mu líbí politika prezidenta Joe Bidena.

Nevoli s výroky chatbota brzdí i v souvislosti s nedávnou kontroverzí umělé inteligence (UI) od Googlu expert na toto téma Gary Marcus. Před nedávnem totiž inženýr Googlu tvrdil, že jedna z firemních UI nabyla vědomí. Firma to odmítla a propustila ho poté, co dotyčný kauzu přinesl médiím.

„Jediné, co podobné systémy dělají, je hledání vzorců na základě masivních statistických databází lidské řeči. Některé vzorce mohou být sice zajímavé, ale vyjádření takovýchto programů ve skutečnosti vlastně nic neznamenají,“ řekl Marcus pro The Guardian.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Podobnými problémy prošel v roce 2016 chatbot od Microsoftu jménem Tay. Firma ho lidem zpřístupnila na Twitteru, ale po necelých čtyřiadvaceti hodinách ho stáhla, protože ho uživatelé naučili opakovat kontroverzní názory.

Takový osud ale BlenderBota od Mety zatím nečeká – firma si za ním stojí. Uvedla, že pokud půjde vše podle plánu, měly by kontroverze postupně mizet. Už tak je podle Mety procento závadných konverzací malé – jako závadné označili uživatelé 0,11 procenta z 260 tisíc odpovědí, 1,36 procenta jako nesmyslné a jedno procento jako reakce mimo téma.