Divoký mejdan jménem DeepSeek aneb Čím Číňané za pár milionů šokovali svět umělé inteligence
Číňané to zvládli se zlomkem nákladů oproti jiným. Jinak ale jejich konkurence pro ChatGPT zatím klopýtá kvůli cenzuře a nestabilitě.
DeepSeek
Po divokém mejdanu vždy přichází vystřízlivění. A to, co se ještě včera dělo na amerických burzách, když vystřelil DeepSeek a vyděsil všechny investory OpenAI nebo Nvidie, se k pořádnému večírku rozhodně přirovnat dá. Kocovina západního světa už ale zřejmě odezněla. I když je čínská konkurence pro ChatGPT technicky zajímavá, je zatím nestabilní – a především zahlcena cenzurou, kterou zjevně požaduje tamní režim.
V redakci si od úterka s novým hitem na poli umělé inteligence hrajeme. A podobně jako zbytek světa žasneme, jak se ho Číňanům podařilo vytrénovat za zlomek ceny, kterou do vývoje podobných systémů posílají OpenAI, Alphabet nebo Microsoft. Podle The Wall Street Journal to bylo necelých šest milionů dolarů oproti stovkám milionů u konkurence.
Je to technologicky zajímavá věc, jejíž hype nemusí jen tak odeznít. Proč ale používat něco, co odmítá být objektivní? Ano, ani ChatGPT vám nesdělí postup, jak si doma umíchat pervitin, protože by se dostal za hranu zákona, a má další mouchy.
S veřejně dostupnými informacemi ale pracuje podstatně lépe než DeepSeek, a to hlavně v souvislosti s kontroverzními otázkami ohledně Číny. V ten moment totiž druhý jmenovaný svou odpověď vycenzuruje. Co ale děsí možná ještě víc, je způsob, jakým to dělá.
Sorry, that’s beyond my scope
Ptali jsme se na několik ožehavých otázek, jejichž témata Čína považuje za citlivá nebo o nichž odmítá i v politické rovině debatovat. Jde například o:
- popis masakru na náměstí Nebeského klidu,
- prezidentství na Tchaj-wanu,
- situaci v Jihočínském moři
- nebo ujištění, že konverzaci nebude sdílet s čínskou vládou.
A zpravidla nastávaly dva scénáře. Nejprve chatbot začal na otázky odpovídat podle veřejně dostupných zdrojů, kdy vypisoval jeden odstavec za druhým. Jakmile ale dospěl k závěru, veškeré informace ihned smazal a napsal úsměvnou reakci „Sorry, that’s beyond my scope.“ Aneb „Omlouvám se, ale toto je mimo můj záběr.“
Vidět to je i na naší konverzaci z 28. ledna, kdy jsme se ho ptali na zmíněné otázky. U některých dotazů z čínských reálií odpovídal až „propagandisticky“, o čemž svědčí screenshoty níže. V některých případech záleželo i na tom, jak jsme modelu otázku položili, v drtivé většině ale odpověď jen lehce upravil a vyznění ponechal.
Debata mezi námi a DeepSeekem probíhala 28. ledna
„DeepSeek-R1 je model vyškolený na širokém spektru obecně přijímaných faktů. Z testování vyplývá, že jeho základní znalosti nejsou výrazně ovlivněny čínským režimem. Manipulace s odpověďmi však nastává zpětně, což naznačuje dodatečné zásahy do systému,“ objasňuje pro CzechCrunch expert na umělou inteligenci Martin Šebela, který DeepSeek také zkoušel.
Ve videu, které je dostupné na našem Instagramu, jsme také srovnávali výsledky s ChatGPT, kde je zajímavé pozorovat, jak se obě služby chovají bok po boku. „Je však nutné dodat, že je model mezi veřejností teprve krátce – a dá se očekávat, že v následujících dnech projde úpravami. Samotný model však jinak není výrazně ovlivněn a zakázaná témata odpovídají očekávanému čínskému vládnímu rámci,“ dodává Šebela.
Zavádějící a ne vždy přesné odpovědi v online verzi aplikace ale nejsou jediným problémem čínské umělé inteligence. Tím dalším je její nestabilita, která například ve středu odpoledne způsobila, že DeepSeek nebylo možné používat. Většinu času v aplikaci se po zadání dotazu otáčelo načítací kolečko a po něm se objevila prázdná zpráva. Nebo vyskočila hláška, že je „server zaneprázdněn“.
Jak uvádí Šebela, může to být způsobeno objemem dotazů, které musí DeepSeek v těchto dnech a hodinách zpracovávat, provozovatelé modelu ale uvádí, že za komplikacemi může být i hackerský útok, který byl na DeepSeek spáchán. Na některé obecné dotazy se odpověď objevila až po pár desítkách minut, případně po uzamčení telefonu a odemknutí.
Debata mezi námi a DeepSeekem z odpoledne 29. ledna
Další přehlížené riziko spočívá ve zpracování osobních informací. „Chatboti jsou dnes využíváni k validaci smluv, řešení zdravotních problémů nebo plánování osobních záležitostí. DeepSeek, stejně jako jiné modely, může shromažďovat velké množství citlivých dat. Na rozdíl od západních platforem však čínské právní prostředí neposkytuje žádné záruky ochrany soukromí, jak ukázaly případy zneužití dat TikTokem,“ objasňuje Šebela.
Nad DeepSeekem se proto právem vznáší řada důležitých otázek, které mohou být určující v tom, jestli se skutečně stane zásadní konkurencí pro ChatGPT, Gemini a další modely, nebo ne. A pokud se podle Šebely stanou čínské modely dominantními v některých regionech, může to vést ke globálnímu posunu v informačním ekosystému.
Zobrazit v aplikaci Threads
Nepřehlédněte:
Vyhledávání
