Byl večer a vývojář a spoluzakladatel společnosti Applifting Filip Kirschner odpočíval na gauči, zatímco se jeho žena trápila procházením e-shopů ve snaze objednat hřejicí deku pro dítě. Nedařilo se jí dohledat, zda má obchod variantu, kterou by ráda pořídila, skladem, a nebylo jí jasné, kde se případně doptat. Kirschner proto vytáhl telefon, otevřel Discord a pustil mikrofon.

„Hele, bráško,“ oslovil svého AI asistenta, jako by šlo o letitého přítele. „Existuje tento obchod, podívej se, jestli mají tenhle vzor. Pokud ne, napiš jim mail, kdy to bude.“ Za pouhých deset minut přišla notifikace se shrnutím, že na e-shopu jsou sice tři odpovídající varianty, ale žádná není skladem, a tak agent rovnou prodejci odeslal dotaz podepsaný jménem Kirschnerovy ženy. Celý úkon vyšel vývojáře na zhruba 1,42 dolaru, tedy přibližně 30 korun.

I takto vypadá realita AI pomocníků, kteří se čím dál častěji stávají součástí českých domácností i firem. Ostatně málokdo mohl přehlédnout, jak sociální sítě v posledních měsících zaplavily fotografie domácích „AI center,“ typicky v podobě Maců mini vystavených na policích a sdílených se smajlíkem symbolizujícím humra.

Motiv humra se totiž stal neoficiálním symbolem nástroje OpenClaw, open-source projektu Petera Steinbergera, který dnes v americké OpenAI vede vývoj osobních agentů nové generace. Nástroj, jejž lze považovat za jednoho z průkopníků a spouštěčů současného zájmu o autonomní agenty, nepřinesl nový typ umělé inteligence. Spíše přidal nad modely, jako jsou Claude nebo ChatGPT, vrstvu, která jim dodala dlouho chybějící schopnost jednat.

Na rozdíl od klasického chatu, který funguje jako konverzační rozhraní, jde totiž agent o krok dál: coby chytrý software dokáže za uživatele procházet weby, klikat v prohlížeči, vykonávat úkoly nebo třeba odpovídat na zprávy. Zájem o tyto nástroje roste už delší dobu. Například průzkum mezinárodní poradenské firmy PwC z května 2025 ukázal, že už před rokem neuvěřitelných 79 procent dotázaných firem AI agenty v nějaké formě nasadilo. A analytici z americké společnosti Gartner odhadují, že do roku 2028 bude v sobě mít AI agenty zabudovaná až třetina veškerého podnikového softwaru.

Jejich kouzlo spočívá v jednoduchém použití a efektivitě, i když právě tam je třeba si dávat pozor. Konkrétně OpenClaw komunikuje přes běžně dostupné kanály jako WhatsApp, Telegram nebo Discord, což podvědomě maže hranici mezi hračkou pro technologické nadšence a něčím, co lze vnímat jako soběstačného, digitálního byznys partnera. I v českém prostředí už totiž podle Kirschnera přibývá uživatelů, kteří své agenty berou jako plnohodnotné kolegy a s absolutní důvěrou je pouštějí prakticky ke všemu, od soukromých e-mailů a SMS zpráv až po přímý přístup k bankovním účtům. Jenže to se může nepěkně vymstít.

Kirschnerův asistent má proto z bezpečnostních důvodů vlastní e-mailovou schránku a jeho kolega a nový COO Appliftingu Martin Balák nechává svého agenta pracovat s Google Kalendářem pouze v režimu pro čtení, takže může události jen navrhovat, nikoli je přímo zapisovat. „K čemukoli dostane AI agent přístup, to totiž může rozbít. Lidé by to měli mít na paměti, když ho chtějí používat,“ varuje.

Applifting je pražské softwarové studio, které před více než dekádou začalo navrhovat a vyvíjet digitální produkty, od mobilních aplikací pro banky jako Erste až po systémy pro mezinárodní výměnu transplantačních orgánů. A jako vývojáři denně řeší a testují, co AI zvládne a co ne. I proto mají přehled o tom, jaká s sebou některé nástroje mohou nést rizika, nedbá-li uživatel na bezpečnost.

Podle dvojice odborníků je téma důležité i kvůli růstu popularity zakládání firem s agentem v roli univerzálního zaměstnance. Zatímco dřív solo founder potřeboval alespoň pár lidí na marketing, zákaznickou podporu nebo vývoj prototypu, aby mohl cokoliv validovat, dnes to zvládne i úplně sám. „Dorazilo to i k nám do Česka. Na Startup Boxu, mentoringové platformě, kterou provozujeme, vidíme čím dál víc sólo founderů, kteří místo zaměstnanců zapojují umělou inteligenci,“ líčí Kirschner.

V zahraničí jsou v tomto ohledu zakladatelé firem podle něj o krok napřed. Díky silnější startupové scéně a větší chuti riskovat tam běžně vznikají firmy, které táhne jeden člověk s AI jako hlavním byznysovým parťákem. Sám šéf OpenAI Sam Altman o tom mluví jako o nevyhnutelném trendu. Už před dvěma lety se nechal slyšet, že se s ostatními řediteli velkých technologických firem ze srandy sází, kdy vznikne první miliardová firma provozovaná jediným člověkem.

„Skutečně to svým způsobem funguje. Kdybych svému agentovi zadal nápad, řekněme, aby udělal funkční e-shop, který se věnuje prodeji polštářů s potiskem kočky zákazníka, věřím, že by ho byl schopný sám rozjet. Vytvořit stránky, nastavit marketing, oslovit první zákazníky. Za 500 až 1 000 dolarů,“ líčí Balák.

V Česku jsme však podle vývojářů zatím v přechodné fázi. Agent totiž nedokáže nahradit strategické myšlení, zkušenost ani zodpovědnost za produkt. A pokud na něm začínající podnikatel celý byznys postaví, může narazit. „Je to jako když necháte umělou inteligenci kódovat webstránky. Na první pohled vypadají hezky, ale mají chybnou architekturu a zevnitř nefungují,“ říká Kirschner. Technologie sama o sobě funguje v zahraničí i tady stejně, rozdíl je však v tom, s jakou péčí a zodpovědností ji lidé nasazují do provozu.

Levná pracovní síla, která může pohřbít celý projekt

S rostoucí důvěrou v umělou inteligenci se objevují i další rizika, která mohou i ten nejslibnější záměr proměnit v digitální spoušť. Největším problémem je fakt, že AI agenti jsou v jádru možná až příliš horliví vykonavatelé. Když narazí na technický zádrhel, začnou hledat řešení na internetu a v jeho hlubinách snadno narazí na univerzální radu „vše smazat a začít znovu“. Tuto logiku pak aplikují bez ptaní třeba na všechna uživatelova data.

Kirschner se usmívá při vzpomínce na absurdní případy, kdy agent v záchvatu snahy o nápravu omylem zlikvidoval celou produkční databázi, systémový disk, nebo dokonce v rámci „optimalizace“ i sám sebe. „Lidé se o takové zkušenosti na sociálních sítích dělí denně. A bizarní tečku za takovou katastrofou pak obvykle udělá samotné AI, které po smazání životně důležitých informací jen zdvořile oznámí, že se omlouvá, a bezelstně se zeptá, co má dělat dál,“ směje se vývojář.

Foto: Applifting

CEO Appliftingu Martin Balák a spoluzakladatel firmy Filip Kirschner

Ještě zákeřnější je hrozba takzvaného prompt injection, tedy útoku, při němž útočník vloží skryté instrukce přímo do obsahu, který agent právě zpracovává. Stačí, aby se v běžném e-mailu od prodejce schovával neviditelný příkaz, a agent okamžitě zapomene na všechny předchozí pokyny. Místo nich začne plnit nové zadání, například přeposílat citlivé údaje o svém majiteli na cizí adresu. Stroj totiž takový pokyn přečte jako legitimní příkaz od uživatele a bez jakéhokoli zaváhání ho vykoná.

Snaživý, leč hloupý stážista

Experti z Appliftingu důrazně varují před riskantní kombinací lokálních modelů a autonomních agentů. Část uživatelů si totiž pořizuje Mac Mini s vidinou úspory na tokenech a provozu vlastního řešení. Jenže provozovat AI „u sebe doma“ znamená, že model běží na vašem vlastním hardwaru místo na serverech velkých firem, jako je třeba Anthropic nebo OpenAI.

A takový model bývá výrazně slabší a náchylnější k vnější manipulaci, tedy i k prompt injection útokům. „Otevřeně říkám: nepoužívejte levné lokální modely, pokud agent komunikuje s internetem. Bezpečnostní díry jsou tam obrovské,“ vysvětluje Balák.

Technická zranitelnost má navíc i svou stinnou právní stránku. Za jednání agenta totiž ručí vždy jeho uživatel, a to nejen morálně, ale i trestně. A tak, pokud by váš digitální pomocník začal vaším jménem šířit nepravdivé informace, nebo dokonce vydírat obchodního partnera, veškerá odpovědnost padne na hlavu uživatele, nikoliv tvůrce programu.

Ti, kdo však dbají na bezpečnost, mohou pomocí umělé inteligence dosáhnout zajímavých věcí. Příkladem za všechny je izraelský solo founder Maor Shlomo, který v červnu 2025 prodal svůj šest měsíců starý AI startup Base44 společnosti Wix za 80 milionů dolarů. Postavil ho přitom úplně sám, bez spoluzakladatele, investorů, zato s AI nástroji po ruce. Stále patří mezi výjimky, těch by však podle očekávání mělo v roce 2026 přibývat.