Nechcete kvůli AI hloupnout? Zaveďte si dva dny v týdnu bez ní, radí šéf inženýringu České spořitelny

Firmy dnes nasazují nové modely umělé inteligence během týdnů, testují je na produkci a chyby opravují za provozu. Banka si tenhle postup ale dovolit nemůže, každé využití AI musí projít schválením rizik, určením, kam se budou ukládat data, a rozhodnutím, kde se AI vůbec vyplatí implementovat a s čím si zatím ještě neporadí. Česká spořitelna přesto agenty do vývoje softwaru nasazuje už dnes, jen s jasně vymezenými hranicemi.

„Nemůžeme se pustit do každé novinky na trhu. To bychom dali v sázku důvěru a finance našich klientů,“ říká Jaroslav Rychna, šéf inženýringu České spořitelny.

V bankovnictví je Jaroslav Rychna zhruba patnáct let, IT dělá od vysoké školy. Šest let vedl vývoj ve Stavební spořitelně, pak přešel do České spořitelny. Tady má na starosti její technologický základ, tedy systémy, které zajišťují, že banka jako taková funguje. Například že člověk ví, kolik má na účtu, že se správně zpracuje transakce a bezpečně se uchovávají klíčová bankovní data. Jako šéf inženýringu se věnuje i tomu, jak se v bance vyvíjí software, jaké nástroje 1 500členný IT tým používá a jak do jejich práce zapojovat umělou inteligenci.

V rozhovoru Rychna mluví o tom, jak právě umělá inteligence mění vývoj bankovního softwaru, kam ji mohou pustit a proč si Česká spořitelna nechce stavět vlastní AI model. A dodává, že vývojáři podle něj čelí krizi identity.

Jak se díky AI změnilo tempo, v němž dokážete vyvíjet a nasazovat software?
Obrovsky. A je to vidět každý den. Dříve jsme dělali velké změny dvakrát do roka, pak čtyřikrát do roka. Nyní jsou naše release každý měsíc. Ale ještě rychleji se nám začíná měnit způsob práce. Rozhodli jsme se, naplánovali a realizovali. Teď je jednotkou rychlosti půl roku. Tlačí na to trh i samotná AI. Zároveň to nechceme zrychlovat do nekonečna…

Často se říká, že právě v bankovnictví rozvoj brzdí všemožné regulace, ať už Evropské unie, ČNB, ECB…
Říká se to, ale já tvrdím, že regulace je spíš kamarád, i když to zní paradoxně. Nemůžeme se pustit do každé novinky na trhu, ale díky tomu si hned nenabijeme pusu. Klidně měsíc nebo dva počkáme, až to vyzkoušejí jiní, a pak se rozhodneme, jestli to má smysl, nebo jde o slepou vývojovou odbočku.

Jak vůbec vypadá proces schvalování využití AI v bankovním sektoru, než ji pustíte do provozu?
Určují se pravidla, kam se mohou data ukládat, jak se o ně starat, co musíme logovat a jaké modely vůbec smíme používat. Startupu je celkem jedno, jestli data poputují do Ameriky nebo do Číny. Nám to jedno není, jsme v Evropě a data musí zůstat tady. Každý nový model hodnotíme z hlediska rizik.

Jaké modely dnes v produkci používáte a uvažovali jste o tom, že zkusíte vyvinout vlastní?
Zatím využíváme hotové modely, primárně od Anthropicu a OpenAI. Zvažujeme i lokální modely, například francouzský Mistral. Čínské modely v plánu nemáme. Vlastní model vyvíjet nechceme – není to náš byznys a nemáme ambici konkurovat specializovaným laboratořím.

Využíváte agenty, kteří se podílejí na samotném vývoji softwaru. Co všechno dnes mají na starost a jak to funguje?
Na začátku stojí analytický agent. Vývojář s ním projde specifikaci a agent ji začne zpochybňovat – jestli je dost podrobná a jestli na něco nezapomněl. Pak přichází návrh, vývojoví agenti a na konci agenti, kteří vytvoří testy.

Do produkce ale kód nepouští AI. O nasazení rozhodujeme bez AI, aby šlo o čistě deterministický skript. Nechceme riskovat, že se agent rozmyslí a změnu nenasadí.

Proč je potřeba mít tolik kontrolních mechanismů? Stalo se vám, že agenti udělali něco, co po nich nikdo nechtěl?
Stalo, kolegovi. Spustil agenty analytiky a nechal je, aby si zadání vyřešili sami. Agenti si po chvíli uspořádali standup a usoudili, že zadání je špatně. Dvě hodiny pracovali a pak oznámili, že přepracovali nejen funkčnost, ale i frontend a celou aplikaci. Kolega přitom chtěl jen změnit barvu tlačítka.

Proto každý vygenerovaný kód kontrolují lidé. Pořád jsme v bance, takže platí kontrola čtyř očí. Agenti navíc dostávají všechna omezení, bezpečnostní standardy a kontext konkrétních repozitářů a na konci je zavíráme do sandboxu, aby neměli kam utéct.

Když za vás tolik práce odvedou agenti, co zbyde na samotné vývojáře? Jak moc se mění způsob vaší práce a jak to pociťujete?
V určitých kruzích bylo dlouho uměním znát co nejvíc programovacích jazyků. Čím obskurnější ten jazyk byl, tím jste byl za většího hrdinu. Rozuměl jste něčemu, čemu nikdo jiný nerozumí. Dnes tohle umění ztrácí váhu. Podle mého vývojáři opravdu zažívají krizi identity. Dřív bylo uměním umět programovat, teď je uměním správně se zeptat a pracovat s agentem tak, aby se dokázal posunout dál, dát mu kontext a bezpečně ho vést tam, kam potřebuji. A když udělá chybu, přesně mu říct, v čem byla.

Znamená to, že umět číst a psát kód už není pro vývojáře tak důležité?
Ne, právě naopak, to musíte umět pořád. Když neumím zkontrolovat, že je v kódu logická chyba, nepomůže mi, že mám agenta. Pravděpodobně odsouhlasím hromadu nesmyslů, které pak vyjdou najevo v produkci.

Zasahuje tahle proměna i do toho, jak spolu komunikují jednotlivé týmy napříč bankou? IT vždy bývalo spíše odtržené…
AI se přesouvá i před samotné IT. Připravujeme agenty, kteří pomáhají s nápadem na nový produkt – udělají analýzu konkurence, projdou hypotézy a vedou tisíc fiktivních rozhovorů s virtuálními lidmi z cílové skupiny. Zadání je pak textový soubor v GitHubu, ke kterému mají přístup všichni: byznys, produkt i vývojáři. Z ajťáků se tak částečně stávají byznysáci a naopak. Říkáme tomu PDE transformace – Product, Design, Engineering. Produktový tým, designéři a inženýři mají na projektu pracovat společně od začátku.

To všechno se děje uvnitř firmy. Čeho z toho si všimne běžný klient banky?
Nejvíc chatbota v aplikaci George. Po přihlášení se objeví hvězdička a George si s vámi popovídá o detailech účtu. Pokud potřebujete zadat platbu, pomůže vám i s tím.

V některých call centrech už je v první linii voicebot, který dokáže vyřešit většinu požadavků. Nejdřív ho ale testujeme na vlastních lidech – odbavuje interní service desk. Sledujeme hlavně to, jak zvládá emoce. Voicebot vaši emoci asi rozpozná, ale nezačne ji replikovat. Když je potřeba, hovor se přepne na člověka. Většina nasazení je ale pro klienty neviditelná. Standardní požadavky vyřizují automaty a lidé řeší náročnější úkony.

Kde má nasazení AI u vás jasné technické limity?
Menší systémy a jednoduché změny zvládá samostatně. Problém jsou velké systémy, jako core systém banky, tedy obří objem kódu, provázanost a historie. Tam si AI zatím láme zuby. Nejvíc narážíme také tam, kde chybí dokumentace, u všeho, co jsme drželi v hlavách a předávali si ústně. Číst myšlenky AI zatím neumí. Proto testujeme nástroj, který si s člověkem povídá o jeho práci, občas pořídí snímek obrazovky a z toho vytvoří popis procesu.

Vrátím se k lidem, vy sám jste jinde zmiňoval, že AI vnímáte i jako možné riziko. Jak přesně jste to myslel?
Vidím to na sobě. Čím víc různých věcí na AI outsourcuju, tím víc jsem líný je pak řešit sám a raději trávím dvacet minut tím, abych to dal AI, než si to třeba za méně času udělal sám. Je to fajn, pokud přicházím jen o nějakou drobnou dovednost, kterou se rychle doučím. Horší je to u schopností, jako je kritické myšlení nebo čtení kódu.

A jak tedy vyřešit obavu, že vývojáři přijdou o schopnost psát kód sami?
Rada je jednoduchá: zavést si čtvrtek a pátek bez AI a tu práci si ručně přepsat. Jiný způsob zatím neznáme, ještě nejsme v Matrixu. Druhá možnost je přepnout AI do režimu učitele, který se ptá „Jak bys to napsal?“ a vede člověka otázkami. Je to pomalejší, ale člověk se při tom učí. Je to podobné, jako kdybychom dětem dali kalkulačky už odmalička, nikdo by pak netušil, kolik je dva a dva, a stačilo by jim namluvit, že je to pět. Důležité je vědět, že se nám to děje. Dokud si to uvědomujeme, je to v pořádku.

Riziko, že se ztrácí schopnost číst kód, nejvíc hrozí právě juniorům. Mají u vás dnes ještě šanci se do týmu dostat?
Bereme je, ale je to náš největší hlavolam. Když junior přijde do týmu, kde všichni používají AI a umí ověřit kód, použije ji také, ale neumí ji ověřit. Začne dělat chyby a okolí ho musí víc kontrolovat. Z podobného důvodu se vracíme i k pohovorům naživo. Z pohovoru na dálku mám obavu: když se ptám a kandidát umí dobře psát nebo má nahraný náš hovor a chatbot mu pomáhá, projde pohovorem a já to nepoznám.

Dá se tohle všechno – menší týmy, agenti, nové modely – nějak podložit tvrdými čísly, že se to vyplatí?
To je nejtěžší otázka. Přesně změříme, kolik vynaložíme na tokeny a implementaci. Nedokážeme ale říct, jestli díky AI dodáváme software rychleji nebo kvalitněji. Počet řádků kódu roste, pull requestů také, spotřeba tokenů také – čísla vypadají dobře. Ale otázka je jinde: přineslo nám to víc hodnoty rychleji? Hodnotu softwaru nebylo možné spolehlivě měřit ani před AI, teď se to jen zkomplikovalo. Tvrdá čísla, podle kterých by tisíc investovaných dolarů vyprodukovalo konkrétní hodnotu, zatím obhájit neumíme. Všechny metriky ale naznačují, že pravděpodobně ano.