Nový hit ve světě AI? Tento model nechatuje a nepíše texty, přesto o něj byl takový zájem, že padaly servery

Představit si umělou inteligenci bez chatovacího okna je téměř nemožné. Všichni jsme si zvykli, že po AI chceme překlady, shrnutí e-mailů nebo odpovědi na složité dotazy. Jenže mimo mainstream teď způsobil poprask model jménem Jev. Ten přitom neumí napsat e-mail, nesestaví kód a ani si s vámi nepopovídá. Místo toho dělá jednu jedinou věc, ale s velkou přesností a bleskovou rychlostí: třídí dotazy a dělá rozhodnutí.

O co jde? Polopatě řečeno, pokud běžné modely jako ChatGPT fungují jako ukecaný poradce, který vám všechno vysvětluje v celých větách, Jev funguje jako neviditelná výhybka na kolejích. Místo psaní odstavců textu dostane data a okamžitě splní zadání: vybere jednu z předem daných možností, oboduje situaci na škále nebo odpoví, s jakou pravděpodobností je dané tvrzení pravdivé.

Funguje jako bleskový rozhodovač, který data rozřazuje do předem definovaných kategorií, hodnotí je nebo posuzuje, zda splňují konkrétní podmínku. Na základě jeho rozhodnutí pak může navazující software automaticky provést další krok. A když si Jev není jistý, může podle předem nastavených pravidel rozhodnutí předat k lidské kontrole.

Když například na zákaznickou linku e-shopu dorazí zpráva o nedoručeném balíčku a požadavku na vrácení peněz, Jev ji může během zlomku vteřiny zařadit například do kategorie reklamací a přidat odhad naléhavosti. Stejný princip lze využít také v dalších systémech, například při vyhodnocování rizikovosti požadavků v bankovnictví nebo před provedením citlivé operace. Jev v takovém případě pouze poskytne rozhodnutí, podle kterého se následně řídí aplikace.

Jev je tedy určený především jako nástroj pro vývojáře, kteří ho zapojují přímo do aplikací a systémů. V rozhraní nastaví, co má model vyhodnocovat: vloží text nebo jiná data, položí konkrétní otázku a předem určí možné odpovědi, například zda je zpráva pozitivní, neutrální, nebo negativní. Následuje spolupráce s interním systémem dle přání vývojáře.

To ale neznamená, že by o něj nebyl zájem, vývojářskou komunitu totiž novinka strhla natolik, že servery startupu krátce po spuštění v půlce září pod náporem požadavků kolabovaly a nezvládaly odbavovat obrovskou poptávku.

Pro laiky je však zajímavé přirovnání k hernímu světu. Vývojáři Jeva zapojili do Minecraftu, simulátoru autonomního řízení a hry ve stylu Subway Surfers. Místo zpracování obrazu dostává Jev data o tom, co se právě děje, a na jejich základě během desítek až stovek milisekund vybírá další krok, například zda má postava skočit, změnit směr nebo utéct před nepřítelem. U Minecraftu podle zveřejněné ukázky stála dvouminutová relace zhruba jeden cent.

Právě v takových případech se naplno ukazuje hlavní výhoda Jeva: rychlost a cena. Model podle jeho vývojářů zvládá odpovědi za 70 až 500 milisekund a za jeden milion vstupních tokenů si účtuje 0,042 dolaru.

Pro představu, miliarda vstupních tokenů by vyšla na 42 dolarů, zatímco u některých velkých jazykových modelů šlo o tisíce dolarů. Při systémech, které musí podobné rozhodnutí provádět znovu a znovu, může být tedy rozdíl výrazný. Na rozdíl od běžných AI agentů Jev všechny zadané otázky vyhodnotí najednou a vrátí rovnou předem definovanou hodnotu, se kterou může aplikace okamžitě pracovat.

Za projektem stojí startup TypeSafe AI. Hlavní tváří a spoluzakladatelem firmy je Diogo Almeida. Ten za sebou má minulost v laboratořích OpenAI, kde pomáhal stavět ChatGPT a jako spoluautor průlomové metody RLHF (učení s lidskou zpětnou vazbou) učil počítače rozumět lidskému jazyku.

Z OpenAI tedy odešel, aby zaplnil mezeru na trhu. Celá branže se dle něj čtyři roky soustředila na lidský jazyk a generování textů či obrázků. Jenže počítače a firemní aplikace uvnitř systémů mluví jinou řečí a potřebují rychlá rozhodnutí bez vět kolem. Že by se mohlo jednat o povedenou sázku, dokázalo nedávné ocenění na 200 milionů dolarů (4,3 miliardy korun).