Místo mozků pro roboty tvoří rychlé čipy pro AI. U doktoranda z Oxfordu si je už zamluvil i Anthropic

Ještě letos v květnu se o londýnském startupu Fractile psalo jako o čerstvém jednorožci, tedy firmě s hodnotou přes miliardu dolarů. A nyní, o pět měsíců později? Získal další velké peníze při více než šestinásobném ocenění. Britská firma, která vyvíjí čipy pro umělou inteligenci, nabrala od investorů v přepočtu necelých 17 miliard korun. Pozoruhodné ale je, že zatím zákazníkům nedodala jediný čip.

Za firmou stojí třicetiletý Walter Goodwin, který společnost rozjel coby doktorand Robotického institutu Oxfordské univerzity. Původně zkoumal, jak využít velké jazykové modely k vytvoření univerzálních mozků pro roboty. Narazil ovšem na problém, který s robotikou souvisel jen okrajově: LLM modely běžely na dostupném hardwaru pomalu a draze.

Proto se vrátil ke svému původnímu oboru, elektrotechnice. „Pokud míříme do světa, kde většina výpočetního výkonu připadne na inferenci, hodí se na to vůbec náš současný hardware?“ popsal pro server DCD otázku, kvůli níž Fractile založil.

Inferencí se myslí provoz už natrénovaných modelů. A protože odpověď na otázku, kterou si Goodwin kladl, podle něj zněla ne, v roce 2022, ještě před dokončením doktorátu, založil firmu. Zpočátku nesla jméno Neu Edge a na Fractile se přejmenovala až později. První větší peníze přišly v červenci 2024, kdy startup s 15 miliony dolarů, asi 320 miliony korun, vystoupil oficiálně z utajení. Investiční kolo vedly Kindred Capital, Inovační fond NATO a Oxford Science Enterprises, mezi andělskými investory se objevil i bývalý šéf Intelu.

Fractile se snaží vyřešit problém, kterému se v oboru říká paměťová zeď. Když jazykový model generuje odpověď, musí pro každý token, tedy zhruba slovo nebo jeho část, přesunout nemalé množství parametrů z paměti do výpočetních jednotek, provést poměrně jednoduché násobení a výsledek zase uložit. Grafické procesory Nvidie mají výpočetní čip a paměť oddělené, takže velkou část času i energie nespotřebují samotným počítáním, ale přenášením dat sem a tam. Fractile naopak ukládá parametry přímo do rychlé paměti typu SRAM na čipu a počítá tam, kde data leží.

Firma slibuje, že díky tomu poběží nejvýkonnější jazykové modely až 25x rychleji a za desetinu nákladů. Jestli tomu tak opravdu bude, se teprve uvidí, protože první čipy mají k zákazníkům dorazit až v roce 2027. Přesto má Fractile klienta, o jakém se většině konkurentů jen zdá.

Společnost už podepsala dohodu o dodávkách čipů za zhruba 250 milionů dolarů (asi 5,4 miliardy korun) s Anthropicem, navíc s výhledem na další rozšíření. Fractile by se tak stal čtvrtým velkým dodavatelem výpočetního hardwaru pro Anthropic vedle Nvidie, Googlu s jeho čipy TPU a Amazonu s procesory Trainium.

Právě tahle zakázka stojí za prudkým růstem valuace firmy. Jak cenné jsou čipy pro inferenci ostatně ukázala i Nvidia, když loni v prosinci za zhruba 20 miliard dolarů získala technologii a lidi startupu Groq.

Evropských firem, které se pokoušejí o něco podobného jako Fractile, je jen hrstka. Už to, že Evropa ale vůbec má hráče, kteří se s Nvidií pokoušejí soupeřit, je výjimečné. I proto jsme tento příběh zařadili do našeho seriálu Evropské naděje.