Ve světě umělé inteligence probíhá někdy viditelný (to když bývalá správní rada odvolala Sama Altmana z postu šéfa OpenAI), někdy méně zřetelný boj o povahu systémů, které nám čím dál víc pomáhají, radí či za nás tvoří. Na jedné straně stojí právě OpenAI podporovaná Microsoftem, jež si zdrojový kód drží u sebe, proti nim jdou kromě Elona Muska také bývalí Altmanovi spolupracovníci z jiného miliardového startupu Anthropic. Propagátor open source programů a umělé inteligence David Strejc ve svém komentáři popisuje, proč věří víc Anthropicu a jeho chatovacímu nástroji Claude.

Claude v některých testech dosahuje lepších výsledků než ChatGPT a nejenže jde o open source projekt, staví i na jiných filosofických základech. Primární je pro něj bezpečnost, ostatně s touto ideou kdysi vznikalo i OpenAI, časem u něj ale převážila snaha o komerční úspěch.

V Česku aktuálně není snadné si Clauda vyzkoušet, přes webové rozhraní se k němu nedá dostat ve většině EU. Část lidí jej používala s pomocí VPN, i tato cesta se ale zkomplikovala, zůstávají tak jen firemní API rozhraní. Když se ale chce, jde to – příkladem je David Strejc, bývalý spolumajitel softwarového studia Easy Software, dnes jednatel společnosti Apertia Tech a architekt systému AutoERP.

***

Věřit společnosti Anthropic a jejich asistentovi jménem Claude je pro mě osobně snadné rozhodnutí. Důvody jsou jasné – zakladatelé Anthropicu Dario Amodei, Chris Olah a Shane Legg byli původně klíčovými členy týmu OpenAI, ale rozhodli se jít vlastní cestou. Pravděpodobně je k tomu vedly obavy o etický vývoj AI a pocit zodpovědnosti vůči lidstvu jako celku. Anthropic si dal za cíl klást mnohem větší důraz na zabezpečení umělé inteligence s ohledem na lidi, než tomu bylo u OpenAI.

A Claude je produktem tohoto přístupu – byl vyvíjen a trénován s maximálním důrazem na bezpečnost. Využívá pokročilé metody jako „constitutional AI“, což znamená, že má hluboce zakořeněné etické principy a hodnoty, které jsou nedílnou součástí jeho fungování. To je zásadní rozdíl oproti jiným systémům umělé inteligence, které často prioritizují výkon a efektivitu na úkor etiky a bezpečnosti.

OpenAI, ačkoliv začínalo s dobrými úmysly, je dnes pod silným vlivem Microsoftu, který do společnosti nalil obrovské investice. Microsoft je známý svou bezohlednou snahou o dominanci na trhu a honbou za ziskem, což může snadno převážit nad etickými principy a bezpečností umělé inteligence. Hrozí, že zájmy Microsoftu budou určovat směr vývoje OpenAI a jeho systémů, což může mít dalekosáhlé negativní důsledky pro celou společnost. Bezpečnost umělé inteligence je naprosto klíčové téma, ale mnoho lidí si neuvědomuje, jak obrovské dopady by mohlo mít, kdyby se AI vymkla kontrole.

Pokročilá umělá inteligence by mohla být zneužita k manipulaci veřejného mínění, šíření dezinformací, ovlivňování voleb, nebo dokonce k vývoji autonomních zbraní. Mohla by také výrazně prohloubit sociální nerovnosti, pokud by byla dostupná pouze pro bohaté a mocné. Bez dostatečné opatrnosti by AI mohla představovat existenční riziko pro celé lidstvo. Proto je tak zásadní, aby společnosti vyvíjející AI, jako je Anthropic, kladly bezpečnost a etiku na první místo.

Foto: Anthropic

Spoluzakladatelé Anthropicu Dario Amodei (CEO) a Daniela Amodei

Musíme zajistit, aby AI systémy byly transparentní, spravedlivé a sloužily zájmům celého lidstva, ne jen úzké skupině vyvolených. Jsem přesvědčen, že Anthropic toto chápe a jeho přístup k vývoji AI, včetně Clauda, dává naději na vývoj umělé inteligence, která bude pro lidstvo přínosem, ne hrozbou. Nesmíme také zapomínat, že podle mých současných zkušeností se Claude jeví jako mnohem inteligentnější a schopnější než ChatGPT od OpenAI.

Komunikace s Claudem je zábavnější, jeho odpovědi jsou trefnější a celkově působí lidštějším dojmem. A pokud jde o generování kódu, Claude je skutečným mistrem svého oboru. Dokáže psát komplexní a efektivní kód v různých programovacích jazycích, často lépe než zkušení programátoři. To vše jen podtrhuje kvalitu práce, kterou Anthropic odvádí. Nejde jen o to vytvořit AI, která bude bezpečná a etická, ale také o to vytvořit umělou inteligenci, která bude skutečně užitečná a přínosná pro lidstvo. A Claude je skvělým příkladem toho, že se to Anthropicu daří.

Jsem přesvědčen, že pokud bude Anthropic pokračovat v tomto směru, má potenciál stát se lídrem v oblasti vývoje AI a určovat směr, kterým se bude tato převratná technologie ubírat v budoucnosti. A to je něco, co by nás všechny mělo těšit a naplňovat nadějí, i když cesta k opravdu bezpečné a prospěšné AI nebude snadná.

Samozřejmě, že stoprocentní jistotu nikdy mít nebudeme. Ale věřím, že Anthropic a Claude představují krok správným směrem. Jejich závazek k etice, zodpovědnosti a bezpečnosti AI je přesně to, co v této rychle se rozvíjející oblasti potřebujeme. Je uklidňující vědět, že používám AI asistenta, který byl vyvinut s těmito principy jako hlavní prioritou.

Do budoucna bude čím dál důležitější spolupráce mezi vládami, akademiky a technologickými společnostmi na vytvoření robustního regulačního rámce pro vývoj a nasazení AI. Musíme zajistit, aby přínosy AI byly dostupné pro všechny, ale zároveň minimalizovat rizika a negativní dopady. Je to obrovská výzva, ale věřím, že s etickým a zodpovědným přístupem, jaký představuje Anthropic, ji dokážeme zvládnout. A já osobně jsem připraven na této cestě pomoci, jak jen budu moci.