Společnost Google řešila loni na jaře bizarní problém. Její umělá inteligence AI Overviews tvrdila uživatelům, že geologové doporučují jíst jeden kámen denně. Přestože umělá inteligence začíná být součástí lidských životů a umí řadu věcí zrychlit a zjednodušit, má pořád jednu zásadní vadu. Občas neříká pravdu. Ovšem to, co běžné uživatele a firmy na AI rozčiluje, paradoxně vítají někteří vědci. Halucinování, jak se fenoménu říká, totiž může pomoci s novými objevy.

Za jeden takový objev David Baker, americký biochemik a počítačový biolog, získal loni polovinu Nobelovy ceny za chemii. Vědci z Washingtonské univerzity se podle Nobelova výboru podařil „téměř nemožný umělecký kousek“, když se svým týmem sestavil díky programu využívajícímu umělou inteligenci zcela nové druhy proteinů. To by mohlo zásadním způsobem pomoci s léčbou rakoviny a neurodegenerativních onemocnění nebo s vývojem nových léků.

Baker přitom deníku The New York Times řekl, že pro vytváření proteinů úplně od nuly byly klíčové „výbuchy představivosti“ umělé inteligence. U proteinů je pro lidi velmi komplikované „vypočítat“ jejich tvar. AI se ale z již popsaných proteinů naučila princip, jak funkční proteiny stavět, a podle něj vymyslela ty, které v přírodě dosud neexistovaly. V biologii jde o naprosto zásadní průlom.

Baker během výzkumu používal speciální software, který s kolegy vytvořil na základě svých vědeckých zkušeností. Jmenoval se Rosetta a původně měl za úkol odpovědět na otázku, z čeho se existující proteiny skládají. Následně ale vědcům došlo, že když Rosettu pustí „pozpátku“, mohla by navrhnout protein na základě požadovaného tvaru. Díky tomu například vyvinuli antivirový nosní sprej na bázi proteinů, který bojuje s covidem. A z Rosetty se následně stal ještě rychlejší a přesnější program RoseTTAFold.

Díky práci s umělou inteligencí uspěla Bakerova laboratoř přibližně se stovkou žádostí o patenty. Jeden z nich představuje nový způsob léčby rakoviny, další by mohl přispět k boji proti virovým infekcím. Baker také založil nebo pomohl rozběhnout během několika posledních let více než dvacet biotechnologických společností. „Věci se hýbou rychle. Dokonce i vědci, kteří se proteiny zabývají, netuší, jak daleko jsme se dostali,“ řekl Baker deníku The New York Times a dodal, že jeho laboratoř navrhla celkem deset milionů nových proteinů, které se v přírodě nevyskytují.

Americký list uvádí, že v oblasti vědy AI oživuje tu „kreativní část“ – pomáhá vymýšlet hypotézy, které pak vědci ověřují. To jim výrazně urychluje práci. „Veřejnost si myslí, že je halucinování chyba. Ale ve skutečnosti vědcům přináší nové nápady. Díky němu mají příležitost zkoumat myšlenky, na které by jinak možná nepřišli,“ říká například Amy McGovern, počítačová vědkyně, která vede americký výzkumný institut věnující se umělé inteligenci.

Baker zároveň není jediný, komu umělá inteligence pomáhá s novými objevy. James Collins, profesor biomedicínského inženýrství na Massachusettském technologickém institutu (MIT), tvrdí, že díky halucinacím AI přichází na nové druhy antibiotik. „Chceme po umělé inteligenci, aby vymýšlela úplně nové molekuly,“ shrnul Collins pro server Fortune svou metodu.

A proč vlastně AI halucinuje? Na vině jsou nepřekvapivě lidé, kteří vytvářejí v hlubinách internetu i nepravdivý obsah, na němž se velké jazykové modely, a tedy současné populární programy a chatboti, učí. „Protikladné znalosti mohou způsobit variabilitu v odpovědích AI, což zvyšuje pravděpodobnost halucinací,“ vysvětluje pro server TechRadar Simona Vasytė-Kudakauskė, šéfka společnosti Perfection42, která se specializuje na vývoj umělé inteligence pro automatizaci tvorby 2D a 3D počítačové grafiky.

Zároveň jde podle Taruna Chopry, viceprezidenta IBM pro produktový management a AI, také o to, že jazykový model často nezná kontext. „Jen říká: ‚Na základě tohoto slova si myslím, že správnou pravděpodobností je toto další slovo.‘ To je vše. Prostě matematika v základním smyslu slova,“ vysvětluje Chopra pro server CNET.

Ohledně vyhledávání informací chatboti využívající umělou inteligenci ještě pořád nejsou spolehliví a například ChatGPT na to sám ve svém rozhraní upozorňuje. Na druhou stranu o přínosu halucinování v minulosti mluvil i zakladatel společnosti OpenAI Sam Altman. „Jednou z méně zřejmých věcí je, že velká část hodnoty těchto systémů úzce souvisí se skutečností, že halucinují. Pokud chcete něco vyhledat v databázi, už na to máme dobré nástroje. Ale skutečnost, že tyto systémy umělé inteligence dokážou přicházet s novými nápady a být kreativní, je velkou součástí jejich síly. Teď jde o to, aby byly kreativní, anebo fakticky správné podle toho, jak a kdy je to potřeba. Na tom pracujeme,“ citoval Altmana server Business Insider.