Vědci se snaží odhalit tajemství umělé inteligence. Na pomoc si berou Harryho Pottera

Vědci na sérii o bradavickém čaroději ukazují, jak těžké je pro umělou inteligenci něco zapomenout. A využívají knihy i v dalších výzkumech.

Eliška NováEliška Nová

harry-potter-and-the-chamber-of-secrets

Foto: HBO

Hermiona, Ron a Harry v populární filmové sérii

0Zobrazit komentáře

I po sedmadvaceti letech stále táhne. Nakladatelství to vědí, a tak neustále vydávají nové a nové knihy inspirované příběhy Harryho Pottera. Televize dokola vysílají jednotlivé filmy a chystá se i nový seriál. Světa plného kouzel si ale začíná všímat také vědecká obec, která si půjčuje obrýleného čaroděje ke svým studiím. A třeba i k tomu, aby prozkoumala tajemství umělé inteligence.

Vědci mají mnoho důvodů k tomu, aby sáhli právě po Harrym Potterovi. Zná ho skoro každý, a tak je vcelku jednoduché na něm spoustu věcí ukázat. Výhodou knih je také slovní zásoba, kterou J. K. Rowlingová použila, stejně jako velké množství slovních hříček. A vědci se k němu uchylují jednoduše i proto, že ho sami četli. „Harry Potter je mezi mladými vědci velmi populární. Četli ho jako děti nebo dospívající, a tak na něj mysleli i při výběru psaného nebo mluveného jazykového korpusu,“ cituje agentura Bloomberg Leilu Wehbovou.

Vědkyně z pensylvánské Univerzity Carnegie Mellon provedla před deseti lety několik pokusů, kdy na magnetické rezonanci zkoumala, co se děje v mozku, když lidé čtou příběhy z Bradavic. Chtěla tak lépe porozumět jazykovým mechanismům. Právě přirozený jazyk zpracovává také umělá inteligence, která na něj navíc dokáže reagovat relevantní odpovědí. A na ni se vědci v poslední době zaměřují s pomocí kouzelnického světa nejvíce.

V jedné z posledních studií, která dostala název Kdo je Harry Potter?, se například vědci pokusili zjistit, co se stane, když některé informace umělá inteligence jednoduše zapomene. Mohlo by se to zdát jako něco jednoduchého, ale je to právě naopak. Jak zařídit, aby chatovací roboti jako například ChatGPT něco zapomněli, ale zároveň nezměnili svůj charakter? Jak jim informaci vzít a nezměnit současně to, co už vědí? Do toho všeho se výzkumníci pustili v souvislosti s debatou o autorských právech.

Vědecký článek poukazuje na novou techniku, jež by mohla jazykovým modelům pomoci selektivně zapomínat. Stojí za ním dva zaměstnanci společnosti Microsoft Mark Russinovich a Ronen Eldan, kteří ukázali, že je možné modely upravit tak, aby nevěděly zhola nic o světě Harryho Pottera – o knihách, postavách ani zápletkách – a zároveň umělá inteligence neztratila nic ze svého kouzla.

Knihy si dvojice vybrala právě proto, že Harry Potter je všeobecně známý. „Věřili jsme, že pro lidi z výzkumné komunity bude snazší vyhodnotit náš model, aby si sami mohli potvrdit, že umělá inteligence se opravdu něco odnaučila. Téměř kdokoli si totiž může ověřit, zda knihy zná, nebo ne. Dokonce i lidé, kteří je nikdy nečetli, by si byli vědomi dějových prvků a postav,“ řekl Russinovich.

Zdaleka to není jediná studie, která se o něco podobného pokouší. Vědci z Washingtonské univerzity v Seattlu, Kalifornské univerzity v Berkeley a z Allenova institutu pro umělou inteligenci vyvinuli dokonce úplně nový jazykový model, který pojmenovali Silo. V něm je vcelku jednoduché odstranit některá data. Ukázalo se však, že pokud model vychází jen z druhotných textů, které nejsou chráněny autorskými právy, a nikoliv ze samotných knih z kouzelnického světa, pak jeho výkonnost výrazně klesá.

Top Gun: Maverick

Přečtěte si takéHollywood možná čeká spojení dvou velkých studií: WBD a ParamountuHarry Potter a Top Gun pod jednou střechou? Hollywood možná čeká další spojení dvou velkých studií

Výzkumníci šli proto ještě o krok dál a zkusili zjistit, jak výkonnost umělé inteligence ovlivňují jednotlivé části textu. Vytvořili proto různá datová úložiště – v prvním byly všechny knihy o Harrym Potterovi kromě prvního dílu. Pak odstranili druhý a tak dále, čímž postupně testovali znalosti umělé inteligence. Došli při tom k závěru, že bez knih AI zdaleka nefunguje tak dobře.

Jiná studie pomocí Harryho Pottera podrobila zkoušce samotnou inteligenci umělé inteligence. Terrence Sejnowski z laboratoře výpočetní neurobiologie na americkém Salkově institutu v článku tvrdil, že chatboti pouze odrážejí inteligenci a předsudky svých uživatelů, podobně jako zrcadlo z Erisedu z první knihy, které odráží přání člověka.

Harry Potter každopádně slouží vědcům dál. Bloomberg poukazuje na to, že na webové stránce arXiv, tedy volném depozitáři vědeckého výzkumu, se v poslední době objevily i jiné články. Například Strojové učení pro vývoj lektvarů v Bradavicích. Nebo Velké jazykové modely potkávají Harryho Pottera. Nejen nakladatelství vědí, že Harry Potter má pořád co nabídnout.