V rychle se měnícím světě se školáci učí používat chatboty stejně přirozeně jako vyhledávač. Společnost OpenAI teď chce ale tenhle vztah změnit. Pro teenagery zavádí speciální verzi ChatGPT, která je automaticky rozpozná a uzavře do chráněného prostředí s přísnějšími bezpečnostními pojistkami i rodičovskou kontrolou. Zásadní proměnou prochází také samotné učení: nový režim má studentům s látkou pomáhat, ale zároveň jim zablokovat cestu k rychlému generování odpovědí a podvádění u úkolů.

Nová verze je určená pro dospívající od 13 do 17 let. Od úterý 18. srpna se postupně aktivuje uživatelům po celém světě na bezplatných i placených účtech. Uživatelé přitom nemusí nic ručně zapínat.

Jak je to možné? ChatGPT totiž nově používá vlastní chytrý model, který věk uživatele odhadne sám. Sleduje přes dva tisíce různých signálů, například obvyklý čas přihlášení, stáří účtu nebo obsah konverzace. Jakmile systém vyhodnotí, že u počítače sedí mladistvý, chráněný režim ChatGPT for Teens zapne automaticky, a to i v případě, že je uživatel odhlášený nebo při registraci uvedl falešný věk.

Pokud se náhodou splete u dospělého, ten může svůj věk ověřit a omezení vypnout. Pro děti pod 13 let zůstává užívání ChatGPT i nadále úplně zakázáno.

Teenagerský režim běží na pozadí neustále. Uživatelé od 13 do 17 let v něm mohou chatbota využívat k tvořivosti, programování nebo zkoumání nových nápadů, ale stále pod dohledem bezpečnostních pojistek proti rizikovému obsahu či předstíraným emocím ze strany AI.

Zásadní změna přichází ve chvíli, kdy dojde na školu. Zatímco dříve chatbot fungoval jako rychlý generátor hotových odpovědí, nový systém obsahuje výukový modul Study Mode, na kterém pracovali pedagogové a odborníci na vzdělávání.

Pokud systém rozpozná, že se student snaží získat přímou odpověď, chatbot zasáhne a místo dodání odpovědi ho přesměruje do studijního režimu. V něm s ním pracuje pomocí doplňujících otázek, vysvětluje postup krok za krokem a cvičnými kvízy ho navádí k tomu, aby na odpověď či řešení přišel sám.

Změny však nejsou způsobeny jen snahou zvýšit aktivitu studentů, ale reagují i na tragické případy z minulých měsíců. OpenAI čelí žalobám rodin, které tvrdí, že jejich děti byly chatbotem vystaveny nebezpečnému obsahu nebo s ním řešily sebepoškozování či sebevraždu.

V citlivých oblastech jsou proto mantinely nastaveny velmi přísně. Režim pro teenagery zpřísňuje ochranu před obsahem spojeným se sebepoškozováním, poruchami příjmu potravy, násilím, nebezpečnými aktivitami či grafickým sexuálním obsahem. Umělá inteligence navíc nemá používat romantický jazyk, podporovat emoční závislost ani naznačovat, že má vlastní city či vědomí.

Posílením prošla i rodičovská kontrola. Rodiče mohou svůj účet propojit s účtem dítěte a spravovat časová omezení. A pokud mají rodiče účty propojené a systém zachytí krizové téma, pošle jim upozornění. Zprávu ale nejprve přezkoumá lidský moderátor a konkrétní text konverzace z ní kvůli soukromí dítěte odstraní.

Ani nová opatření se však neobešla bez připomínek. Objevily se komentáře, které upozorňují, že sledování tisíců datových signálů pro odhad věku hraničí se zásahem do soukromí a vynalézaví teenageři ochranu dříve či později stejně obejdou. Pro firmu, která směřuje na burzu, jde však o pragmatický krok. OpenAI zároveň čelí rostoucímu právnímu a regulačnímu tlaku v USA i dalších zemích a otázka bezpečnosti AI pro děti se dostává stále více do popředí.