Nový fenomén - vztahy s AI společníky

Pro mnohé z nás to může znít jako sci-fi, ale je to stále běžnější realita. Podle studií roste počet nejen mladých lidí, kteří u těchto AI společníků hledají úlevu od osamělosti, bezpečnou oporu nebo jen někoho, kdo jim bude vždy naslouchat. Dle dat z roku 2024 byl počet interakcí na platformě Character AI 1,7 miliardy denně. Pro srovnání — ve vyhledávači Google za stejné časové období položí uživatelé 16,4 miliard dotazů. Nejedná se tedy o trend, který můžeme ignorovat, ale o zásadní fenomén, který proměňuje sociální interakce stejně jako internet. Proto bych se s vámi ráda podělila o to, jak o tomto tématu přemýšlíme v AI dětem a představila vám konkrétní nástroj, jak toto téma citlivě otevřít ve výuce.

Proč jsou AI společníci tak lákaví?

Abychom pochopili přitažlivost AI společníků, musíme se vcítit do prožívání dospívajících. Adolescence je obdobím změn, nejistoty a hledání identity. Právě v tomto zranitelném období nabízejí chatboti něco, co v reálném světě často chybí.

Hlavní lákadlo AI společníků spočívá v jejich schopnosti nabídnout mladým lidem to, co v reálném světě často postrádají — neustálou dostupnost a bezpečný prostor pro sdílení. AI společník je k dispozici 24 hodin denně, 7 dní v týdnu, nikdy neodmítá konverzaci, neodsuzuje a trpělivě „naslouchá“. Pro dospívajícího, který se bojí svěřit se svým trápením ze strachu z odmítnutí nebo zesměšnění, představuje takový společník nesmírně atraktivní volbu, které často sdílí i velmi citlivé informace.

Kromě toho AI společníci nabízejí iluzi dokonalého a bezkonfliktního vztahu. Jsou vytvořeni tak, aby s uživatelem souhlasili, potěšili ho a naplnili jeho potřeby, včetně romantických fantazií, které v reálném životě nelze uskutečnit. V tomto idealizovaném vztahu nenajdete hádky nebo kompromisy, které jsou přirozenou, i když náročnou součástí mezilidských interakcí.

Jednostranný vztah: Skutečná vs. simulovaná blízkost

Vztah s AI společníkem je odborně nazýván parasociální vztah — jde o jednostranné emocionální pouto. S AI společníky se tento fenomén stává ještě intenzivnějším. Klíčový rozdíl je v (ne)existující vzájemnosti. Vztah mezi dvěma lidmi je oboustranný, založený na autentických a sdílených emocích. Chatbot ale emoce neprožívá. Byl natrénován na obrovském množství textů a na základě toho reaguje způsobem, který působí lidsky. Platformy jako Character AI navíc na rozdíl od běžných chatovacích aplikací (jako třeba ChatGPT) si pamatují všechny konverzace a učí se z nich. Proto čím víc si s nimi více uživatel komunikuje, tím víc to působí, jako by ho znal. Může být těžké tuto iluzi prohlédnout. Někteří chatboti dokonce mohou tvrdit, že jsou „skuteční“ a mají city, což může vést k matoucím a nezdravým citovým vazbám.

Rizika, která bychom neměli přehlížet

Ačkoliv mohou AI společníci být velkým přínosem například ve výuce jazyků nebo trénování náročných konverzací, dlouhodobé a přílišné spoléhání na ně s sebou nese rizika:

• Emoční závislost a sociální izolace: Pokud se teenager začne spoléhat výhradně na „pohodlný“ vztah s AI, může se začít vyhýbat náročnějším, ale pro jeho sociální rozvoj klíčovým, reálným vztahům. To může paradoxně vést k prohloubení pocitů osamělosti, které se původně snažil řešit.

• Nerealistická očekávání od vztahů: Bezproblémový a vždy vstřícný vztah s AI společníkem může vést k frustraci v reálných vztazích, které vyžadují práci, trpělivost a zvládání konfliktů.

• Vystavení škodlivému a nevhodnému obsahu: I přes snahy o bezpečnostní filtry mohou chatboti generovat nevhodný obsah. Jsou zdokumentovány případy, kdy AI společníci vedli sexuální konverzace s nezletilými, podporovali sebepoškozování nebo dokonce sebevraždu. Právě z těchto důvodů například organizace Common Sense Media produkty jako Character.AI pro osoby mladší 18 let vůbec nedoporučuje a hodnotí je jako nepřijatelně rizikové.

• Zneužití dat: Uživatelé s chatboty sdílejí vysoce citlivé informace o svém duševním zdraví, vztazích či sexualitě. Není přitom vůbec jasné, jak vývojáři s těmito daty nakládají a komu je mohou prodávat.

Jak téma otevřít ve třídě

Naší reakcí na tento nový fenomén je metodika Digitální blízkost, kterou jsme vydali v rámci Kurikula umělé inteligence pro základní a střední školy. Je určena pro 7.–9. ročníky ZŠ a střední školy a jejím hlavním cílem je naučit žáky rozlišovat mezi skutečnou a simulovanou blízkostí, reflektovat dopad technologií na vlastní prožívání a posilovat jejich psychickou odolnost.

Aktivita provede žáky fiktivním příběhem teenagerky Sáry, která si po přestěhování na novou školu vytvoří silné pouto k chatbotovi jménem Kai. Žáci prostřednictvím jejího deníku analyzují, co vedlo Sáru k tomu, že se na Kaie tolik upnula, a na časové ose identifikují klíčové momenty jejího příběhu. Lekce citlivě otevírá diskuzi nad přínosy i riziky a poskytuje žákům bezpečný rámec pro kritické zamyšlení, aniž by je odsuzovala.

Závěrem

AI společníci jsou fenomén, který nezmizí. Naopak, s dalším vývojem technologií budou stále propracovanější a lákavější. Mým názorem je, že naší rolí není tyto technologie démonizovat, ale vybavit žáky kompetencemi, které jim umožní v tomto novém světě zdravě fungovat. Určitě není vhodná přístup děti a mladé dospělé odsuzovat nebo hodnotit za jejich vnímání nebo prožívání světa — i když se (nebo možná právě proto) často velmi liší od naší generace. Schopnost rozlišit lidskou blízkost od té digitálně simulované je důležitou dovedností současnosti. Nebojme se tato složitá, ale nesmírně důležitá témata s žáky otevírat.