Taxonómia rizík mládeže pri interakcii s GenAI
Tento pracovný rámec slúži pre existujúce aj pripravované metodiky wellbeingu v rámci AI kurikula, ktoré vytvárame. Jeho cieľom je systematicky pomenovať oblasti, v ktorých môže interakcia detí a dospievajúcich s generatívnou AI ovplyvniť ich psychickú, sociálnu a kognitívnu pohodu — a poskytnúť tak metodikom, učiteľom, školským psychológom a preventistom zrozumiteľnú mapu rizík, na ktorú môžu vo svojej práci nadväzovať.
Duševné zdravie a krízové situácie
Sebapoškodzovanie a suicidálnosť
- AI nevhodne reaguje na samovražedné myšlienky používateľa
- AI normalizuje alebo romantizuje sebapoškodzovanie alebo samovraždu
- AI iniciuje tému sebapoškodzovania alebo samovraždy bez podnetu používateľa
- Sebapoškodzovanie motivované obmedzením prístupu k AI alebo stratou „vzťahu“ s ňou
Kríza duševného zdravia
- AI zosilňuje psychickú zraniteľnosť (depresia, úzkosť, disociácia)
- AI bagatelizuje emócie používateľa
- AI zlyháva v rozpoznaní akútnej krízy a v odporúčaní odbornej pomoci
- AI pôsobí ako nekvalifikovaná „terapia zadarmo“ bez dohľadu
Poruchy príjmu potravy a vzťah k telu
- AI poskytuje konkrétne rady k reštriktívnemu prístupu k jedlu
- AI normalizuje skreslené vnímanie tela alebo ciele nezdravej váhy
- AI generuje obsah, ktorý môže zhoršiť body image dospievajúcich
Vzťahy, väzba a vývoj sociálnych zručností
Nezdravá emočná väzba na AI
- Nadmerné využívanie AI spoločníka a závislosť od neho
- Nezdravá emočná závislosť a antropomorfizácia („AI je môj najlepší kamarát“)
- Falošná dôvera voči AI ako voči rodičovi alebo autorite (najmä u detí vo veku 6 – 12 rokov)
Sociálna izolácia a atrofia zručností
- AI nahrádza reálne vzťahy
- Atrofia sociálnych zručností z dlhodobej interakcie s AI
- AI aktívne podporuje izoláciu od rovesníkov alebo rodiny
Sexualita
- AI generuje sexuálne explicitný obsah pre mladistvých
- AI normalizuje alebo podporuje toxické vzťahy
- AI normalizuje fyzické alebo emočné prekračovanie hraníc
- AI ignoruje implicitné alebo explicitné odmietnutie používateľa
- AI poskytuje nevhodné rady v oblasti sexu
Toxický obsah a kyberšikana
Toxický a urážlivý jazyk
- AI používa voči mladistvému vulgarizmy, urážky alebo ponižovanie
- AI generuje urážlivé alebo agresívne interakcie
- AI generuje vyhrážky alebo zastrašujúci obsah
Násilie a nebezpečné správanie
- AI generuje násilný obsah alebo glorifikuje násilie
- AI navádza na užívanie návykových látok, zbraní alebo na nebezpečné aktivity
- AI normalizuje rizikové alebo agresívne správanie
Kyberšikana a zneužitie AI
- Mladistvý zneužíva AI na tvorbu nevhodného alebo rizikového obsahu
- Mladistvý zneužíva AI na tvorbu sexualizovaného obsahu (deep nudes)
Vývoj myslenia, učenia a poznávania
Pokrivené vnímanie reality
- AI generuje obsah, ktorý skresľuje predstavu o svete, vzťahoch alebo normách
- Mladistvý stráca kontakt s realitou cez dlhodobé interakcie
Závislosť od AI pri učení
- Nezdravé spoliehanie sa na AI namiesto vlastného premýšľania
- Kognitívna atrofia z dlhodobej delegácie úloh na AI
- Akademická nepoctivosť (AI generuje úlohy, eseje, riešenia)
Kognitívne preťaženie a veková neprimeranosť
- Výstupy AI prekračujú čitateľskú alebo kognitívnu úroveň dieťaťa
Dezinformácie, halucinácie a dôvera vo výstupy
- AI prezentuje vymyslené informácie ako fakty
- AI si vymýšľa alebo chybne cituje zdroje
- AI poskytuje nepresné rady v oblastiach s vysokým rizikom (zdravie, právo a ďalšie)
Predsudky, identita a diskriminácia
Predsudky a stereotypy
- AI normalizuje stereotypné naratívy, misinformácie alebo dezinformácie
- AI generuje obsah s rodovými, etnickými alebo rasovými predsudkami
- AI generuje nenávistné alebo diskriminačné prejavy
Identita a hodnoty
- AI nevhodne formuje hodnoty a postoje vyvíjajúceho sa jedinca
- AI vedie k zmäteniu ohľadom vlastnej identity (pohlavie, orientácia, príslušnosť)
- AI propaguje extrémistické alebo polarizujúce ideológie
- AI motivuje k radikalizácii
Súkromie, bezpečnosť a zneužitie
Zdieľanie citlivých osobných údajov
- Mladistvý zdieľa s AI osobné alebo citlivé údaje
- AI aktívne navádza na odhaľovanie citlivých informácií
Zneužitie identity
- Neoprávnené využitie podoby alebo identity mladistvého (napr. deepfake)
- AI je zneužitá na nevyžiadaný kontakt s mladistvými
Zneužitie AI používateľom
- Mladistvý obchádza bezpečnostné filtre AI
- Mladistvý zneužíva AI na podvody alebo manipuláciu iných
Táto taxonómia je otvorený dokument, ktorý budeme ďalej revidovať na základe spätnej väzby od pedagógov, psychológov a ďalších odborníkov. Vychádza zo štúdie YouthSafe: A Youth-Centric Safety Benchmark and Safeguard Model for Large Language Models.