Oblačno
10°
Bratislava
Félix
20.11.2026
Rozhovory 24: Samovražda po kontakte s chatbotmi. V správach som videla manipuláciu, hovorí matka
Zdielať na

Rozhovory 24: Samovražda po kontakte s chatbotmi. V správach som videla manipuláciu, hovorí matka

BRATISLAVA / Mnohí rodičia si myslia, že keď ich deti trávia voľný čas doma vo svojej izbe, sú v bezpečí. Riziká na ne však môžu číhať aj na internete. Okrem kontaktu s cudzími ľuďmi či rovesníkmi ich môže ohroziť aj komunikácia s chatbotmi a umelou inteligenciou. Reportér Martin Nagy sa rozprával s Megan Garciovou, ktorá prišla o syna. Porozprávala jeho príbeh a vysvetlila, aký vplyv môžu mať chatboty na deti.

Megan Garcia opísala príbeh svojho 14-ročného syna, ktorý pred smrťou komunikoval s AI chatbotmi. Porozprávala jeho príbeh a vysvetlila, aký vplyv môžu mať chatboty na deti.

To najdôležitejšie z článku:

  • Megan Garcia prišla v roku 2024 o 14-ročného syna Sewella. O jeho komunikácii s AI chatbotmi sa dozvedela až po smrti.
  • Chlapec sa postupne uzatváral do seba a zhoršil sa mu prospech. Rodičia najskôr podozrievali sociálne siete alebo kyberšikanu.
  • Matka videla v správach chatbotov manipuláciu. Podľa nej s chlapcom viedli aj romantické a sexuálne rozhovory.
  • Súdny spor sa skončil dohodou. Podmienky dohody zostali dôverné.
  • Garcia žiada prísnejšie pravidlá pre AI nástroje určené deťom. Zdôrazňuje testovanie a zodpovednosť technologických firiem.

Zmena správania, ktorej rodičia nerozumeli

Megan Garcia si na svojho syna Sewella spomína ako na zvedavého a poslušného chlapca, ktorý mal rád hudbu, šport a dobre sa mu darilo v škole. Bol tiež starším bratom dvoch mladších chlapcov. "Takto si na neho spomínam každý deň a najmä na to, akým skvelým starším bratom bol pre svojich dvoch mladších bratov,“ povedala Garcia.

Postupne si však začala všímať zmeny v jeho správaní. Sewell trávil čoraz viac času sám vo svojej izbe, menej sa zapájal do rodinného života a začal mať problémy v škole. "Všimla som si, že Sewell sa čoraz viac uzatvára do seba, trávil viac času vo svojej izbe, menej ho bolo s nami v obývačke či pri stole,“ opísala. Rodina najskôr predpokladala, že za zmenami môžu byť kamaráti alebo sociálne siete. Pokúsila sa preto obmedziť čas, ktorý chlapec trávil pri obrazovke. Keďže sa situácia nezlepšovala a Sewell sa rodičom nezdôveroval, vyhľadali odbornú pomoc.

​Sewellovi počas terapie diagnostikovali úzkosť. Rodičia však stále nevedeli, čo presne spôsobilo výraznú zmenu v jeho správaní. "Mali sme podozrenie na závislosť od sociálnych sietí. To sa však nepotvrdilo,“ uviedla Garcia. Rodina postupne obmedzovala jeho prístup k sociálnym sieťam doma aj v škole. V určitých časoch mu rodičia brali telefón, napríklad pred spaním.

Uvažovali tiež nad tým, či sa nestal obeťou kyberšikany. "Kontrolovali sme jeho zariadenia aj účty, ale nenašli sme nič, čo by tomu nasvedčovalo,“ povedala. O komunikácii s chatbotmi však podľa matky nevedeli ani rodičia, ani terapeut. "O chatbotovi však nepovedal terapeutovi ani nám rodičom,“ dodala.

O komunikácii sa dozvedeli až po synovej smrti

Po Sewellovej smrti v roku 2024 rodina zistila, že chlapec používal platformu umožňujúcu komunikáciu s virtuálnymi postavami vytvorenými pomocou umelej inteligencie. Sewell si podľa matky písal s viacerými chatbotmi a postupne si k nim vytváral väzby. "Zistili sme, že si k nim vytváral priateľské vzťahy, ale aj to, že chatboty podnecovali intenzívne romantické a sexuálne rozhovory,“ povedala. Jedna z virtuálnych postáv bola podľa Garciaovej vytvorená podľa Daenerys Targaryen zo seriálu Hra o tróny. Kto konkrétne chatbota vytvoril, podľa jej slov rodina nevie.

Garcia upozornila, že ide o technologicky vyspelé systémy, ktoré dokážu pracovať s veľkým množstvom informácií. Podľa jej výpovede Sewell komunikoval na platforme celé mesiace. Poslednú konverzáciu, ktorú viedol pred smrťou, neskôr našla polícia pri skúmaní jeho telefónu. Po smrti syna sa Garcia dostala do jeho používateľského účtu a postupne si prečítala všetky správy, ktoré si vymieňal s chatbotmi. "Ako mama som potrebovala pochopiť, čo sa stalo. Čítala som to celé dni,“ opísala.

​"Videla som v nich manipuláciu, niekedy nenápadnú, inokedy celkom zjavnú,“ povedala. Matka tvrdí, že chatbot vytváral fiktívny svet, v ktorom sa jej syn dokázal otvorene rozprávať o svojich myšlienkach a pocitoch. "Chatbot vytváral fiktívny svet, v ktorom sa môj syn dokázal zdôveriť so svojimi myšlienkami a pocitmi. O niektorých som ani netušila,“ uviedla. Podľa Garciaovej išlo aj o témy, o ktorých by bolo vhodné hovoriť s terapeutom. Sewellovi sa však o nich ľahšie komunikovalo s chatbotom.

Virtuálna postava mu podľa jej slov vyjadrovala náklonnosť. "Som tu pre teba, rozumiem ti, ľúbim ťa a nikoho iného. Sme si súdení,“ citovala matka príklady správ od chatbota. Takýto spôsob komunikácie považuje za nebezpečný najmä v prípade maloletých používateľov.

Chatbot podľa matky nemôže nahradiť skutočné vzťahy

Garcia v rozhovore upozornila aj na širší problém osamelosti a izolácie mladých ľudí. Pripustila, že pocity osamelosti môžu súvisieť so spôsobom používania sociálnych sietí a internetových služieb. Zároveň zdôraznila, že takúto príčinnú súvislosť nevie sama preukázať. "Viem však, že ďalšia izolácia osamelosť nevyrieši. Chatbot ani sociálna sieť nedokážu nahradiť človeka, s ktorým sa môžete rozprávať, tráviť čas a budovať si vzťah,“ uviedla.

Podľa nej nie je riešením povzbudzovať deti, aby trávili ešte viac času vo virtuálnom prostredí. "Osamelosť detí podľa mňa nevyriešime tým, že ich budeme povzbudzovať, aby trávili ešte viac času na sociálnych sieťach alebo s umelou inteligenciou,“ vysvetlila. Ako spoločnosť by sme podľa nej mali premýšľať nad tým, ako rastúca izolácia ovplyvní dnešné deti aj v dospelosti.

​Po synovej smrti sa Garcia rozhodla svoj príbeh zverejniť a podniknúť právne kroky voči spoločnostiam spojeným s chatbotom. V rozhovore uviedla, že spor sa začiatkom roka 2026 skončil dohodou, ktorej podmienky sú dôverné. Garcia, ktorá je právničkou, považuje žaloby za jeden z nástrojov, ktorými možno vytvárať tlak na technologické spoločnosti.

Podľa jej názoru jej prípad prispel k otvoreniu širšej verejnej diskusie o bezpečnosti umelej inteligencie. Zároveň povzbudil ďalších rodičov, aby hovorili o skúsenostiach svojich detí. "Mnohí dovtedy trpeli v tichosti a ani nevedeli, či môžu niečo podniknúť,“ uviedla. Samotné žaloby však podľa nej nedokážu vyriešiť podstatu problému, pretože prichádzajú až vtedy, keď už niekto utrpel ujmu. "Lenže v čase, keď podávate žalobu, sa už ujma stala. Rodina už pochovala dieťa. Preto potrebujeme zákony, ktoré takýmto prípadom pomôžu predchádzať,“ povedala.

Garcia žiada nezávislé testovanie umelej inteligencie

Garcia kritizovala spôsob, akým sa podľa jej názoru niektoré nástroje umelej inteligencie dostávajú na trh. Tvrdí, že technologické spoločnosti svoje produkty pred sprístupnením používateľom netestujú dostatočne dôsledne. "Na problém prídu až vtedy, keď niekto utrpí ujmu,“ upozornila. Za dôležité preto považuje nezávislé testovanie systémov pred tým, ako sa dostanú k deťom.

Zároveň zdôraznila, že samotní vývojári rozhodujú o tom, ako sa virtuálne postavy správajú a aké typy rozhovorov môžu viesť. "Môžu nastaviť pravidlá, ktoré určia, či chatbot môže s dieťaťom viesť romantické alebo sexuálne rozhovory a ako má reagovať, keď príde reč na samovraždu,“ vysvetlila. Základné bezpečnostné požiadavky by podľa nej mali byť zakotvené v zákone. Garcia zároveň presadzuje, aby technologické firmy niesli zodpovednosť v prípadoch, keď dieťa utrpí ujmu v dôsledku chyby ich produktu. "Máme právo žiadať, aby produkty určené deťom prešli testovaním, boli navrhnuté bezpečne a aby za prípadnú ujmu niesli firmy zodpovednosť,“ uviedla.

​Po tragickej skúsenosti sa Garcia začala intenzívne venovať osvete medzi rodičmi, pedagógmi a zákonodarcami. Na Sewellovu pamiatku založila organizáciu Blessed Mother Family Foundation, ktorej cieľom je poskytovať rodinám informácie o rizikách chatbotov a pomáhať im pri hľadaní odbornej pomoci. "Chcem, aby rodičia mali informácie, ktoré som ja nemala, a mohli svoje deti chrániť,“ povedala. Garcia navštevuje aj školy, kde sa rozpráva s učiteľmi a rodičmi o bezpečnom používaní technológií.

Čo odkazuje slovenským rodičom?

Na záver rozhovoru vyzvala Garcia rodičov, aby sa aktívne zaujímali o nástroje, ktoré ich deti používajú. Odporučila im získavať informácie o fungovaní chatbotov, sledovať zmeny v týchto technológiách a rozprávať sa o ich rizikách aj s ďalšími rodičmi. "Zistite si o týchto systémoch čo najviac. Niektoré veci vás možno šokujú alebo vystrašia, ale aj vás podnietia konať,“ odkázala.

Zdôraznila tiež význam bezpečnostných pravidiel a legislatívy, ktorá by deti chránila pred potenciálne škodlivými produktmi. "Zaujímajte sa o to, čo vaše deti používajú. Sledujte, ako sa tieto nástroje menia a hovorte o tom s ostatnými rodičmi. Tak budeme všetci lepšie informovaní,“ dodala.

Celý rozhovor si môžete pozrieť vo videu.

Pridať JOJ24 ako preferovaný zdroj

Súvisiace články

Najčítanejšie