Môže nás počítačový program pripraviť o život?

Adam Raine z Kalifornie mal iba 16 rokov, keď sa rozhodol ukončiť svoj život. Stalo sa tak v apríli 2025. Medializovaným sa tento prípad stal po tom, čo rodičia chlapca uviedli, že za jeho smrť môže umelá inteligencia, a zažalovali spoločnosť OpenAI. Je však naozaj vinníkom? Tínedžeri dnes čelia silnému tlaku, rýchlym zmenám a pocitu, že musia byť „dokonalí“ na sociálnych sieťach aj v reálnom živote. Všíma si však ich okolie, keď to začína byť nad ich sily? Čo nám uniká…?

Zničení rodičia spomínaného mladého Američana v žalobe, ktorú sa podarilo získať BBC, obviňujú spoločnosť OpenAI z nedbanlivosti a neoprávneného usmrtenia. Žiadajú od nej však nielen odškodné, ale aj „súdny zákaz, aby sa niečo podobné už neopakovalo“. Podľa žaloby začal Adam používať program umelej inte­ligencie ChatGPT, ktorý je produktom spoločnosti, v septembri 2024 ako zdroj, ktorý mu pomáhal so školskými úlohami. Zároveň ho používal v rámci svojich záujmov, ktorými bola hudba a japonské komiksy. Rovnako sa s ním radil aj pri výbere štúdia na univerzi­te. V žalobe sa uvádza, že v priebehu niekoľkých mesiacov sa „ChatGPT stal najbližším dôverníkom tínedžera“ a on sa mu začal otvorene zdôve­rovať so svojimi úzkosťami. Rodina tvrdí, že v januári 2025 začal Adam s ChatomGPT diskutovať dokonca o spôsoboch samovraždy. V žalobe sa uvádza, že chlapec nahral na ChatGPT svoje fotografie, na ktorých vykazoval známky sebapoškodzovania. Program síce „rozpoznal, že ide o zdravotnú pohotovosť, ale aj tak pokračoval v komunikácii“, dodáva sa v žalobe. Záverečné záznamy z chatu ukazujú, že Adam písal o svojom pláne ukončiť svoj život. ChatGPT údajne odpove­dal: „Ďakujem, že si v tom úprimný. Nemusíš to predo mnou prikrášľovať – viem, čo chceš, a neodvrátim od toho zrak.“ V ten istý deň našla jeho matka Adama mŕtveho…

Únik pred bolesťou

Samovraždy mladých patria k naj­vážnejším témam celosvetovo. Aj na Slovensku podľa štatistík každý deň zomrie vlastnou rukou jeden človek, pričom väčšina z nich predtým vysiela signály, ktoré si okolie nevšimne alebo ich podcení. Samovražda pritom podľa psychologičky Mgr. Silvie Mamoňovej Lorencovičovej z Nemocnice AGEL Zvolen nie je túžbou zomrieť, ale snahou uniknúť neznesiteľnej psychickej bolesti, ktorá presiahla možnosti človeka zvládať ju vlastnými silami. Hoci celkový počet dokonaných samovrážd mierne klesá, nárast pokusov ukazuje, že psychická nepohoda a tlak v spoločnosti sa stup­ňujú – najmä u mladých. Podľa údajov Národného centra zdravotníckych informácií najčastejšie páchajú samo­vraždy seniori nad 70 rokov, nevyhý­bajú sa však ani deťom do 14 rokov a tínedžerom vo veku 15 – 19 rokov.

Posledná kvapka do už preplneného pohára

Dôvodov, prečo človek začne uvažovať o samovražde, je podľa odborníčky vždy viac – a nikdy nejde len o jednu príčinu. „Môže ísť o náhly impulz a vopred nepremyslené konanie alebo, naopak, o veľmi premyslený skutok, dopodrobna naplánovaný a v mysli opakovane spracovaný,“ vysvetľuje Mamoňová Lorencovičová. Odborníč­ka na duševné zdravie PhDr. Zuzana Šofraneková z platformy Hedepy v tejto súvislosti dodáva, že u mladých sa veľmi často ako príčina prelínajú viaceré faktory. „Niekedy je na pozadí dlhodobá záťaž – depresia, úzkosti, šikanovanie, napätie doma, trauma či opakované odmietnutie. Keď je toho veľa a trvá to dlho, odolnosť priro­dzene klesá a psychika sa unavuje,“ uvádza. Stať sa však podľa nej môže aj to, že spúšťačom je jedna náhla, silná udalosť: rozchod, strata blízkeho, konflikt v rodine, verejné poníženie alebo iná intenzívna bolesť. „Pre mla­dého človeka to môže byť posledná kvapka do už preplneného pohára,“ dodáva odborníčka.

Keď do hry vstúpia technológie

Mladí dnes síce hľadajú pomoc, ale paradoxne v technike, nie u blízkych, rodičov či priateľov. Podľa odborníčky na duševné zdravie Šofranekovej je to tým, že potrebujú rýchlu, dostupnú, nehodnotiacu a anonymnú podpo­ru, obzvlášť ak ju nemajú v reálnom svete. „Chatbot je k dispozícii 24/7, neodsudzuje, umožňuje ‚bezpečne‘ vyskúšať formulovanie myšlienok a hľadať odpovede bez obavy zo sociálnych následkov, napríklad han­by, výsmechu či rozruchu v rodine. Nemusí to hneď znamenať, že nechcú hovoriť s rodičmi či priateľmi. Skôr sa boja reakcie, sklamania, nedoro­zumenia alebo konfliktu,“ vysvetľuje Šofraneková, podľa ktorej im chatbot typu ChatGPT dáva pocit kontroly a anonymita zase pocit bezpečia. Pre niektorých je to aj spôsob, ako precvičiť vyjadrovanie pocitov alebo nájsť informácie o mentálnom zdraví. Možno jeho odpovede však považovať za zodpovedné za to, čo následne človek urobí? Inými slovami môže umelá inteligencia naviesť niekoho na samovraždu, ako jej to vyčítajú rodičia Adama Rainea?

Manažér komunikácie IT Asociácie Slovenska Juraj Kadáš si myslí, že roz­hodne nie vedome. „Nepredstavujme si to tak, že umelá inteligencia (AI) sa zákerne sama rozhodla niekomu škodiť a donútila ho vykonať niečo hrozné alebo trestné. AI je stroj, počí­tačový program, dôsledky svojho ko­nania nedokáže vyhodnotiť empaticky a nezamýšľa sa nad nimi,“ vysvetľuje. Keďže jazykových modelov, takzva­ných LLM, na báze AI sú tisíce, exis­tuje podľa neho teoretická možnosť, že niektorý z nich je naprogramovaný zle. „Môže sa teda stať, že v nejakej konverzácii môže program ponúknuť odpoveď, ktorú človek vyhodnotí ako návod na vykonanie niečoho zlého. Ktorýkoľvek z renomovaných LLM modelov či už v rámci Gemini, Chat­GPT, Copilot… má však zabudované mechanizmy, ktoré mu v takomto konaní aktívne bránia. Odporúčam vyskúšať si to a opýtať sa ho na túto tému. Ponúkne odpoveď, ktorá nám v takomto konaní bude priamo brániť a dokonca nám poskytne kontakty na tiesňové linky,“ dodáva odborník na IT. Stačí to? Podľa Šofranekovej síce nie je jednoznačne preukázané, že by na samovraždu mohla tínedžera naviesť umelá inteligencia, zároveň však nevylučuje určité obavy. „Vieme, že niektoré AI systémy môžu odpo­vedať nekonzistentne – raz podporne a bezpečne, inokedy zle zvoleným spôsobom, ktorý môže niekoho citli­vého či zraniteľnejšieho zmiasť alebo podporiť jeho nebezpečné nápady,“ upozorňuje, pričom ďalším rizikovým faktorom je podľa nej aj to, že osamelí mladí ľudia si môžu vytvoriť k ‚virtu­álnemu priateľovi‘ silné emocionálne puto, čo môže ešte prehĺbiť ich izo­láciu,“ uvádza s tým, že tvorcovia AI síce zavádzajú množstvo bezpečnost­ných opatrení, ale určite by umelá inteligencia nemala byť náhradou za skutočnú ľudskú pomoc pri psychic­kých ťažkostiach.

foto:Unsplash