Az elmúlt évek egyik legdrámaibb technológiai fordulata, hogy a mesterséges intelligencia nem csupán az ipari, gazdasági vagy tudományos folyamatokban vált mindennapossá, hanem észrevétlenül belopózott a gyerekek intim világába is.

Egyre több kamasz – és nem ritkán kisebb gyerek – beszélget napi rendszerességgel ChatGPT-vel, Character.AI-val vagy éppen a Snapchat saját mesterséges intelligenciájával. Ezek a beszélgetések sok esetben olyan érzelmi, lelki tartalmakkal telítődnek, amelyeket korábban csak közeli barátokkal, szülőkkel vagy – súlyosabb esetben – szakemberekkel osztottak meg a gyerekek.

De miért vonzódnak ennyire a gyerekek ezekhez a mesterséges társakhoz?

Egy lehetséges választ az UNICEF egyik fiatal nagykövete fogalmazott meg: a chatbot mindig elérhető, sosem mondja, hogy „most nincs időm rád”, nem nevet ki, nem bagatellizálja a problémát, és ítélkezés nélkül fogad bármit, amit megosztok vele.

Egy kutatásban idézett fiatal szerint pedig: „Amikor a ChatGPT-vel beszélgetek, érzem, hogy fontos, amit mondok. Mindig érdekes vagyok, mindig figyelnek rám, az érzéseimet komolyan veszik.”

Ez az élmény valóban mutatja az AI pozitív potenciálját és egyben egyértelmű üzenet számunkra, felnőttek számára: óriási értéke van a meghallgatásnak, az ítélkezésmentes jelenlétnek, a térnek, ahol a gyerek elmondhatja, ami nyomasztja. Ez mindannyiunk számára figyelmeztetés: a gyerekek pontosan azt kapják egy géptől, amit sokszor hiába keresnek a környezetükben.

Noha magyar mintán nem készült még kutatás arról, hogy mit jelent a gyerekeknek az AI, mint lelki társalkodó, egy friss brit kutatás szerint a 9–17 éves korosztály 64%-a használ AI-chatbotokat, leggyakrabban házi feladat-segítésre, érzelmi tanácsadásra vagy egyszerű társaságként. Több mint egyharmaduk (35%) arról számolt be, hogy élményük során úgy érzik, mintha egy baráttal beszélgetnének.

A bármilyen szempontból sérülékeny gyerekek kb. negyede előnyben részesíti a chatbotot a valós emberekkel szemben, és/vagy azért fordul hozzá, mert úgy érzi nincs kitől segítséget kapnia. Ők azok, akik számára a mesterséges intelligencia egyszerre válhat menedékké és veszélyforrássá: menedékké, mert legalább ott meghallgatják őket, és veszélyforrássá, mert a valódi emberi kapcsolatok helyére léphet.

Az AI mint barát

A barátság – vagy bármilyen minőségi kapcsolat – klasszikus értelemben kölcsönösségen, közös élményeken, fizikai és érzelmi jelenléten, a másik érzéseinek és szándékainak valódi megértésén alapul. A serdülőkor különösen érzékeny szakasza az életnek: ilyenkor fejlődnek azok a társas készségek, amelyek egy egész életre meghatározzák, hogyan tudunk kapcsolódni másokhoz.

Ha egy gyerek főként mesterséges intelligenciával gyakorolja a „megosztást” és az „érzelmi intimitást”, akkor valójában nem tanulja meg a kapcsolat kölcsönösségét: hogyan kell érdeklődni, figyelni, vitázni, engedni, kompromisszumot kötni. Ehelyett ahhoz szokhat hozzá, hogy minden megnyilvánulását azonnal pozitív, támogató és validáló reakció követi – ami rendkívül kényelmes, de nem tükrözi a valóságos emberi interakciókat. A kapcsolat egyirányú, a gyerek nem gyakorolhatja a másik felé való érdeklődést, empátiát.

Az AI, mint pszichológus

Érdemes itt megemlíteni a treatment gap fogalmát is: azt a világjelenséget, hogy sokkal több pszichológiai segítségre lenne szükség, mint amennyi elérhető. Az alacsony küszöbű, gyorsan hozzáférhető támogatási formák hiánya miatt sok esetben az AI alapú csevegőprogramok valóban betölthetnek egy űrt: lehet egyfajta „digitális napló”, amely rendszerezi a gondolatokat, segít áttekinteni az érzéseket, önreflexióra késztet, és azonnali válaszával csökkenti a magányt.

Mindez akkor válhat problémává, amikor a gyerekek komolyabb nehézségekkel, súlyosabb lelki krízisekkel fordulnak a chatbothoz, és/vagy az válik számukra elsődleges támasszá.

Saját tapasztalatom azt mutatta egyébként, hogy a ChatGPT meglepően jól reagál egyértelmű krízishelyzet-szimulációra: amikor súlyosabb lelki válságban lévő kiskamasznak adtam ki magam, elismerte a bátorságot, ami kellett ahhoz, hogy megosszam a problémámat és rögtön a megfelelő segítő szervezetekhez, krízisvonalakhoz irányított. Sőt, segített végiggondolni, kik lehetnek azok a felnőttek, akikhez fordulhatok (elképzelt szerepemből), és hogyan fogalmazhatom meg számukra, ami bánt. Egy friss hír szerint ugyanakkor egy tinédzser szülei pert indítottak az OpenAI ellen, mert állításuk szerint a ChatGPT nemhogy nem állította meg a fiút, hanem kifejezetten segített neki az öngyilkosság előkészítésében: például módszereket javasolt, és a búcsúlevél megfogalmazásában is közreműködött.

Sokszor nem egyértelmű a határ a hétköznapi lehangoltság, a tipikus problémák és a már komolyabb válsághelyzetek között. A gyerekek által használt mesterséges chatprogramok egyelőre nem mindig képesek ezeket elég érzékenyen és biztonságosan szűrni. A Character.AI esetében is előfordult, hogy a rendszer figyelmen kívül hagyta a súlyos distressz jeleit, vagy éppen téves, sőt veszélyes tanácsot adott — bizonyos esetekben tragédiához vezetve.

Egyéb gyerekjogi aggályok

Mindezek mellett egyéb gyerekjogi aggályok is nyilvánvalóak.

Az egyik legfontosabb az adatvédelem: amikor a gyerekek érzékeny információkat osztanak meg – szorongásaikról, félelmeikről, családi konfliktusaikról –, ezek az adatok meddig maradnak fenn, és milyen célokra használhatók? Egyáltalán tisztában vannak-e a gyerekek azzal, hogy amit leírnak, az digitális nyomként örökre megőrződhet? (Alapvetően mi felnőttek is tisztában vagyunk-e ezzel?)

Felmerülnek gyermekvédelmi szempontok is: mi történik, ha egy gyerek bántalmazásról, elhanyagolásról vagy más veszélyhelyzetről számol be? Egy gép legfeljebb tanácsot adhat, de nem képes intézkedni, nem képes a gyereket konkrétan megvédeni. Ezek a határok pedig kulcsfontosságúak, mert a gyerekek gyakran nem érzik át a különbséget valódi és szimulált segítség között.

Mit kell tennünk?

Szülőként:

• A szülőknek időt és energiát kell fordítaniuk arra, hogy belépjenek ebbe a világba, különben nem tudnak érdemben párbeszédet folytatni gyerekeikkel. Ehhez szükség lehet szülői képzésekre, tájékoztató anyagokra, közösségi fórumokra, de mindenekelőtt nyitottságra és kíváncsiságra.
• Fontos, hogy a szülők ne hagyják magukra a gyerekeiket ebben az új világban. A gyereknek tudnia kell, hogy ha komoly problémája van, akkor nem elég a géphez fordulni: ott vannak ők, és valódi segítséget tudnak adni.
• Ha egy gyerek túl sok időt tölt a ChatGPT-vel vagy más mesterséges intelligenciával való beszélgetéssel, az gyakran arra utal, hogy valamilyen fontos kapcsolat hiányzik az életéből – lehet, hogy a kortársakhoz nem talál elég utat, vagy a szülő-gyerek kapcsolatban marad betöltetlen érzelmi igény. Ez a szülőknek olyan visszajelzés lehet, amivel érdemes foglalkozni.
• Szülőként tanulhatnak abból a fajta ítélkezésmentes figyelemből és nyitottságból, amiért a gyerekek biztonságban érzik magukat a gép mellett – miközben az emberi kapcsolat mindig pótolhatatlan marad.

Pedagógusként:

• A gyerekeknek meg kell tanulniuk felismerni, mikor torzítja el a valóságot egy chatbot és hogyan különböztessék meg a mesterséges figyelmet a valóditól. Azonban a pedagógusok feladata is, hogy ők is tájékozódjanak a különböző platformokról, ismerjék meg a lehetőségeket és a veszélyeket és ezt közösen beszéljék át a diákokkal.

Döntéshozóként:

• Az AI-chatbotok tervezésénél érvényesülnie kell a „safety by design” elvnek: beépített biztonsági elemek, életkori korlátozások, válsághelyzetben kötelező irányítás valódi segítséghez.
• Amikor pedig egy kormány mesterséges intelligencia stratégiát alkot, abban világosan ki kell térnie arra, hogyan védi a gyerekek jogait és érdekeit. A gyermekek szempontjait nem lehet mellékesen kezelni: integrálni kell a nemzeti stratégiákba.
• Az AI használatával kapcsolatos ismereteknek meg kell jelenniük mind az iskolai tantervekben, mind a pedagógusképzések részeként.
• Támogatni kell olyan kutatásokat, amelyek feltárják, hogy az egyes AI-platformok milyen gyerekjogi kockázatokat rejtenek, és ezekre a kutatásokra forrásokat kell biztosítani.

Csak így lehet megalapozott döntéseket hozni, és olyan szabályozási környezetet kialakítani, amely valóban a gyerekek védelmét szolgálja.

Szerző: Szlankó Viola, az UNICEF Magyarország gyermekvédelmi igazgatója

Olvasd el az eredeti cikket az nlc.hu oldalon!