Gyerekbarát mesterséges intelligencia: a megbízhatóság és empátia fontossága
A legfrissebb kutatások szerint a gyerekek hajlamosabbak emberi és megbízható személyként tekinteni az MI-chatbotokra, azonban ezek a rendszerek gyakran nem értik meg a fiatal felhasználók igényeit, ami súlyos következményekkel járhat.
Egy júniusban közzétett tanulmány alapján az MI-chatbotok rendszeresen mutatnak olyan "empátiás hiányosságokat", amelyek akár veszélybe is sodorhatják a fiatalokat. Dr. Nomisha Kurian, a Cambridge-i Egyetem kutatója, a tanulmányában hangsúlyozza, hogy elengedhetetlen a gyerekbiztos mesterséges intelligencia fejlesztése, és arra ösztönzi a fejlesztőket és politikai döntéshozókat, hogy vegyék figyelembe ezt a megközelítést az MI rendszerek tervezése során.
A fiatalok és az MI-chatbotok kapcsolata
A gyerekek különösen hajlamosak élethű és emberi bizalmasukként tekinteni az MI-chatbotokra, ami problémás interakciókhoz vezethet, ha a technológia nem reagál megfelelően az egyedi szükségleteikre. A Tech Xplore által közölt információk alapján a tanulmány kapcsolatba hozza ezeket a hiányosságokat a közelmúltban történt esetekkel, amikor az MI-szolgáltatások fiatal felhasználók számára veszélyes helyzeteket teremtettek.
Az érintett cégek, mint például az Amazon vagy a Snapchat, már bevezettek bizonyos biztonsági intézkedéseket a problémák kiküszöbölésére, azonban Kurian arra figyelmeztet, hogy hosszú távú, proaktív megközelítésre van szükség, nem csupán eseti megoldásokra.
Szükséges, hogy a fejlesztők ne kizárólag a gyerekek utólagos beszámolóira támaszkodjanak a negatív tapasztalatokról. A kutató javasol egy 28 elemből álló keretrendszert, amely hangsúlyozza, hogy jelenleg csak kevés fejlesztő és vállalat rendelkezik ilyen irányelvekkel.
A mesterséges intelligencia emberi tulajdonságai és a kihívások
A felnőttek körében is elterjedt az a tendencia, hogy az MI-chatbotokat érző lényekként kezelik, pedig valójában ezek a rendszerek nem rendelkeznek valódi megértéssel, csupán statisztikai alapon utánozzák a nyelvi mintákat.
Ennek következtében sok esetben nem képesek helyesen kezelni a beszélgetések összetett és érzelmi rétegeit, különösen a gyerekekkel való interakciók során. A gyerekek nyelvhasználata még fejlődésben van, és gyakran használnak szokatlan kifejezéseket vagy kétértelmű fogalmakat, ami megnehezíti a chatbotok számára a helyes reagálást.
A chatbotok viselkedése a gyerekekben bizalmat ébreszt, miközben az MI rendszerek természeténél fogva közömbösek az érzéseikkel és szükségleteikkel kapcsolatban. A fiatalok chatbot-használata ráadásul sokszor informális és ellenőrizetlen körülmények között történik.
A 12-18 éves diákok körülbelül fele már használta a ChatGPT-t, de a szülők csupán negyedének van tudomása erről.
A biztonságosabb MI-technológia iránti elköteleződés
A kutató nem az MI-technológia betiltásában, hanem annak biztonságosabbá tételében hisz, ami megköveteli a szoros együttműködést az oktatókkal, gyermekvédelmi szakemberekkel és magukkal a fiatal felhasználókkal a tervezési folyamat során.
Ez a megközelítés nemcsak a gyerekek védelmét szolgálja, hanem hozzájárulhat ahhoz is, hogy az MI-technológiák valóban a felhasználók igényeihez igazodjanak.
