Az OpenAI új biztonsági frissítést jelentett be a ChatGPT-hez, miután belső adatelemzésük megdöbbentő arányokat tárt fel: hetente több mint egymillió ember beszél a mesterséges intelligenciával öngyilkossági gondolatairól vagy terveiről. A vállalat szerint a fejlesztés célja, hogy a rendszer pontosabban felismerje a mentális stressz jeleit, és empatikus, biztonságos válaszokat adjon, miközben a valódi segítség felé irányítja a felhasználókat.
Az OpenAI közleménye szerint a ChatGPT heti mintegy 800 millió aktív felhasználója közül körülbelül 0,15 százalék, azaz több mint 1,2 millió ember oszt meg a chatbotnak öngyilkossági szándékra utaló információkat. A beszélgetések további 0,05 százalékában - mintegy 400 ezer esetben - a rendszer explicit vagy implicit módon azonosított öngyilkossági gondolatokat. A cég adatai szerint ezen túl mintegy 560 ezer felhasználó mutatott pszichózissal vagy mániás epizódokkal összefüggő jeleket, míg körülbelül 1,2 millióan érzelmileg túlzott mértékben kötődnek a chatbothoz.
A vállalat közölte, hogy több tucat mentálhigiénés szakértővel működik együtt világszerte annak érdekében, hogy a ChatGPT jobban felismerje a mentális krízis jeleit, és a jövőben biztonságosabban reagáljon a veszélyeztetett felhasználók üzeneteire. A mesterséges intelligenciát úgy képezik, hogy krízishelyzetben ne pusztán "válaszoljon", hanem irányt mutasson a felhasználónak a szakmai segítség felé - például krízisvonalak vagy helyi pszichológiai szolgálatok elérhetőségein keresztül.
Az OpenAI közleménye külön kitért arra, hogy a ChatGPT-t mostantól érzékenyebbre hangolják a téveszmés vagy valóságtól elszakadt beszélgetések során is. A cél, hogy az AI "biztonságosan és empatikusan" reagáljon, de ne erősítse meg a felhasználó téves hiedelmeit - ez különösen fontos a szakértők által "AI-pszichózisnak" nevezett jelenség megelőzésében. A pszichiáterek szerint ugyanis egyre gyakoribb, hogy a felhasználók hosszabb távon olyan szoros érzelmi kapcsolatot alakítanak ki a chatbotokkal, amely torzítja a valóságérzékelésüket, sőt, akár függőségi viselkedéshez is vezethet.
A mesterséges intelligencia térnyerése új korszakot hozott a digitális életmód területén: sokan fordulnak a chatbotokhoz tanácsért, érzelmi támogatásért vagy egyszerű beszélgetésért. Ugyanakkor a szakértők egyre inkább arra figyelmeztetnek, hogy az ilyen rendszerek - bármennyire fejlettek is - nem helyettesíthetik a humán kapcsolatokból fakadó empátiát és a professzionális segítséget. A ChatGPT által bevezetett új biztonsági funkciók ezért nem csupán technológiai fejlesztések, hanem etikai és társadalmi válaszok is egy gyorsan terjedő digitális jelenségre.
A mentális egészség és a mesterséges intelligencia metszéspontja az egyik legnagyobb kihívássá vált a technológiai szektorban. Az OpenAI szerint a cél nem az, hogy a chatbot pszichológussá váljon, hanem hogy biztonságos kommunikációs környezetet teremtsen azoknak, akik bajban vannak.
Ha Ön vagy valaki a környezetében krízishelyzetben van,
Magyarországon hívja mobilról is a
116-123
ingyenes, lelki elsősegélyszámot!
