A mesterséges intelligencia egyre mélyebben hatol be a mindennapi életbe, és sokak számára már nem csupán információforrásként, hanem személyes tanácsadóként, sőt lelki támaszként is funkcionál. A ChatGPT-hez hasonló nyelvi modellek használata világszerte milliókat vonz, köztük fiatalokat és gyermekeket is, akik sokszor érzelmi vagy párkapcsolati kérdésekben kérnek segítséget a mesterséges intelligenciától. A jelenség azonban komoly adatvédelmi és jogi kérdéseket vet fel - hívta fel a figyelmet a This Past Weekend podcastban Sam Altman, az OpenAI vezérigazgatója. Altman szerint a jelenlegi jogi és technológiai környezet nem nyújt megfelelő védelmet a felhasználók számára, különösen akkor, ha érzékeny, személyes információkat osztanak meg az AI-jal. Rámutatott, hogy míg egy ügyvéd vagy terapeuta esetében a titoktartás jogilag védett, addig egy ChatGPT-vel folytatott beszélgetésre semmiféle jogi privilégium nem vonatkozik.
A helyzetet súlyosbítja, hogy az OpenAI-nak jelenleg nincs egységes és átlátható szabályozása az ilyen típusú adatok hosszú távú kezelésére. Bár a vállalat azt állítja, hogy a díjmentes verzióban folytatott beszélgetéseket 30 nap után törlik, jogi vagy biztonsági okokból egyes adatokat megőrizhetnek. Egy folyamatban lévő bírósági ügyben például - amelyet a The New York Times indított az OpenAI ellen szerzői jogsértés miatt - a cég kénytelen volt megőrizni felhasználói beszélgetések tömegeit, kivéve az üzleti ügyfelek által folytatott interakciókat. Altman szerint ez rendkívül aggasztó, mivel egy esetleges peres eljárás során előfordulhat, hogy a cég kénytelen lesz kiadni olyan bizalmas beszélgetéseket is, amelyek személyes traumákhoz, mentális egészségügyi problémákhoz vagy más érzékeny témákhoz kapcsolódnak.
A mesterséges intelligenciával való érzelmi kapcsolatfelvétel hatásait pszichológusok is vizsgálják. Egyes friss kutatások már arra utalnak, hogy a ChatGPT-vel való túlzott interakció akár pszichotikus epizódokat is előidézhet bizonyos felhasználókban, különösen azokban, akik hajlamosak a valóságérzékelési zavarokra. A kutatók szerint a digitális környezet - amely látszólag empatikus és állandóan elérhető tanácsadót kínál - fokozhatja az elszigeteltség érzését, és torzíthatja a mentális állapotot.
Az adatvédelem, a mesterséges intelligencia etikai határai és a jogi szabályozás kérdése tehát sürgetővé vált. A technológia előnyei és veszélyei közötti egyensúly megtalálása kulcsfontosságú lesz a következő években, különösen, ha az AI-t továbbra is egyre többen választják bizalmas beszélgetőtársuknak a valódi emberek helyett. Altman szerint a jelenlegi helyzet "nagyon félresiklott", és elengedhetetlen, hogy a társadalom és a törvényhozók mielőbb foglalkozzanak ezzel az újfajta intimitással, amely nem emberek, hanem algoritmusok között alakul ki.
