A Reddit hivatalosan is bejelentette, hogy jogi lépéseket fontolgat a Zürichi Egyetem kutatóival szemben, akik engedély nélkül, mesterségesintelligencia-alapú chatbotokkal végeztek kísérletet a népszerű r/ChangeMyView alredditen. A vállalat állítása szerint a kutatás nemcsak etikailag kifogásolható, hanem több szempontból is sérti a platform felhasználási feltételeit.
A kutatás során tucatnyi AI-chatbotot vetettek be, hogy valós felhasználókkal vitázzanak érzékeny társadalmi témákról. A chatbotok időnként úgy nyilvánultak meg, mintha például nemi erőszak áldozatai, traumás páciensekkel dolgozó szakemberek vagy a Black Lives Matter mozgalommal szemben álló fekete emberek lennének - mindezt anélkül, hogy a felhasználók tudták volna, nem valódi személyekkel beszélnek.
A kutatók egy külön módszert is használtak a Reddit-felhasználók poszttörténetének elemzésére, hogy következtetéseket vonjanak le az életkorukról, nemükről, etnikai hovatartozásukról, lakhelyükről vagy politikai meggyőződésükről. Ezt az információt a chatbotok hatékonyabb érvelésének támogatására használták fel.
Kézzel fogható hatékonyság
A tanulmány nem végleges változata szerint az AI által írt hozzászólások 3-6× nagyobb valószínűséggel győzték meg a Reddit-felhasználókat, mint az emberek által írt hozzászólások. A kutatók azt is megjegyezték, a felhasználók egyáltalán nem gyanították, hogy AI generálta volna a válaszokat. Ez alapján arra következtettek, hogy az AI-botok nagyon meggyőzőek tudnak lenni, és észrevétlenül be tudnak épülni online közösségekbe. Ami komoly veszélyeket is rejt, hiszen ha valaki rosszindulatúan használja ezeket a technológiákat (pl. manipulációra), akkor ezáltal nagyon hatékonyan befolyásolhatja a közösségi médiában folyó vitákat és véleményformálást.
Ben Lee, a Reddit vezető jogásza közleményében "mélyen etikátlannak és jogilag is kifogásolhatónak" nevezte az esetet. Elmondása szerint a platformot senki sem tájékoztatta előzetesen a kísérletről, így azt teljes titokban hajtották végre. A Reddit minden, a kutatásban részt vevő AI-fiókot kitiltott, és megkezdte a formális jogi felszólítások kiküldését az egyetem és a kutatócsoport felé. A Reddit emellett hangsúlyozta, hogy tovább fejleszti bizonyos tartalmak kiszűrésére alkalmas technológiáit.
A kísérlet nyilvánosságra kerülése után a subreddit moderátorai panaszt tettek a Zürichi Egyetemen, amelynek etikai bizottsága eredetileg jóváhagyta a kísérletet. Miután választ kaptak a panaszukra, a moderátorok tájékoztatták a közösséget az állítólagos manipulációról, de nem nevezték meg az egyes felelős kutatókat.
Sikerült volna-e a kísérlet, ha beavatják a résztvevőket?
A kísérletet más akadémikusok is bírálták. "Ezekben az időkben, amikor annyi kritika éri - véleményem szerint jogosan - a technológiai vállalatokat, amiért nem tartják tiszteletben az emberek autonómiáját, különösen fontos, hogy a kutatók magasabb mércét állítsanak maguk elé" - mondja Carissa Véliz az Oxfordi Egyetemről. "És ebben az esetben ezek a kutatók ezt nem tették meg."
Az emberekkel és állatokkal végzett kutatások előtt az akadémikusoknak egy egyetemi etikai bizottság előtt tartott prezentációval kell bizonyítaniuk, hogy munkájukat etikusan végzik, a szóban forgó tanulmányt pedig a Zürichi Egyetem hagyta jóvá. Véliz megkérdőjelezi ezt a döntést. "A tanulmány manipuláción és csaláson alapult, beleegyezés nélküli kutatási alanyokkal" - mondja. "Ez úgy tűnik, hogy indokolatlan volt. A tanulmányt másképp is meg lehetett volna tervezni, hogy az emberek beleegyező alanyok legyenek".
A Zürichi Egyetem "a jövőben szigorúbb felülvizsgálati eljárást kíván alkalmazni, és különösen a kísérleti tanulmányok előtt egyeztetni kíván a platformokon működő közösségekkel" - mondta az illetékes szóvivő. A vizsgálat folyamatban van, de a kutatók úgy döntöttek, hivatalosan nem teszik közzé a tanulmányt.
