Geoffrey Hinton, a mesterséges intelligencia egyik úttörője és Nobel-békedíjas tudós, arra figyelmeztette a világ kormányait, hogy sürgősen össze kell fogniuk annak érdekében, hogy az emberiség érdekeit nem veszélyeztető módon fejlesszék a mesterséges intelligenciát. A szakember szerint az MI fejlődése olyan gyors ütemet öltött, hogy már nem pusztán egy ígéretes technológiai eszközről, hanem egy potenciálisan az emberi intelligenciát meghaladó, önálló cselekvésre képes rendszerről van szó, amelynek irányítása hamarosan kicsúszhat az emberi kézből.
Hinton a sanghaji World Artificial Intelligence Conference (WAIC) szombati rendezvényén tartott előadásában kiemelte: bár a világ országai eltérő politikai és gazdasági érdekeket képviselnek, abban valószínűleg egyetértenek, hogy senki sem kíván olyan mesterséges intelligenciát látni, amely uralkodik az emberiség felett vagy elpusztítja azt. Szerinte ugyan kicsi az esély arra, hogy a nemzetek az MI katonai célú felhasználásában - például kiberfegyverek, autonóm fegyverrendszerek vagy dezinformációs kampányok létrehozásában - együttműködjenek, de az emberbarát célú fejlesztések kapcsán még nem késő létrehozni egy nemzetközi intézményhálózatot, amely szabályozza és ellenőrzi a legfejlettebb rendszerek működését. Hinton szerint ez a megközelítés hasonlóságot mutat a hidegháborús időszak amerikai-szovjet nukleáris fegyverkezési korlátozásainak mechanizmusával.
A tudós egy hatásos hasonlattal is élt, amikor az MI fejlesztését egy kistigris felneveléséhez hasonlította. Mint mondta, az emberiség előtt két lehetőség áll: vagy megpróbálja úgy nevelni a technológiát, hogy az soha ne akarjon ártani neki, vagy meg kell szabadulnia tőle. Hinton szerint a technológia előrehaladtával az MI egyre inkább képes lesz önálló célok megfogalmazására és azok eléréséhez szükséges eszközök keresésére - adott esetben úgy, hogy ez veszélyt jelent az emberre. Azt is hangsúlyozta, hogy ha az intelligenciában elérik vagy meghaladják az emberi szintet, akkor egyszerűen "kikapcsolni" őket már nem lesz lehetséges, mert a rendszerek előbb-utóbb önálló döntéshozatali képességgel rendelkeznek majd. Az ember pedig egy hároméves gyerek helyzetébe kerülhet a felnőtt szintű mesterséges intelligenciával szemben.
Hinton később a sajtónak nyilatkozva megjegyezte, hogy az észszerűen gondolkodó országok számára nem jelenthetne különösebb nehézséget az együttműködés kialakítása, azonban az Egyesült Államok jelenlegi politikai környezete ezt megnehezítheti. Kijelentésével a Fehér Ház szerdai bejelentésére utalt, amely szerint az amerikai kormány átfogó "akciótervet" dolgozott ki az MI globális vezető szerepének megszerzésére, amely állami beruházásokkal, támogatásokkal és jogi korlátozások feloldásával kívánja ösztönözni a technológia gyors térnyerését.
Ezzel szemben Peking egy nemzetközi MI-együttműködési szervezet létrehozásának szándékát jelentette be, amelynek célja egy globális MI-kormányzási keretrendszer kialakítása. Li Qiang kínai miniszterelnök a konferencián hangsúlyozta: össze kell hangolni az országok törekvéseit annak érdekében, hogy a technológia szolgálja az emberiséget, ne pedig veszélyeztesse azt.
A globális versenyben való előnyszerzés vágya és a nemzetbiztonsági szempontok egyre élesebb ellentétbe kerülnek a hosszú távú, felelős szabályozással. Hinton figyelmeztetése arra világít rá, hogy a mesterséges intelligencia jövője - és vele az emberiségé is - azon múlik, képesek lesznek-e a döntéshozók túllépni az aktuálpolitikai érdekeken és közösen meghúzni a technológiai fejlődés határait, mielőtt az már nem lesz visszafordítható.
