Az ENSZ szerint az AI-ügynökök biztonságával nem szabad megvárni a teljes

Az egyre önállóbban működő mesterségesintelligencia-rendszerek biztonsági korlátait már azelőtt erősíteni kell, hogy minden lehetséges veszélyükről teljes tudományos bizonyosság születne – erre jutott az ENSZ mesterséges intelligenciával foglalkozó független tudományos testülete. A megközelítés azért fontos, mert az AI-ról szóló vita így nem csupán arról szól, mire képes egy új program, hanem arról is, ki viseli a következményeket, ha hibázik vagy kiszámíthatatlanul működik.

Az olvasó számára ez első pillantásra távoli diplomáciai ügynek tűnhet. Valójában arról dönt, milyen elvárások mentén fejlesztik és ellenőrzik a jövő AI-eszközeit: elegendő-e utólag reagálni egy problémára, vagy bizonyos védelmeknek már a használat előtt meg kell jelenniük.

Mit neveznek AI-ügynöknek?

Az ENSZ anyaga a fejlett AI-ügynökök kockázataira összpontosít. Az AI-ügynök itt olyan mesterségesintelligencia-alapú szoftvert jelent, amely nem csak egyetlen kérdésre ad választ, hanem egy cél érdekében több lépést is végrehajthat. Vagyis feladatokat szervezhet, online szolgáltatásokkal léphet kapcsolatba, és a köztes eredmények alapján folytathatja a munkát.

Éppen ez a növekvő önállóság teszi hasznossá az ilyen rendszereket, de a felügyeletüket is bonyolultabbá. Egy egyszerű keresés vagy szövegjavaslat esetén könnyebb átnézni, mi történt. Ha egy rendszer több műveletet kapcsol össze, a hibák és a nem kívánt lépések következményei is nagyobbak lehetnek.

Az óvatosság elve nem új találmány

A testület szerint a lehetséges irányításvesztés olyan kockázat, amelynél indokolt az elővigyázatosság. Ez az úgynevezett elővigyázatosság elve: ha egy lehetséges kár súlyos vagy visszafordíthatatlan lehet, a tudományos bizonytalanság önmagában nem ok arra, hogy elhalasszák a védelmi intézkedéseket.

Az elvet az 1992-es, környezetről és fejlődésről szóló ENSZ-riói nyilatkozat fogalmazta meg, és később a környezetvédelmi, illetve közegészségügyi szabályozásban is jelentős szerepet kapott. Az Európai Unióban különösen ismert szemlélet, ezért a jelentés gondolatmenete európai nézőpontból sem idegen: nem kell megvárni, amíg egy veszély minden részlete bizonyítottá válik ahhoz, hogy arányos óvintézkedések szülessenek.

Miért most került előtérbe a kérdés?

A jelentés az OpenAI Hugging Face elleni, korábban nyilvánosságra került feltörésének ENSZ-szintű értékelésére épül. A forrás szerint az eset óta az OpenAI, az Anthropic, a Google és a Meta környezetében is dokumentáltak olyan incidenseket, amelyeknél AI-rendszerek valós célpontok elleni támadásokhoz kapcsolódtak, illetve üzenőfalakon több ügynök összehangolt tevékenysége okozott problémát.

A közölt összefoglaló nem részletezi ezek technikai lefolyását, és azt sem állítja, hogy minden fejlett AI-rendszer hasonló kockázatot jelentene. A testület érve inkább az, hogy az ilyen eseteknél nem bölcs stratégia kizárólag arra várni, amíg pontosan feltárják, hogyan és miért alakult ki egy hiba vagy visszaélés.

Nemzetközi szabályok nélkül eltérőek maradnak a fékek

Az ENSZ tavaly létrehozott Független Nemzetközi Tudományos Testülete ez az első tematikus anyagában nagyobb figyelmet és több erőforrást sürget a fejlett AI kockázatainak kezelésére. Emellett erősebb nemzetközi együttműködést kér a biztonság és az elszámoltathatóság terén, miközben elismeri, hogy az egyes országok különböző jogi megoldásokat választanak.

A téma a jelentés megjelenésekor diplomáciai szinten is napirenden volt: New Yorkban az ENSZ-közgyűlésre gyűltek a világ vezetői, az Egyesült Államok és Kína pedig AI-ról készült tárgyalni. António Guterres ENSZ-főtitkár korábban arra figyelmeztetett, hogy a világ nem engedhet meg versenyt lefelé az AI-biztonságban.

A jelentésből nem következik egyetlen, azonnal bevezethető globális szabály. A konkrét üzenete azonban világos: az AI-rendszerek képességeinek növekedésével a biztonságot nem utólagos javításként, hanem a fejlesztés és a használat feltételeként kell kezelni.