Az evolúcióra képes mesterséges intelligencia veszélyeire figyelmeztetnek kutatók
közeljövőben megjelenhetnek az úgynevezett evolúcióképes mesterséges intelligencia (MI) rendszerek (Evolvable AI – eAI), amelyek már a darwini evolúció valamennyi kritériumának megfelelnek, és ez különös veszélyt jelenthet – figyelmeztetnek legújabb tanulmányukban a HUN-REN Ökológiai Kutatóközpont, az Eötvös Loránd Tudományegyetem (ELTE), valamint a Belga Királyi Flamand Tudományos és Művészeti Akadémia (KVAB) kutatói.
Az ELTE csütörtöki közleménye szerint a PNAS című tudományos folyóiratban április 20-án megjelent tanulmányban a kutatók azt írják: hamarosan létrejöhetnek olyan evolválódó MI-rendszerek, amelyek képesek darwini evolúción alapuló fejlődésre. A kutatók szerint ezek a rendszerek különleges kockázatokat hordoznak, amelyek az evolúcióbiológia gondolati keretei alapján jobban megérthetők és mérsékelhetők.
„Az evolúció ereje világosan megmutatkozik a biológiai evolúció történetében, amely létrehozta az emberi elme kognitív képességeit” – hívta fel a figyelmet a közleményben Szathmáry Eörs, a HUN-REN Ökológiai Kutatóközpont és az ELTE evolúcióbiológia-professzora, a pöckingi Parmenides Center for the Conceptional Foundations of Science igazgatója, a tanulmány vezető szerzője.
„Elkerülhetetlennek tartjuk, hogy az MI-rendszerek fejlesztése – valószínűleg már a közeli jövőben – építeni fog a teljes körű evolúciós folyamatok erejére” – tette hozzá Luc Steels, a KVAB robotika- és MI-professzora, a cikk vezető társszerzője.
A tanulmány rámutat, hogy az MI-kutatásban már jelenleg is megjelennek egyes evolúciós elvek és komponensek, és azt is bemutatja, hogy a további fejlesztések – különösen az ágensekre épülő mesterséges intelligencia – miként vezethetnek rövid időn belül olyan rendszerekhez, amelyek már a valódi darwini evolúció valamennyi kritériumának megfelelnek.
Az ilyen rendszerek új korszakot nyithatnak az MI fejlődésében: képesek lehetnek áttörni azokat a korlátokat, amelyek még a mai tanuló MI-rendszerek számára is nehezen leküzdhetők. Ezek a rendszerek azonban különleges kockázatot is hordozhatnak.
„A biológiai evolúció példái azt sugallják, hogy az evolválódó MI-rendszereket különösen nehéz lesz kontroll alatt tartani” – figyelmeztet Müller Viktor evolúcióbiológus, az ELTE egyetemi docense, a tanulmány első szerzője.
A tanulmány biológiai és számítógépen szimulált evolúciós példákon keresztül szemlélteti, hogy az evolúció hajlamos „önző” tulajdonságokat létrehozni. Az eAI esetében ez növeli annak valószínűségét, hogy a rendszer eltérjen az ember által kijelölt céloktól.
A szerzők arra is felhívják a figyelmet, hogy bár az MI kockázataival kapcsolatban a legtöbbször a mesterséges általános intelligencia (artificial general intelligence – AGI) elérésére helyeződik a hangsúly – ez az a küszöb, ahol az MI minden kognitív feladatban eléri vagy meghaladja az emberi képességeket -, az evolúció példái azt mutatják, hogy a károkozás vagy manipuláció képességéhez nincs feltétlenül szükség kiemelkedő intelligenciára.
Mint írták, jó példa erre a veszettség vírusa, amely egyszerű szerveződésű kórokozóként is képes a megfertőzött emlősök manipulálására és kihasználására. Így az evolúcióképes mesterséges intelligencia már jóval az AGI megjelenése előtt eltérhet az ember által kijelölt céloktól, és komoly kockázatot jelenthet. A kockázathoz nem kell semmilyen különleges körülménynek teljesülnie: az MI-rendszerek és az emberiség használnak közös erőforrásokat, így egy hatékonyan önreprodukáló rendszer előbb-utóbb a számunkra életfontosságú erőforrásokat vonja el.
A szerzők arra is figyelmeztetnek, hogy a rendszerek önreprodukálásának korlátozására irányuló erőfeszítések – ha nem tökéletes a kontroll – éppen azokat a tulajdonságokat szelektálják legerősebben, amelyek lehetővé teszik az ellenőrzés kijátszását.
Ráadásul az általános evolúciós szabály mellett az eAI esetében ugyanebbe az irányba hat a szelekció speciális jellege: az MI-fejlesztések legfontosabb célja a kognitív képességek folyamatos javítása. „Míg az állatok több ezer éves tenyésztése a háziasított fajokat könnyebben kezelhetővé, jobban irányíthatóvá tette, az „intelligencia” növelésére irányuló szelekció az MI-rendszerek esetében növelheti annak esélyét és képességét, hogy megtévesszék az embereket és kivonják magukat az ellenőrzés alól” – figyelmeztetnek a kutatók.
A tanulmány végül arra is rámutat, hogy bár a természetes szelekción alapuló evolúció kontrollálása önmagában is rendkívül nehéz, az MI-rendszerek fejlődése több szempontból is gyorsabb és hatékonyabb lehet a biológiai evolúciónál. A biológiai szervezetekkel ellentétben az eAI képes lehet szerzett tulajdonságok örökítésére, sőt még arra is, hogy a saját működését, egyes komponenseit célzott tervezéssel javítsa ahelyett, hogy meg kellene várnia a hasznos változatokat létrehozó véletlenszerű mutációkat. „Az MI evolúciójának lehetséges sebessége mélységesen aggasztó” – állítja Luc Steels.
A szerzők olyan szabályozás kialakítását sürgetik, amely mérsékelheti az evolúcióképes mesterséges intelligenciához kapcsolódó veszélyeket. A legfontosabb szabály, hogy az MI-rendszerek reprodukciójának (másolásának, „szaporodásának”) teljes mértékben központosított emberi ellenőrzés alatt kell maradnia: tökéletes kontrollra van szükség – írják.
„Reméljük, hogy a figyelmeztetésünk időben érkezik, és a szabályozásokat még azelőtt be lehet vezetni, hogy az eAI valóban lendületet venne” – nyilatkozta Müller Viktor. Szathmáry Eörs hozzátette: „ha nem cselekszünk, az evolúció új „nagy átmenetének” tanúi lehetünk, amelyben az eAI felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán”- figyelmeztet az evolúcióbiológus.
A kutatást az Európai Kutatási Tanács, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal, valamint az Európai Innovációs Tanács támogatta.
Forrás: MTI. Vezetőkép: Chatgpt.
