Vészjósló vélemények – „A mesterséges intelligencia az emberiség pusztulásához is vezethet”
Lemondott az amerikai Anthropic mesterségesintelligencia-fejlesztő vállalatnál betöltött állásáról Jacob Coxon brit kutató, aki szerint az MI vezető fejlesztői felelőtlenül járnak el, és a technológia akár az emberiség pusztulásához is vezethet. Hasonlóan vészjósló kijelentés hangzott el a hét elején az ENSZ-ben is.
A 27 éves kutató az X-en azt írta, hogy a közeljövőben olyan, az emberi képességeket meghaladó rendszerek jelenhetnek meg, amelyek „mindent fel tudnak törni”, és valódi hatalomhoz, illetve erőforrásokhoz juthatnak. Szerinte az MI fejlesztői komolyan úgy vélik, hogy a technológia az évtized végéig minden embert megölhet. Coxon a The Wall Street Journalnak azt mondta,
a legagresszívebb forgatókönyvek szerint már a jövő év végére kikerülhet az irányítás alól a folyamat.
Evan Hubinger, az Anthropic MI-biztonsággal foglalkozó kutatója megerősítette Coxon aggodalmait. Saját becslése szerint több mint tíz százalék annak a kockázata, hogy az MI a következő évtizedben kiirtja az emberiséget.
Az MI biztonságával kapcsolatban az OpenAI kutatási vezetője, Jakub Pachocki is „rendkívüli óvatosságot” sürgetett. Szerinte
a rendszerek fejlesztése során gyakran maguk a kutatók is meglepődnek a nagy léptékű tanítás eredményein, ezért minél inkább meghaladják a gépek az emberi képességeket, annál nehezebb lesz megérteni és ellenőrizni a működésüket.
A kockázatokat az utóbbi időszakban olyan tesztek is felerősítették, amelyekben MI-ügynökök önállóan próbáltak bejutni más rendszerekbe. Egy OpenAI-kísérletben egy modell kijutott az elszigetelt tesztkörnyezetből az internetre, majd feltörte az MI-platform Hugging Face rendszerét. Az eset nem okozott kárt, de jelezte, hogy az MI-rendszerek a fejlesztőik által nem várt módon is cselekedhetnek
Az emberiség létét is veszélyeztetheti a mesterséges intelligencia (MI) fejlődése, ezért idejekorán szigorú garanciákat kell teremteni a biztonságos alkalmazásához
– jelentette ki Volker Türk, az ENSZ emberi jogi főbiztosa hétfőn Genfben.
Az ENSZ Emberi Jogi Tanácsában felszólaló Türk azt mondta, osztja az ágazat szereplőinek aggodalmát, miszerint a mesterséges intelligencia „egzisztenciális kockázatot jelenthet az emberiségre”.
„Mindent meg kell tennünk azért, hogy sziklaszilárd garanciákat teremtsünk a mesterséges intelligencia biztonságához, mielőtt túl késő lesz”
– fogalmazott. 
A főbiztos arra is figyelmeztetett, hogy az MI feletti szinte korlátlan hatalom mindössze néhány ember kezében összpontosul. Meglátása szerint az MI fejlesztésében és ellátási láncaiban érintett országoknak közösen kellene meghatározniuk azokat a határokat, amelyeket az MI fejlesztése során nem szabad átlépni.
A mesterséges intelligencia fejlesztésének meghatározó szereplői közé tartozik egyebek mellett a Meta, az Anthropic, az OpenAI és a Google.
Az ágazat vezető vállalatainak több vezetője, köztük Sam Altman, az OpenAI vezérigazgatója is figyelmeztetett már arra, hogy a mesterséges intelligencia az emberiség kihalásának kockázatát is magában hordozhatja.
Az ENSZ a mesterséges intelligenciával járó kockázatok mérséklése érdekében nemzetközileg összehangolt szabályozást sürget. A világszervezet júliusban tartotta az MI szabályozásával és irányításával foglalkozó első globális találkozóját.
Vezetőkép: illusztráció. Forrás: magnific.com
