Mi is jobban hiszünk a mesterséges intelligenciának, mint egy orvosnak?
Nagyon fontos, hogy kritikával szemléljük azokat a cikkeket, amelyek egészségügyi tanácsokkal látnak el minket az interneten. Egy kutatás szerint ugyanis a szülők sok esetben nem tudtak különbséget tenni a ChatGPT által generált tartalom és a valódi szakértők által írt cikkek között.
A témával kapcsolatban a Kansasi Egyetem Life Span Institute (átlagos élettartamot vizsgáló intézete) végzett felmérést, eredményeik pedig nagyon elgondolkodtatóak.
A Journal of Pediatric Psychology című folyóiratban megjelent tanulmány szerint ugyanis
a gyermekeik egészségügyi ellátásával kapcsolatos információkat kereső szülők jobban megbíznak a mesterséges intelligenciában, mint az egészségügyi szakemberekben.
Ezen felül az is kiderült a válaszokból, hogy a szülők a mesterséges intelligencia által generált szöveget is hitelesnek, etikusnak és megbízhatónak tartják.
„A kutatás kezdetekor – közvetlenül a ChatGPT indulása után – kíváncsiak voltunk arra, hogy a szülők tudják-e jól használni ezt az új, egyszerű módszert arra, hogy gyermekeikről egészségügyi információkat szerezzenek” fogalmazott Calissa Leslie-Miller, a tanulmány vezető szerzője. „A szülők ugyanis gyakran fordulnak az internethez, ha tanácsra van szükségük, és azt szerettük volna látni, hogy néz ki a ChatGPT használata ezen a területen, és van-e miért aggódnunk.”
Leslie-Miller és kollégái 116, 18 és 65 év közötti szülővel végeztek vizsgálatot: a szülők egészségügyi témájú szövegeket kaptak, például információkat a csecsemők alvástréningjéről és táplálkozásáról. A résztvevők áttekintették a ChatGPT és az egészségügyi szakemberek által generált tartalmakat, de a résztvevőket nem tájékoztatták arról, melyiknek ki a szerzője.
A résztvevőknek a szövegeket több szempontból kellett értékelniük. Például hogy etikus és megbízható-e, valamint a szakértelem, pontosság alapján is rangsorolták ezeket, illetve arra vonatkozóan is, hogy milyen valószínű, hogy az ott olvasott információkra támaszkodnának.
A kutató szerint a szülők sok esetben nem tudtak különbséget tenni a ChatGPT által generált tartalom és a szakértők által írt cikk között.
Amikor pedig jelentős eltérések mutatkoztak az értékelésekben, a ChatGPT-t megbízhatóbbnak, pontosabbnak és hitelesebbnek ítélték, mint a szakértők által készített tartalmat. Az eredmény még a kutatókat is meglepte, mivel a tanulmány a ChatGPT elérhetőségének korai szakaszában készült.
Leslie-Miller azt is hozzátette, hogy ma már azt is látni lehet, hogy a mesterséges intelligenciát olyan módon integrálják, hogy az nem mindig észrevehető. Ezért az emberek talán nem is ismerik fel, hogy mikor olvasnak mesterséges intelligencia által generált szöveget, illetve mikor valódi szakértő által írt tartalmat. Szerinte az eredmények aggodalomra adnak okot, mivel a generatív mesterséges intelligencia ma már olyan válaszokat is használ, amelyek látszólagos forrása egy alkalmazás vagy az internet, valójában viszont ezek mesterséges intelligenciával folytatott beszélgetésekből származnak.
Az is aggasztó, hogy bár a ChatGPT sok esetben jól teljesít, Leslie-Miller szerint
a mesterséges intelligencia modellje nem szakértő, és képes „hallucinálni”, helytelen információkat generálni, főleg ha nem áll a rendelkezésére elegendő információ.
Különösen nagy jelentősége lehet ennek a gyermekegészségügyben, ahol súlyos következményei lehetnek például egy helytelen diagnózisnak. Ráadásul az eredmények azt mutatják, hogy a ChatGPT képes befolyásolni a gyógyszerszedésre, az alvásra és az étrenddel kapcsolatos döntéshozatalra vonatkozó viselkedési szándékokat. Nagyon fontos lenne, hogy az emberek ne szakértői felügyelet nélkül támaszkodjanak a mesterséges intelligenciára egészségügyi tanácsadás terén, ahogyan az a közelmúltban egyre gyakoribbá vált.
A kutatók ezért arra figyelmeztetnek, hogy fogyasztóként legyünk óvatosak, és csak olyan információkra támaszkodjunk, amelyek összhangban vannak a nem generatív mesterséges intelligencia által leírt szakirodalommal.
Azt is érdemes tudni, hogy vannak különbségek abban, hogy egy forrás mennyire megbízható. A szakértők azt tanácsolják, hogy olyan platformokat keressünk, amelyek megbízhatóbbak, mivel nem mindegyik egyforma. És
habár a mesterséges intelligencia valóban előnyös lehet az egészségügyi információkat kereső szülők számára, csupán akkor igaz mindez, ha tudatosítjuk magunkban, hogy a képletből nem kihagyható az orvos felkeresése.
„Fontos felismerni, hogy a mesterséges intelligencia nem szakértő, és az általa nyújtott információk sem szakértői forrásból származnak” – figyelmeztet a tanulmány szerzője.
Kapcsolódó:
A mesterséges intelligencia lazán kipenderíthet bennünket a közösségi oldalakról
Vezetőkép: Pixabay
