Mikor ne hagyatkozzon az orvos a mesterséges intelligenciára?
Az elmúlt évtizedben a mesterséges intelligencia a technológiai laboratóriumokban használt kutatási eszközből a diagnosztikai helyiségek és orvosi klinikák egyre inkább jelenlévő elemévé vált világszerte. A mélytanulási rendszerek képessé váltak a radiológiai képek nagy pontosságú elemzésére, a daganatok korai stádiumban történő kimutatására, és egyes betegségek előrejelzésére, mielőtt azok tünetei megjelennének. Sőt, hatalmas mennyiségű orvosi adat elemzése alapján javasoljon lehetséges kezelési utakat.
A mesterséges intelligencia határai
• A mesterséges intelligencia alkalmazásának egyértelmű korlátai. Ez a gyors fejlődés azonban egy nagyon fontos kérdést vet fel a kortárs orvosi gyakorlatban: Mikor ne hagyatkozzon az orvos a mesterséges intelligenciára?
Ahogy e technológiák felhasználása bővült, a nemzetközi egészségügyi intézmények világos korlátokat kezdtek szabni használatukra. A jelentősebb szabályozó testületek, mint például az Egészségügyi Világszervezet, valamint az Egyesült Államok, Európa és Nagy-Britannia gyógyszerszabályozó testületei iránymutatást adtak ki, amely megerősíti, hogy a mesterséges intelligencia hatékony eszköz lehet az egészségügyi ellátás támogatásában, de nem helyettesítheti a klinikai megítélést vagy az orvosi felelősséget.
Ez az oka annak, hogy a tudományos és szabályozási irodalom elkezdte azonosítani azokat a konkrét helyzeteket, amelyekben a mesterséges intelligencia alkalmazása nem megfelelő, sőt nem biztonságos a betegellátásban.
• Eszköz és tekintély között: A nemzetközi egészségügyi testületek által elfogadott alapelv egyszerű és világos: a mesterséges intelligencia fejlett analitikai eszköz, de nem egészségügyi szaktekintély. Ezek a rendszerek hatalmas mennyiségű orvosi adat feldolgozására és olyan minták felfedezésére képesek, amelyeket az emberek nehezen vehetnek észre, de nem képesek orvosi felelősséget vállalni, vagy a páciens emberi állapotának minden dimenzióját megérteni.
Az orvosi döntés nem kizárólag az adatok elemzésén vagy az orvosi képek leolvasásán múlik; Tartalmazza továbbá az orvos klinikai tapasztalatát, a páciens egészségügyi történetének megértését, valamint a diagnózist és a kezelést befolyásoló szociális és pszichológiai körülményeket. Ezért az orvosi mesterséges intelligencia etikájára vonatkozó nemzetközi irányelvek megerősítik, hogy e rendszerek szerepének az orvosi döntések támogatásának, nem pedig azok helyettesítésének keretein belül kell maradnia.
Ezzel összefüggésben az egészségügyi és szabályozó testületek elkezdték azonosítani azokat a helyzeteket, amelyekben az MI-t óvatosan kell alkalmazni, vagy akár kerülni kell a betegek ellátásában.
Nemzetközi ajánlások
A legújabb nemzetközi irányelvek azt jelzik, hogy a mesterséges intelligencia egészségügyi ellátásban való alkalmazásának egyértelmű határok között kell történnie, biztosítva a betegek biztonságát és az orvosi döntések függetlenségét. Az Egészségügyi Világszervezet 2021-ben kiadott, majd a digitális egészségügyi jelentésekben frissített, a mesterséges intelligencia etikájával foglalkozó ajánlásaiban, valamint az Amerikai Orvosi Szövetség a mesterséges intelligencia orvosi gyakorlatban való alkalmazásáról szóló irányelveiben hangsúlyozta, hogy ezek a rendszerek hatékony eszközök lehetnek a diagnózis és a kezelés támogatásában, de nem használhatók minden esetben, és nem helyettesíthetik az orvos klinikai megítélését.
Ez az oka annak, hogy az orvosi és szabályozási irodalom elkezdte azonosítani azokat az egyértelmű eseteket, amikor a mesterséges intelligencia alkalmazása nem megfelelő, vagy akár nem is biztonságos a betegellátásban. Ezen ajánlások fényében 10 fő esetbe foglalhatók össze azok a legkiemelkedőbb esetek, amelyekben az orvosi gyakorlatban kerülni kell a mesterséges intelligenciára támaszkodást.
• Az első eset – amikor a rendszer tudományosan nem igazolt: A modern orvoslás alapszabálya, hogy minden új technológiát szigorú tudományos értékelésen kell átesni, mielőtt a betegellátásban alkalmazzák. Ez különösen igaz az orvosi mesterséges intelligencia rendszerekre. Azokra a modellekre, amelyeket nem teszteltek le szakértői folyóiratokban publikált tudományos tanulmányokban, nem értékelték valódi klinikai vizsgálatokban, vagy amelyeket az illetékes szabályozó hatóságok nem hagytak jóvá, nem szabad diagnosztikai vagy terápiás döntések meghozatalakor támaszkodni. A betegek biztonsága megköveteli, hogy ezek a rendszerek pontosak és megbízhatóak legyenek, mielőtt bevezetnék őket a klinikai gyakorlatba.
• A második eset – amikor az adatok nem valós betegeket reprezentálnak: A mesterséges intelligencia rendszerek azokra az adatokra támaszkodnak, amelyekre képezték őket. Ha ezek az adatok nem képviselik azokat a populációkat, amelyekkel a rendszert használni fogják, az diagnosztikai hibákhoz vagy súlyos orvosi torzításokhoz vezethet. Egy adott régióból vagy népességcsoportból származó betegek adatai alapján kifejlesztett rendszer nem biztos, hogy ugyanazt az eredményt adja, ha eltérő genetikai vagy környezeti hátterű betegekkel használják. A szakértők ezért hangsúlyozzák annak szükségességét, hogy a képzési adatok tükrözzék a betegek sokféleségét az orvosi valóságban.
• A harmadik eset – amikor a döntésből „fekete doboz” lesz: Az orvosi mesterséges intelligencia területén az egyik széles körben vitatott kérdés az úgynevezett „fekete doboz” probléma. Egyes fejlett rendszerekben az algoritmus adhat orvosi következtetést vagy ajánlást anélkül, hogy egyértelmű lenne, hogyan jutott erre a következtetésre.
Az orvosi gyakorlatban nem elég, ha a döntés technikailag helyes; Inkább érthetőnek és értelmezhetőnek kell lennie. Az orvosoknak ismerniük kell az orvosi értékelés alapjait, hogy át tudják tekinteni és össze tudják hasonlítani a páciens klinikai adataival. Ez az oka annak, hogy számos orvosi irányelv óva int attól, hogy olyan mesterséges intelligencia-rendszerekre hagyatkozzunk, amelyek nem biztosítanak kellő mértékű átláthatóságot működésükben vagy eredményeik értelmezésében.
Ellentmondás a klinikai ítélettel
• 4. eset – Ha ütközik a klinikai ítélettel: Egyes esetekben a mesterséges intelligencia rendszerek olyan ajánlást vagy értékelést adhatnak, amely eltér a klinikus megítélésétől. Ilyen esetekben a nemzetközi irányelvek megerősítik, hogy a végső orvosi döntést az orvosnak kell meghoznia. Az algoritmusok adatelemzésen és statisztikai mintákon alapulnak, míg a klinikai megítélés az orvos tapasztalatán és a beteg állapotának, valamint annak orvosi és humanitárius összefüggéseinek teljes megértésén alapul. Ezért, ha ütközés lép fel az intelligens rendszer ajánlása és az orvos értékelése között, az AI-kimeneteket az áttekintés segédeszközeként kell kezelni, nem pedig a felelős orvosi döntéshozatal helyettesítőjeként.
• 5. eset – Ha a rendszert a hatókörén kívül használják: Az AI-rendszereket az orvostudományban általában pontosan meghatározott feladatok elvégzésére fejlesztették ki, mint például a röntgenképek elemzése vagy egy adott állapot diagnosztizálásának segítése. Ha a rendszert azon a hatókörön kívül használják, amelyre tervezték, az pontatlan eredményeket vagy ajánlásokat eredményezhet. Ez az oka annak, hogy a szabályozási útmutatás hangsúlyozza, hogy az AI-rendszerek használatát arra az orvosi célra kell korlátozni, amelyre azokat kifejlesztették és tesztelték. Ennek a tartománynak a túllépése ugyanis veszélyeztetheti az orvosi döntés integritását.
• Hatodik eset – amikor a rendszer elavulttá válik: Mint minden más technikai rendszer, az orvosi mesterséges intelligencia rendszerek is elveszíthetik pontosságuk egy részét idővel. Ez azért történik, mert az orvosi adatok és a betegségek mintái folyamatosan változnak, amit a kutatók néha „paradigmadegradációnak” neveznek. Ez az oka annak, hogy a nemzetközi egészségügyi szervezetek hangsúlyozzák, hogy ezeket a rendszereket folyamatosan figyelemmel kell kísérni és rendszeresen frissíteni kell annak érdekében, hogy pontosak és biztonságosak maradjanak. Ha olyan rendszerre hagyatkozik, amelyet nem frissítettek, vagy amelynek eredményeit sokáig nem vizsgálták felül, az kevésbé pontos orvosi döntésekhez vezethet, mint az magától a technológiától elvárható lenne.
Az átláthatóság és az orvosi irányítás hiánya
• A hetedik eset – amikor nincs átláthatóság: Bármely egészségügyi rendszerbe vetett bizalom a működésének egyértelműségétől és használatának korlátaitól függ. Ha a fejlesztők nem hozzák nyilvánosságra azokat az adatforrásokat, amelyek alapján a rendszert betanították, a lehetséges hibaarányokat vagy azokat az eseteket, amikor a rendszer meghibásodhat, akkor az orvosok nehezen tudják értékelni a technológia megbízhatóságát. A szabályozói iránymutatások éppen ezért hangsúlyozzák, hogy a mesterséges intelligencia egészségügyben történő alkalmazásának előfeltétele az átláthatóság. Mert az orvosi döntés nem alapozható olyan rendszerre, amelynek korlátait vagy gyengeségeit az orvos nem ismeri.
• A nyolcadik eset – amikor a beteg megtagadja az alkalmazást: A tájékozott beleegyezés elve a modern orvoslás egyik etikai alapja. Ezért a betegnek joga van tudni, hogy mesterséges intelligencia rendszereket használnak-e állapotának diagnosztizálására vagy kezelési döntései támogatására. Joga van továbbá megtagadni ezen technikák alkalmazását, ha nem érzi jól magát velük. Ilyen esetekben tiszteletben kell tartani a beteg döntését; Mert az orvosi kapcsolat alapvetően az orvos és a beteg közötti bizalomra és átláthatóságra épül.
• A kilencedik eset – amikor hiányzik az orvosi irányítás, vagyis amikor az egészségügyi intézményen belül nincs egyértelmű elszámoltathatósági rendszer, és nincs nyomon követése az intelligens rendszer teljesítményének. A mesterséges intelligencia biztonságos használatához világos felügyeleti mechanizmusokra van szükség annak biztosítására, hogy az eredményeket felülvizsgálják, és hiba esetén meghatározzák a felelősséget.
• A tizedik eset – amikor nincs megfelelő adatvédelem:
Ha a rendszer nem garantálja az orvosi adatok és a betegek magánéletének védelmét a jóváhagyott szabályozási szabványoknak megfelelően. Az egészségügyi adatok az egyik legérzékenyebb információ, és a mesterséges intelligencia bármely felhasználásának meg kell felelnie a legmagasabb szintű digitális biztonság és adatvédelem követelményeinek.
A legújabb kutatások…és szaúdi etikai normák
• Mit mondanak a legújabb kutatások? : A legújabb tudományos vizsgálatok azt mutatják, hogy a mesterséges intelligencia orvosi alkalmazásának sikere nem csak az algoritmusok pontosságán múlik; De az is, hogy az orvosok és a betegek milyen mértékben bíznak ezekben a rendszerekben.
A Journal of Medical Internet Research 2025 januárjában megjelent tudományos tanulmányában a mesterséges intelligencián alapuló orvosi döntéstámogató rendszerekbe vetett bizalmat befolyásoló tényezőkről a kutatók megállapították, hogy az orvosok hajlamosak ezeket a rendszereket akkor használni, ha eredményeik értelmezhetők, és ha egyértelmű tudományos értékelésnek vetik alá őket. A tanulmány azt is kimutatta, hogy a mesterséges intelligenciába vetett bizalom szorosan összefügg a végső döntés feletti közvetlen orvosi felügyelet jelenlétével, ami megerősíti azt az elképzelést, hogy ezeknek a technológiáknak orvosi döntéstámogató eszközként kell működniük, nem pedig az orvos klinikai megítélésének helyettesítőjeként.
A mesterséges intelligencia etikai normái Szaúd-Arábiában:
A Szaúd-Arábiai Királyságban a Szaúd-Arábia Adat- és Mesterséges Intelligencia Hatóság (SDAIA) kiadott egy nemzeti keretrendszert a mesterséges intelligencia etikájára vonatkozóan, amely a régió egyik legkiemelkedőbb szabályozási kerete, amely szabályozza e technológiák használatát a különböző ágazatokban, beleértve az egészségügyet is. Ez a keretrendszer egy sor alapelven alapul, többek között: igazságosság, átláthatóság, felelősség, a magánélet védelme és a biztonságos használat biztosítása.
Ez a szabályozási keret hangsúlyozza, hogy a mesterséges intelligencia egészségügyi területen történő felhasználásának az orvos klinikai döntésének támogatására és az orvosi ellátás minőségének javítására kell irányulnia, nem pedig az orvos orvosi megítélését vagy szakmai felelősségét helyettesíteni. Ez a tendencia összhangban van azokkal a nemzetközi standardokkal, amelyek kiemelik, hogy a mesterséges intelligencia az orvosi adatok elemzésének segédeszköze, míg a kezelési döntés végső felelőssége az orvosé.
